Futtass AI-t a saját gépeden 2026 – a legjobb helyi LLM programok magyarul

A ChatGPT, a Gemini és a Claude megszokottá tették, hogy az AI valahol egy távoli adatközpontban fut, mi pedig egy böngészőn keresztül beszélgetünk vele. Csakhogy közben csendben kialakult egy másik világ is: ma már egy átlagos otthoni gépen is elindíthatsz olyan nyelvi modelleket, amelyek néhány évvel ezelőtt még szuperszámítógépet igényeltek volna. A modellek hatékonyabbak lettek, a programok pedig annyira leegyszerűsödtek, hogy nem kell hozzá sem programozói tudás, sem parancssor.

Ez a „helyi AI" (angolul local AI vagy local LLM) 2026-ra valódi alternatívává nőtte ki magát – nem feltétlenül a felhős szolgáltatások teljes leváltására, hanem a melléjük állításra. Nézzük meg, pontosan miről van szó, és hogyan vághatsz bele te is.

Mi az a „helyi AI", és miért pont 2026-ban robbant be?

A helyi AI lényege egyszerű: a nyelvi modell (az LLM, azaz large language model) súlyfájljai a te merevlemezeden vannak, a számítás pedig a te processzorodon vagy videokártyádon történik. Amikor kérdezel valamit, a szöveg el sem hagyja a gépedet. Nincs API-hívás, nincs szerver, nincs előfizetés.

Hogy miért most lett ez tömegtermék, annak több oka van. Egyrészt a hardver beért: a 2026-os középkategóriás videokártyák és a Copilot+ noteszgépek beépített NPU-ja (neurális gyorsítója) bőven elég sok modellhez. Nem véletlen, hogy a Windows 11 legutóbbi frissítései is egyre több AI-funkciót és NPU-támogatást hoznak, a videokártya-gyártók pedig külön AI-platformokat mutatnak be a gépekre. Másrészt a modellek óriásit fejlődtek – egy mai 8–14 milliárd paraméteres („8B", „14B") modell olyan minőséget hoz, mint két éve a sokszor nagyobb társai. Harmadrészt megjelentek azok a programok, amelyek a teljes technikai hátteret elrejtik a felhasználó elől: néhány kattintás, és működik.

A felhős AI olyan, mintha taxiba ülnél: kényelmes, mindig a legújabb modell, de fizetsz érte, és valaki más vezet. A helyi AI a saját autód: meg kell venni és karban kell tartani, cserébe bármikor, bárhová, ingyen és magánügyként mehetsz vele.

A helyi AI öt nagy előnye (és három őszinte hátránya)

Mielőtt bármit letöltenél, érdemes tisztán látni, mit nyersz – és mit nem.

1. Teljes adatvédelem. Ez a legnagyobb érv. Ami a gépeden marad, azt senki nem tárolja, nem elemzi és nem használja modelltanításra. Ügyvédnek, orvosnak, könyvelőnek vagy bárkinek, aki érzékeny vagy GDPR-hatálya alá eső adatokkal dolgozik, ez önmagában elég ok lehet a váltásra. A szerződéstervezetedet, az ügyféladataidat vagy a céges belső anyagaidat nem kell egy amerikai felhőbe feltöltened ahhoz, hogy összefoglaltasd vagy átírasd.

2. Működik internet nélkül is. A modell letöltése után repülőn, nyaralóban, gyenge mobilneten vagy teljesen lekapcsolt („air-gapped") gépen is használhatod. Az AI ott van a zsebedben – szó szerint, ha noteszgépen futtatod.

3. Ingyenes és korlátlan. Nincs havidíj, nincs tokenenkénti elszámolás, nincs „elérted a napi limitet" üzenet. Annyit kérdezel, amennyit akarsz, akár egész nap. A modellek és a programok döntő többsége nyílt forráskódú és ingyenes.

4. Teljes kontroll és testreszabhatóság. Te döntöd el, melyik modellt használod, milyen rendszerutasítással (system prompt), milyen beállításokkal. Nincs hirtelen árazásváltozás, nincs kivezetett modell, nincs cenzúrázott válasz ott, ahol egy felhős szolgáltató óvatoskodik.

5. Tanulás és kísérletezés. Aki érteni akarja, hogyan működik valójában egy nyelvi modell, a helyi futtatással kézzelfoghatóvá teszi az egészet: látod a kvantálást, a kontextusablakot, a sebesség és minőség közötti alkukat.

A teljes kép kedvéért a hátrányok is fontosak. Egy: a hardver számít – egy nagyon gyenge gépen vagy egész kicsi modelleket futtatsz, vagy lassú lesz. Kettő: a helyben futtatható modellek – bármilyen jók is – jellemzően elmaradnak a legnagyobb felhős zászlóshajóktól (a legújabb GPT, Gemini vagy Claude modellektől) a legnehezebb feladatokban. Három: a sebesség a hardvereden múlik, és egy 70 milliárd paraméteres modell egy átlaggépen kínosan lassú tud lenni. A jó hír: a legtöbb hétköznapi feladathoz – összefoglalás, fordítás, levélírás, kódsegítség, ötletelés – egy közepes modell is bőven elég.

Mire lesz szükséged? Hardver, VRAM és kvantálás közérthetően

A helyi AI-nál egyetlen szám a legfontosabb: a videomemória (VRAM) mennyisége. Ez dönti el, mekkora modell fér be egyáltalán. Apple gépeknél a megosztott „unified memory" tölti be ugyanezt a szerepet, ott a teljes rendszermemória számít. A processzor sebessége vagy a CUDA-magok száma másodlagos – a modell futtatása ugyanis nem annyira számítás-, mint inkább memóriasávszélesség-igényes: a szűk keresztmetszet az, milyen gyorsan tudja a kártya a modell súlyait a memóriából a számolóegységekbe mozgatni.

A jó hír, hogy videokártya nélkül sincs veszve minden: kis modellek (2–4 milliárd paraméter) elfutnak csak processzoron, elég sok rendszermemóriával is. Igaz, lassabban. Egy árválypéldaként emlegetett összevetés szerint egy használt, 12 GB-os NVIDIA RTX 3060 (nagyjából 60–70 ezer forintos kártya) egy 8 milliárd paraméteres modellt 5–8-szor gyorsabban futtat, mint egy csúcskategóriás, videokártya nélküli processzor. Vagyis a legolcsóbb gyorsítás sokszor egy belépő szintű, dedikált GPU.

Paraméterszám és kontextusablak: a két szám, amit érdemes érteni

A modellek nevében szereplő „B" (mint billion, milliárd) a paraméterek számát jelöli – durván leegyszerűsítve a modell „méretét" és tudáskapacitását. Több paraméter általában okosabb modellt jelent, de nagyobb helyigényt és lassabb futást is. Ezért keresik sokan a legjobb egyensúlyt: a 7–14B-s sávban van az a pont, ahol a modell már nagyon okos, de még gyorsan fut egy hétköznapi gépen.

A másik fontos szám a kontextusablak: ennyi szöveget (kérdést, előzményt, dokumentumot) képes a modell egyszerre „fejben tartani". Minél nagyobb, annál hosszabb anyagot dolgozhatsz fel egyben – de a nagy kontextus extra memóriát eszik. Ha hosszú dokumentumokkal dolgoznál, érdemes a beállításokban feljebb vinni a kontextus méretét, és számolni a megnövekedett memóriaigénnyel.

Kvantálás: hogyan fér be egy óriásmodell a videokártyádba?

Itt jön a képbe a kvantálás (quantization) – a helyi AI legfontosabb trükkje. A modellek eredetileg nagy pontosságú számokkal dolgoznak, de ezeket „lekerekíthetjük" kisebb helyigényűre anélkül, hogy érdemben romlana a minőség. A legelterjedtebb formátum a GGUF (ezt használja a llama.cpp és az Ollama is), a leggyakoribb beállítás pedig a Q4_K_M: ez 4 bitre csökkenti a súlyokat, körülbelül a negyedére zsugorítja a fájlt, miközben jellemzően a minőség 90–95%-át megtartja. Ez a legtöbb otthoni gép számára az ajánlott alapértelmezés.

Egy gyors eligazító a kvantálási szintekhez:

• Q8_0 – szinte teljes (kb. 99%-os) minőség, de kétszer akkora helyigény, mint a Q4. Ha bőven van memóriád, érdemes.

• Q5_K_M – jó középút: érezhetően jobb, mint a Q4, alig nagyobb fájl.

• Q4_K_M – a gyakorlati alapértelmezés. A legjobb minőség/helyigény arány a legtöbb géphez.

• Q2_K – maximális tömörítés, érezhető minőségromlással. Csak akkor, ha másképp nem férne be a modell.

Hozzávetőleges ökölszabály: a modell mérete osztva a kvantálással adja ki a memóriaigényt. Egy 7–8 milliárd paraméteres modell Q4-en nagyjából 4–5 GB, egy 32 milliárdos kb. 18–20 GB, egy 70 milliárdos pedig 40 GB körül van – ehhez jön még némi ráadás a kontextusablak (a „memória", amennyi szöveget egyszerre lát a modell) számára.

Melyik hardverre mi fér rá?

A táblázat tájékoztató jellegű – pontos számok modellenként eltérnek, de a nagyságrendet jól mutatja. A lényeg: a legtöbb felhasználónak egy 7–14 milliárd paraméteres modell a „sweet spot", ami már nagyon használható, és szerény hardveren is elfut.

A négy legjobb program helyi AI futtatásához 2026-ban

A programok dolga, hogy letöltsék, kezeljék és futtassák a modelleket, és felületet adjanak a beszélgetéshez. Négy eszköz emelkedik ki, mind a négy ingyenes, és mind elérhető Windowsra, macOS-re és Linuxra.

1. Ollama – a fejlesztők és haladók kedvence

Az Ollama lett a helyi AI de facto alapeszköze. Nyílt forráskódú (MIT licenc), nincs benne telemetria, és a fejlesztője egyértelműen kimondja: a beírt adatokat soha nem használják modelltanításra. Egyetlen paranccsal letöltesz és elindítasz egy modellt, a beépített, OpenAI-kompatibilis API-ja pedig azt jelenti, hogy a legtöbb AI-fejlesztői eszköz gond nélkül rácsatlakozik – sokszor elég a cím átírása.

Sokáig az Ollama hátránya az volt, hogy alapból parancssoros. Ez 2025 nyarán megváltozott: a v0.10.0 verzió (2025. július 18.) hozott egy natív, grafikus asztali alkalmazást macOS-re és Windowsra – csevegőfelülettel, modellválasztóval, fájlok és PDF-ek behúzásával, sőt képfeltöltéssel a képet is értő modellekhez (mint a Gemma 3). Linuxon egyelőre maradt a parancssor. Az Ollama önmagában ingyenes; van mellette opcionális, fizetős felhőszolgáltatás is (Pro 20, Max 100 dollár/hó), de a helyi futtatáshoz erre semmi szükség.

Kinek való: fejlesztőknek, haladóknak, és mindenkinek, aki más programokba (pl. kódszerkesztőbe vagy webes felületbe) szeretné bekötni a helyi modellt.

2. LM Studio – a legkényelmesebb grafikus felület

Az LM Studio a legkidolgozottabb, leginkább „ChatGPT-érzetű" program. Beépített modellböngészővel keresel a Hugging Face kínálatában, egy kattintással letöltesz, betöltesz, és már beszélgethetsz is – parancssor és háttérszolgáltatás nélkül. Csúszkákkal állítható, a modell hány rétege fusson a videokártyán, van benne egymás melletti modell-összehasonlítás és helyi szerver mód (szintén OpenAI-kompatibilis).

Két fontos 2025-ös fejlemény: az LM Studio ingyenessé vált munkahelyi használatra is – már nem kell külön kereskedelmi licencet kérni, akár cégnél is szabadon használható. Emellett a 0.3.17-es verziótól támogatja az MCP-t (Model Context Protocol), vagyis külső eszközöket és adatforrásokat köthetsz a helyi modellhez. Apple Silicon gépeken az MLX-gyorsítás külön előny. Egy szépséghiba: az LM Studio zárt forráskódú, és alapból gyűjt névtelenített használati statisztikát (a tényleges beszélgetés helyben marad). Cégeknek külön Enterprise csomag is van SSO-val és egyéb vállalati funkciókkal.

Kinek való: kezdőknek és azoknak, akik a ChatGPT-t szeretnék helyben, grafikus felületen leváltani, a lehető legkevesebb macerával.

3. Jan – a maximális adatvédelem bajnoka

A Jan az adatvédelem-mániásoknak készült. Nyílt forráskódú, alapból offline működésre tervezték, és a fejlesztők szerint a modell letöltése után nincs telemetria és nincs hálózati hívás – semmi nem szivárog ki, még frissítésellenőrzés formájában sem. Teljesen auditálható kód, beépített grafikus felület, helyi (JSON-formátumú) beszélgetéstörténet és OpenAI-kompatibilis API (az 1337-es porton). Aki valóban légmentesen elzárt környezetet akar, annak a Jan a legkézenfekvőbb választás.

Kinek való: akinek az adatvédelem és az átláthatóság a legfontosabb – érzékeny munkához, jogi vagy egészségügyi adatokhoz, teljesen offline gépekhez.

4. GPT4All – a legegyszerűbb belépő kezdőknek

A Nomic AI GPT4All programja a „töltsd le, kattints duplán, működik" filozófiát képviseli. Nyílt forráskódú, egyetlen telepítővel feltelepül, alapból offline, és válogatott (nem túl bő, de épp ezért nem összezavaró) modellkínálattal érkezik. Külön erőssége a beépített LocalDocs funkció: rámutathatsz egy mappára a saját dokumentumaiddal, és a modell ezek alapján válaszol – ez a „beszélgess a saját fájljaiddal" (RAG) megközelítés legegyszerűbb formája.

Kinek való: teljes kezdőknek, akik a legkisebb súrlódással szeretnék kipróbálni a helyi AI-t, és sokat dolgoznak saját dokumentumokkal.

A négy program egy pillantásra

Plusz eszközök: Open WebUI, AnythingLLM és társai

A négy „nagy" mellett érdemes ismerni néhány kiegészítő eszközt, amelyek más-más igényre szabottak.

Az Open WebUI a legnépszerűbb webes felület az Ollama mellé: önállóan telepíted, és egy ChatGPT-re emlékeztető, böngészőből elérhető felületet ad – PDF- és szövegfeltöltéssel, dokumentum-alapú kereséssel, több felhasználó kezelésével. Ideális, ha a háztartásban vagy egy kis irodában többen használnák ugyanazt a helyi modellt.

Az AnythingLLM a dokumentumközpontú munkára (RAG) és az ügynöki („agent") feladatokra fókuszál: nagyobb dokumentumtárak feldolgozása, munkaterületek, eszközhasználat. A Msty egy másik kényelmes, grafikus alternatíva, amely a helyi és felhős modellek közötti váltást teszi egyszerűvé. A mélyvízbe ugróknak pedig ott a llama.cpp, az a motor, amelyre a fenti eszközök jó része épül.

Érdemes észben tartani: a helyi AI nem áll meg a szövegnél. Képgeneráláshoz és -feldolgozáshoz is léteznek kiváló, gépen futó programok – ilyen a Fooocus (helyi képgenerátor) vagy az Upscayl (AI-alapú képnagyító). Ezek ugyanazt az elvet hozzák a vizuális világba, amit az LLM-ek a szöveghez.

Milyen modellt tölts le? A 2026-os mezőny

A program csak a „lejátszó" – a tartalom maga a modell. 2026-ban szerencsére bőséges, nyílt súlyú („open-weight") kínálat van, és szinte havonta jönnek az újabb generációk. A legfontosabb családok:

• Qwen3 (Alibaba) – sokak szerint a legjobb általános választás: erős a kódolásban és az érvelésben, kiváló a többnyelvűsége (a magyart is jól kezeli), és barátságos, Apache 2.0 licenc alatt érhető el. Több méretben, kis 8B-stől 32B-ig és afölött.

• Llama (Meta) – a legismertebb család, sok eszköz alapértelmezett választása. A 8B-es változat a klasszikus „mindenes", a nagyobb verziók pedig komolyabb feladatokra valók.

• Gemma (Google) – hatékony, jól optimalizált modellek; a kisebb változatok kifejezetten memóriatakarékosak, és sok közülük képet is ért.

• Phi (Microsoft) – kifejezetten kis méretre és sebességre hangolt család; a Phi-4 mini az egyik legjobb választás gyenge gépre vagy csak processzoros futtatáshoz.

• Mistral – európai fejlesztés, a Mistral Small 24B kiváló egyensúlyt kínál egy 16 GB-os kártyán.

• DeepSeek – erős érvelési és matematikai képességek; a kisebb „distill" változatok (7B, 14B, 32B) otthoni gépen is futnak.

• gpt-oss (OpenAI) – az OpenAI 2025-ben kiadott nyílt súlyú modelljei, amelyek helyben is futtathatók.

Gyakorlati tanács: kezdd egy 7–8 milliárd paraméteres, Q4_K_M kvantálású modellel (például Qwen3 8B vagy Llama 8B). Ez szinte minden gépen elfut, gyors, és meglepően jó. Ha van rá hardvered, lépj feljebb egy 14B-s, majd egy 32B-s modellre, és figyeld, hol billen át az élmény lassúba. A többnyelvűség és a magyar nyelv miatt a Qwen és a Gemma család általában jó kiindulás.

Így indulj el öt perc alatt (lépésről lépésre)

Két utat mutatunk: egy teljesen kattintósat kezdőknek, és egy parancssorosat azoknak, akik a fejlesztői irányt szeretik.

A) Kezdőként, LM Studióval:

1. Töltsd le az LM Studiót a hivatalos oldalról, és telepítsd (Windows/macOS/Linux).

2. Indításkor a beépített modellböngészőben keress rá egy ajánlott, kis modellre (pl. egy 7–8B-s változatra). A program jelzi, mi fér rá a gépedre.

3. Kattints a letöltésre, várd meg a folyamatjelzőt, majd a betöltésre.

4. Írj a csevegőablakba – és kész, már helyben fut az AI.

B) Haladóként, Ollamával:

1. Telepítsd az Ollamát (Windowson és macOS-en már a grafikus appal együtt jön).

2. Egy modell letöltése és indítása egyetlen paranccsal megy a terminálban (a modell nevét az Ollama könyvtárából választod ki).

3. A modell ezután egy helyi, OpenAI-kompatibilis API-n is elérhető – ezt bekötheted kódszerkesztőbe, az Open WebUI felületbe vagy saját programba.

Akármelyik utat választod, az első modell letöltése után már offline is működik minden. Innentől nyugodtan kísérletezz a modellekkel és a beállításokkal.

Mire jó a helyi AI – és mire nem?

Reális elvárásokkal érdemes nekiállni. A helyi AI ezekben verhetetlen:

• Érzékeny anyagok feldolgozása – szerződések, orvosi leletek, céges belső dokumentumok összefoglalása, átírása, kérdezése úgy, hogy semmi nem hagyja el a gépet.

• Offline munka – utazás közben, gyenge neten, vagy elzárt rendszereken.

• Hétköznapi szövegmunka – levelek, vázlatok, fordítás, korrektúra, ötletelés, e-mailek átfogalmazása.

• Kódsegítség – kódkiegészítés, hibakeresés, magyarázat, főleg a kódra hangolt modellekkel.

• Dokumentum-alapú kérdezés (RAG) – mutass rá egy mappára vagy PDF-re, és kérdezz a tartalmáról (LocalDocs, Open WebUI, AnythingLLM).

És amiben a felhős zászlóshajók még előrébb járnak: a legnehezebb, soklépéses logikai feladatok, a legfrissebb tudás (a helyi modell csak addig „tud", ameddig betanították), valamint a böngészés, a valós idejű webes keresés és a legnagyobb modellek nyers ereje. Sok felhasználó ezért hibrid módon dolgozik: a rutinmunka és az érzékeny anyag helyben, a legnehezebb feladatok pedig egy felhős szolgáltatásnál.

Biztonság és adatvédelem: amire figyelj

A helyi AI alapból sokkal magánügyibb, mint a felhős – de pár dologra így is figyelj.

Honnan töltesz modellt? Maradj a megbízható forrásoknál: a Hugging Face hivatalos, ellenőrzött kiadói, illetve az Ollama és az LM Studio beépített, kurált könyvtárai. Ismeretlen helyről letöltött modellfájlokkal ugyanúgy óvatosnak kell lenni, mint bármilyen más letöltött programmal.

Telemetria. Ha a teljes adatmentesség a cél, a nyílt forráskódú, telemetriamentes eszközök (Jan, Ollama) a legbiztosabbak. Az LM Studio alapból gyűjt névtelen használati statisztikát – ez a beszélgetéseidet nem érinti, de érdemes tudni róla.

A gép a tiéd, a felelősség is. A helyi AI-nál nincs szolgáltató, aki szűrne vagy mentene – a beszélgetéstörténet a gépeden van. Ha mások is használják a gépet, vagy érzékeny témákról beszélgetsz, gondolj a megszokott védelemre: lemeztitkosításra, erős jelszóra, fiókok elkülönítésére. Ha pedig a hálózati forgalmadat is védenéd, jól kiegészíti a képet egy megbízható VPN – bár a helyi AI épp attól értékes, hogy alapból nincs is mit titkosítani az interneten, mert nem küld semmit.

Gyakran ismételt kérdések

Kell hozzá erős videokártya? Nem feltétlenül. Kis modellek (2–4B) processzoron is elfutnak elég rendszermemóriával, csak lassabban. Egy belépő szintű, 8–12 GB-os videokártya viszont nagyságrendekkel jobb élményt ad, és már 7–14B-s modelleket is kényelmesen futtat.

Olyan okos lesz, mint a ChatGPT? A legnehezebb feladatokban általában nem éri el a legnagyobb felhős modelleket. De a hétköznapi munka java részében (összefoglalás, fordítás, levél, kód, ötletelés) egy jó 8–14B-s modell meglepően közel jár, ráadásul magánügyként és ingyen.

Tényleg nem küld semmit az internetre? A modell letöltése után a beszélgetés helyben marad. Maga a program ettől még ellenőrizhet frissítést vagy küldhet névtelen statisztikát – ezen múlik az eszközválasztás (a Jan és az Ollama itt a legszigorúbbak).

Melyik programmal kezdjek? Ha a kényelem a fő szempont: LM Studio. Ha a maximális adatvédelem: Jan. Ha a legegyszerűbb telepítés és dokumentumkezelés: GPT4All. Ha fejlesztő vagy, vagy más programba kötnéd: Ollama.

Mennyi helyet foglal? Modellenként néhány GB-tól több tíz GB-ig terjed. Egy 8B-s modell Q4-en 4–5 GB körül van, így pár modell is kényelmesen elfér egy átlagos SSD-n.

Legális ez? Igen. A bemutatott programok és a nyílt súlyú modellek többsége engedélyező (pl. Apache 2.0 vagy MIT) vagy hasonló licenc alatt érhető el. Üzleti felhasználás előtt érdemes az adott modell licencét egyszer átnézni.

Az AI PC-k és az NPU-k mit változtatnak? A 2026-os Copilot+ gépek és a modern videokártyák komoly gyorsítást adnak a helyi modelleknek – részben a beépített neurális gyorsítónak (NPU), részben az erős GPU-nak köszönhetően. Aki most vesz gépet AI-ra is, annak megéri figyelni a videokártya VRAM-jára és az AI-gyorsításra. Érdekesség, hogy ugyanez az „AI a gépen" trend jelenik meg a játékok AI-alapú felskálázásában is.

Régi gépen is működik? Kisebb modellekkel igen. Ha pedig úgyis gépcserén gondolkodsz – például a Windows 10 támogatásának vége miatt –, érdemes lehet egy olyan konfigurációt nézni, amelyben van rendes videokártya: az AI mellett a játékhoz és a videoszerkesztéshez is jól jön.

Összegzés

2026-ban a helyi AI átlépte azt a küszöböt, ahol már nemcsak a szakembereknek éri meg. Ingyenes, magánügyi, offline is működik, és néhány kattintással elindítható. Kezdőként az LM Studióval vagy a GPT4All-lal pár perc alatt beszélgethetsz egy helyben futó modellel; haladóként az Ollama nyitja meg az integrációk világát; adatvédelmi maximalistaként pedig a Jan a befutó. Tölts le egy 7–8 milliárd paraméteres modellt, próbáld ki a saját feladataidon – és meglátod, mennyi mindent old meg úgy, hogy közben egyetlen szó sem hagyja el a gépedet.