Ugrás a tartalomra

3525 Miskolc, Bodótetői út 1. 3. em. 9.

2021 Lorz Kft.

AI rangsor · lokális modellek

Legjobb lokális AI modell: nyílt súlyú modellek rangsora

Azok a modellek, amelyeket letölthetsz és saját gépen vagy céges szerveren futtathatsz, így az adat nem hagyja el a céget. Élő rangsor az Epoch AI és az LMArena nyílt adataiból, licenc szerint szétválogatva, és amit mi magunk is helyben futtatunk.

Élő adatok · utolsó lekérés: 2026. november 11. 00:02

Tartalomjegyzék
  1. Mit jelent a lokális AI?
  2. Nyílt súlyú modellek képességindex szerint
  3. Nyílt licencű modellek emberi szavazatok alapján
  4. Mekkora gép kell egy lokális modellhez?
  5. Így használjuk mi: helyi képgenerálás a Holdmozihoz
  6. Lokális vagy felhős AI a cégednek?
  7. Gyakori kérdések
Élő adatok alapján

Röviden

  • A legerősebb nyílt súlyú modell az Epoch AI képességindexe szerint: Kimi K3.1 Pro (Moonshot, ECI 162,0); hozzáférés: nyílt súlyú, korlátozott licenc.
  • Szabad licencű, üzleti célra is használható modellek közül az első: DeepSeek V4.1 Flash 1017 (DeepSeek, ECI 159,3).
  • Emberi szavazatok alapján a legjobb nyílt licencű modell: MiMo-V2.6-Pro (Xiaomi), az összesített rangsorban a 11. helyen.
  • A licenc ugyanolyan fontos, mint a pontszám: a csak nem üzleti célra kiadott modell cégnél nem használható.

Mit jelent a lokális AI?

Nyílt súlyú (open weights) modellnél a gyártó közzéteszi a modell fájljait, így saját hardveren is futtatható. Előnyei: az adat a cégnél marad, nincs tokenenkénti díj, és internetkapcsolat nélkül is működik. Hátrányai: a legerősebb zárt modellek mögött jár, a hardvert meg kell venni, és az üzemeltetés a tiéd.

Nyílt súlyú modellek képességindex szerint

A 15 legerősebb nyílt súlyú modell az Epoch AI képességindexe (ECI) szerint
SorrendModellGyártóECI (90%-os sáv)MegjelenésHozzáférés
1.Kimi K3.1 ProMoonshot162,0 (159,5–165,0)2026. október 23.Nyílt súlyú, korlátozott licenc
2.DeepSeek V4.1 Flash 1017DeepSeek159,3 (157,1–161,9)2026. október 17.Nyílt súlyú, szabad licenc
3.Kimi K3Moonshot158,5 (156,5–160,7)2026. július 16.Nyílt súlyú, csak nem üzleti célra
4.GLM-5.3Z.ai156,9 (154,8–159,2)2026. augusztus 14.Nyílt súlyú, korlátozott licenc
5.DeepSeek V4.1 FlashDeepSeek156,5 (154,6–158,6)2026. szeptember 9.Nyílt súlyú, szabad licenc
6.DeepSeek V4 Pro 0813DeepSeek155,9 (154,0–158,0)2026. augusztus 13.Nyílt súlyú, szabad licenc
7.Muse Spark OpenMeta155,4 (153,4–157,7)2026. október 15.Nyílt súlyú, korlátozott licenc
8.Mistral Large 4Mistral AI154,6 (151,8–157,5)2026. október 29.Nyílt súlyú, korlátozott licenc
9.DeepSeek V4 Flash 0731DeepSeek154,4 (152,5–156,4)2026. július 31.Nyílt súlyú, szabad licenc
10.GLM-5.3-FlashZ.ai153,6 (151,8–155,6)2026. augusztus 20.Nyílt súlyú, szabad licenc
11.GLM-5.2Z.ai153,0 (151,3–154,9)2026. június 16.Nyílt súlyú, szabad licenc
12.Qwen 3.8 27BAlibaba152,7 (150,7–154,9)2026. augusztus 14.Nyílt súlyú, szabad licenc
13.Mistral Large 4 PreviewMistral AI152,6 (150,7–154,5)2026. október 6.Nyílt súlyú, korlátozott licenc
14.Kimi K2.6Moonshot151,5 (149,8–153,4)2026. április 20.Nyílt súlyú, szabad licenc
15.Kimi K2.7 CodeMoonshot151,1 (149,1–153,2)2026. június 12.Nyílt súlyú, szabad licenc

Forrás: Epoch AI, Capabilities & benchmarking (CC BY 4.0), lekérve: 2026. november 11. 00:02. Szűrt, kerekített, magyarra fordított változat.

Figyelj a licencre

A „nyílt súlyú” nem azt jelenti, hogy bármire szabadon használhatod. A szabad licencű modell üzleti célra is használható; a korlátozott licencű modellnél felhasználási szabályok vagy méretkorlátok lehetnek; a csak nem üzleti célra szóló modell cégnél nem használható. Bevezetés előtt mindig olvasd el a modell saját licencét.

Nyílt licencű modellek emberi szavazatok alapján

A legjobb nyílt licencű szöveges modellek az LMArena összesített rangsorában
HelyModellGyártóPontszám (sáv)SzavazatLicenc
11.MiMo-V2.6-ProXiaomi1492 (1482–1501)4066MIT
25.GLM-5.3 (Max)Z.ai1476 (1471–1481)31 017MIT
27.Kimi K3 (Max)Moonshot1474 (1470–1479)40 867Kimi K3 license
31.GLM-5.3-FlashZ.ai1471 (1466–1475)50 189MIT
32.GLM-5.2 (Max)Z.ai1469 (1465–1473)54 173MIT
38.MiMo-V2.5-ProXiaomi1464 (1461–1468)76 793MIT
39.DeepSeek-V4.1-Flash-20260910 (Max)DeepSeek1463 (1457–1469)13 580MIT
40.GLM-5.1Z.ai1463 (1459–1466)67 074MIT
44.Kimi K3.1 Pro (Max)Moonshot1457 (1447–1468)3443Kimi K3.1 Pro License
46.Kimi K2.6Moonshot1455 (1451–1460)39 573Modified MIT
50.DeepSeek-V4-ProDeepSeek1451 (1448–1455)56 906MIT
54.MiMo-V2.6-FlashXiaomi1450 (1445–1456)22 354MIT

Forrás: LMArena, leaderboard-dataset (CC BY 4.0), publikálva: 2026. november 9.. Szűrt, kerekített, magyarra fordított változat.

Mekkora gép kell egy lokális modellhez?

A modellnek el kell férnie a videókártya memóriájában (VRAM), vagy Macen az egyesített memóriában. Ökölszabály: a paraméterek száma szorozva a paraméterenkénti bájtokkal, plusz kb. 20% a munkamemóriának. A kvantálás (pl. 8 vagy 4 bites tárolás) negyedére-felére csökkenti az igényt, kis minőségvesztéssel. Hosszú szövegnél a kontextus is memóriát kér.

Becsült memóriaigény modellméret és kvantálás szerint (ökölszabály)
Modellméret16 bit8 bit4 bitJellemző hardver
8 milliárd paraméter19 GB10 GB5 GB8–12 GB-os videókártya
14 milliárd paraméter34 GB17 GB8 GB12–16 GB-os kártya, 4 vagy 8 biten
32 milliárd paraméter77 GB38 GB19 GB24–32 GB-os kártya, 4 biten
70 milliárd paraméter168 GB84 GB42 GB48 GB felett: két kártya vagy nagy memóriás Mac
120 milliárd paraméter288 GB144 GB72 GBszerver, vagy 96–128 GB egyesített memória, 4 biten

Szakértői keverék (MoE) modelleknél az összes paraméternek el kell férnie a memóriában, a sebességet viszont az egyszerre aktív paraméterek száma határozza meg. Ezért fut gyorsan egy nagy MoE-modell egy sok memóriás, de nem csúcskategóriás gépen is.

Így használjuk mi: helyi képgenerálás a Holdmozihoz

A Mesehold mesevideóinak illusztrációit saját gépen, helyi képmodellel készítjük: Flux, 8 bites kvantálással, ComfyUI-ban, egy 12 GB-os RTX 4070 Ti kártyán, képenként nagyjából 35 másodperc alatt. A narrációt az ElevenLabs hangja adja, a videót Remotionnel, kódból rakjuk össze. Egy 5 perces meséhez kb. 30 kép kell; az első teljes mesénél a képgenerálás és a renderelés együtt egy óránál kevesebb gépidő volt, képenkénti díj nélkül.

A tanulság: a helyi modell ott erős, ahol sok hasonló feladat fut, és fontos, hogy ne fizess darabonként. Minden képet ember ellenőriz a mese szövegével szemben; a hibás képet újrageneráljuk. Az első mesénél 33 képhez 76 generálás kellett, vagyis a minőség nem magától jön, hanem a munkafolyamatból. Erről részletesen a Mesehold saját termékünkről szóló cikkben írtunk.

Lokális vagy felhős AI a cégednek?

  • Lokális: érzékeny adat (egészségügy, jog, HR, üzleti titok), nagy és egyenletes feladatmennyiség, internet nélküli működés, kiszámítható költség.
  • Felhős: a legerősebb modellekre van szükség, változó a forgalom, gyorsan kell indulni. Az árat az AI token-kalkulátorral becsülheted meg.
  • Vegyes: a kényes adatot helyi modell dolgozza fel vagy anonimizálja, a nehezebb, nem érzékeny lépés megy a felhőbe. A gyakorlatban sokszor ez a legjobb arány.

Helyben futó AI-t vezetnél be?

Felmérjük a feladatot és az adatot, kiválasztjuk a modellt és a hardvert, és beépítjük a meglévő rendszeredbe. Ha kell, a modellt a saját adataidra hangoljuk.

Egyedi szoftverfejlesztés

Gyakori kérdések

Melyik a legjobb lokális AI modell?

Az oldal tetején élő adatokkal mutatjuk a legerősebb nyílt súlyú modellt az Epoch AI képességindexe szerint, és külön a szabad licencűek közül a legjobbat. Céges használatnál a licenc ugyanolyan fontos, mint a pontszám.

Futtatható a ChatGPT saját gépen?

A ChatGPT mögötti zárt modellek nem tölthetők le. Az OpenAI kiadott néhány nyílt súlyú modellt is, de a lokális élmezőnyt jellemzően más gyártók (például DeepSeek, Moonshot, Z.ai, Alibaba, Mistral) modelljei adják.

Mennyi VRAM kell egy lokális AI modellhez?

Ökölszabályként a paraméterek száma szorozva a paraméterenkénti bájtokkal, plusz kb. 20%. Egy 8 milliárd paraméteres modell 4 bitesen 6 GB körül elfér, egy 70 milliárdos 4 bitesen kb. 42 GB-ot kér. A pontos igény a kontextus hosszától is függ.

Kell-e videókártya a lokális AI-hoz?

Kis modellek processzoron is futnak, de lassan. Napi munkához videókártya vagy nagy, egyesített memóriájú gép kell. Képgeneráláshoz mi egy 12 GB-os kártyát használunk, ami 8 bites kvantálással elég.

Használhatok nyílt modellt üzleti célra?

Csak ha a licence engedi. A táblában a hozzáférési oszlop jelzi a licenc típusát: a szabad licencű modell üzleti célra is használható, a korlátozottnál szabályok vannak, a nem üzleti célú modell cégnél nem használható.

Források és módszertan

Szerkesztési elv: A táblák az LMArena és az Epoch AI nyilvános, CC BY 4.0 licencű adataiból készülnek, az oldal 6 óránként újra lekéri őket. Az adatokat szűrtük, kerekítettük, a gyártóneveket egységesítettük és a feliratokat magyarra fordítottuk; a pontszámokon és a sorrenden nem változtattunk. A forrásoldalak nem állnak kapcsolatban velünk, és nem hagyták jóvá ezt az oldalt. Utolsó lekérés: 2026. november 11. 00:02; a szöveg utolsó szerkesztése: 2026. november 10..

Beszéljük meg a projektedet!

Mondd el, mire van szükséged — egy munkanapon belül válaszolunk.

Kapcsolatfelvétel