A DeepSeek DSpark spekulatív dekódolás 57-85%-kal gyorsítja a DeepSeek-V4 modellek generálási sebességét — minőségvesztés nélkül. A DeepSeek 2026. június 27-én nyílt forráskódúként (MIT licenc) adta ki a DSpark keretrendszert és a hozzá tartozó DeepSpec tanítási kódbázist, amely éles termelési teszteken igazolta ezt a gyorsulást.

Ez nem egy új modell, hanem egy serving optimalizáció: a meglévő V4-súlyokhoz csatolt kiegészítő modul. A spekulatív dekódolás (speculative decoding) lényege, hogy egy kis „draft” modell előre megtippeli a következő token-blokkot, a nagy modell pedig egyetlen lépésben ellenőrzi — így ugyanannyi számításért több kész szöveg jön ki.

Mi az a DeepSeek DSpark spekulatív dekódolás?

A DSpark egy keretrendszer, amely a már létező DeepSeek-V4 modellek mellé tesz egy draft modult — vagyis nem kell újratanítani a fő modellt. A DeepSeek két kész checkpointot adott ki: a DeepSeek-V4-Pro-DSpark-ot és a DeepSeek-V4-Flash-DSpark-ot, mindkettő a meglévő V4-súlyokra épül.

A kiadás a GitHubon a deepseek-ai/DeepSpec repóban érhető el, az első commit 2026. június 27-én készült. A repo gyorsan népszerű lett: 3200+ csillag és 287 fork pár nap alatt. A kódbázis nyelve 97,9%-ban Python, a licenc MIT — azaz szabadon felhasználható kereskedelmi célra is.

A spekulatív dekódolás nem új ötlet, évek óta használják az LLM-generálás gyorsítására anélkül, hogy a modell súlyait módosítanák. A DSpark újdonsága abban van, hogy két korábbi megközelítés erősségeit kombinálja, és ezzel feloldja a köztük lévő kompromisszumot.

Hogyan működik a DSpark? (közérthetően)

A korábbi módszerek mind kompromisszumot kényszerítettek. Az Eagle3 (autoregresszív stílus) erősen elfogadható tippeket ad, de a tippelés költsége nő a blokkmérettel. A DFlash (parallel stílus) olcsón tippel, de a hosszabb tippeknél gyorsan romlik a találati arány.

A DSpark kétlépéses tippelést használ. Először egy nehéz, párhuzamos backbone (a DFlash) ad alap-logitokat minden pozícióhoz. Utána egy könnyű, szekvenciális fej — alapból egy Markov-fej, amely csak az előző tokent nézi — prefix-függő torzítást ad hozzá a mintavétel előtt. Egy alacsony rangú (rank 256) faktorizáció tartja olcsón ezt a fejet.

A második kulcselem a confidence-scheduled verification, vagyis a megbízhatóság-alapú ellenőrzés. Egy külön „confidence head” megbecsli, hogy az egyes draft tokenek átmennek-e az ellenőrzésen. Egy kalibrációs lépés (Sequential Temperature Scaling) a becslés hibáját (ECE) 3-8%-ról kb. 1%-ra csökkenti — vagyis a rendszer reálisan tudja, mennyire bízhat a saját tippjeiben.

A harmadik trükk a terhelés-érzékeny ütemező (load-aware prefix scheduler): dinamikusan állítja, hány tokent ellenőrizzen. Tétlen GPU-nál többet, terhelt GPU-nál kevesebbet — így a gyorsítás a valós kiszolgálási terheléshez igazodik. Egy early-stopping szabály garantálja, hogy a kimenet veszteségmentes marad, azaz a minőség nem csökken.

Mennyivel gyorsabb? A konkrét számok

A leglátványosabb eredmények éles termelési környezetből jönnek, a korábbi MTP-1 (egytokenes előrejelzés) alapvonalhoz mérve. A kiszállított konfiguráció a DSpark-5 (5 tokenes draft blokk, Markov fejjel).

DeepSeek-V4-Flash: +60-85% felhasználónkénti generálási sebesség. DeepSeek-V4-Pro: +57-78% felhasználónkénti sebesség. Mindezt a kimeneti minőség romlása nélkül.

Az offline benchmarkok az „accepted length” (egy ciklusban elfogadott tokenek száma) növekedését mutatják Qwen3 és Gemma4 célmodelleken. Az Eagle3-hoz képest a makró-átlagos elfogadott hossz +30,9% (Qwen3-4B), +26,7% (Qwen3-8B) és +30,0% (Qwen3-14B). A DFlash-hoz képest +16,3%, +18,4% és +18,3%. Sőt, a 2 rétegű DSpark veri az 5 rétegű DFlash-t is.

A költségoldal is meggyőző: a draft hossz 4-ről 16-ra növelése mindössze 0,2-1,3% extra round-latency-t okoz. A draft modellek kicsik — a Qwen3-4B-hez tartozó verzió 1B paraméter, a Qwen3-14B-hez tartozó 3B, mind BF16 formátumban.

Mi a különbség a drafterek között?

A spekulatív dekódolás minősége azon múlik, milyen drafter javasolja a tokeneket. Négy megközelítés versenyez, és a DSpark abban erős, hogy a riválisok gyengeségeit kerüli el.

Az Eagle3 autoregresszív, az elfogadása magas és stabil, de a blokk költsége nő a blokkmérettel, és az ellenőrzési hossza fix. A DFlash párhuzamos, a blokk költsége közel konstans, viszont a suffix mentén gyorsan csökken az elfogadás. Az MTP-1 egytokenes, olcsó, de statikusan csak 2 tokent néz előre.

A DSpark párhuzamos backbone-t kombinál szekvenciális fejjel: a blokk költsége közel konstans marad, az elfogadás magas és stabil, az ellenőrzési hossz pedig dinamikus, terhelés-alapú. Ez a kombináció adja a versenytársaknál mért 16-31%-os elfogadotthossz-előnyt.

Hol nyersz vele a legtöbbet?

A gyorsulás mértéke a feladattól függ, mert a draft tippek elfogadási aránya feladatonként más. A legtöbb haszon a kódgenerálásnál jelentkezik — itt a legmagasabb az elfogadási arány, mert a kód jól előrejelezhető szerkezetű.

A megbízhatóság-kalibráció más feladattípusoknál is sokat dob. Az open-ended chatnél a confidence sweep 45,7%-ról 95,7%-ra emelte az elfogadást, a matematikai gondolkodásnál pedig 76,9%-ról 92,5%-ra. Magas párhuzamosságú kiszolgálásnál az ütemező közepes terhelésnél jellemzően 4-6 tokent ellenőriztet ciklusonként.

A teljes csomag tehát nem egy szűk benchmark-trükk, hanem széles feladatkörön — kód, chat, matematika — működő serving-gyorsítás, ami a valós felhasználói élményt (a válasz sebességét) javítja.

Mit jelent ez a gyakorlatban?

A DSpark legnagyobb gyakorlati értéke a költség. A nagy LLM-ek kiszolgálása drága, és a számla nagyrészt a generálás sebességén és a GPU-kihasználtságon múlik. Ha ugyanaz a hardver 57-85%-kal több tokent ad ki ugyanannyi idő alatt, az közvetlenül csökkenti a kiszolgálási költséget — vagy ugyanazon a gépen több felhasználót szolgál ki.

Fontos, hogy mindez a fő modell újratanítása nélkül működik, és veszteségmentes: a meglévő DeepSeek-V4 telepítésre rátehető, a kimenet minősége nem változik. Ez alacsony kockázatú frissítés azoknak, akik már V4-et szolgálnak ki.

A nyílt forrás és az MIT licenc itt kulcs. A DeepSpec kódbázis nemcsak a kész checkpointokat tartalmazza, hanem a draft modellek tanításához és értékeléséhez szükséges teljes eszközkészletet is — sőt, az Eagle3 és DFlash implementációkat is, összehasonlításhoz. Egy figyelmeztetés a hardver felől: a target cache az alapértelmezett Qwen3-4B beállításnál meghaladhatja a 38 TB-ot, tehát a tanítás nem triviális erőforrásigényű.

Hogyan illik ez a DeepSeek stratégiájába?

A DSpark egy mintázatba illeszkedik: a DeepSeek a nyílt kiadásokkal pozicionálja magát az amerikai zárt szereplőkkel szemben. A V4 jelenleg az egyik legteljesítményesebb nyílt hozzáférésű LLM, és egy ingyenes, MIT-licencű gyorsítás növeli a vonzerejét — különösen azoknak, akik saját infrastruktúrán futtatnák.

Ez különösen érdekes egy olyan időszakban, amikor az amerikai frontier modellekhez való hozzáférést exportkorlátozások szabdalják. Egy nyíltan letölthető, helyben futtatható és olcsóbban kiszolgálható modell pont az ilyen kockázatok ellen ad alternatívát.

A technikai csapat egy javaslattal is él: ha valaki domain-specifikus célra, gondolkodó módban futtatja a target modellt, érdemes a draft modellt újrafinomhangolni — a kiadott checkpointok ugyanis nem-gondolkodó módban generált adatokon tanultak.

A serving-optimalizáció lett az új csatatér

A DSpark megmutatja, hogy az AI-verseny már nem csak a nyers modellképességről szól. A hogyan szolgáljuk ki olcsón és gyorsan ugyanazt a modellt kérdés legalább annyira fontos, mint a következő benchmark-rekord — és itt egy nyílt, MIT-licencű keretrendszer ad 57-85%-os előnyt bárkinek.

Aki saját AI-infrastruktúrát épít, annak a DSpark kézzelfogható üzenet: a sebesség és a költség ma már leválasztható a modellfejlesztésről, és nyílt eszközökkel is behozható. A következő hónapokban érdemes figyelni, átveszik-e ezt a megközelítést más nyílt modellcsaládok is.

Kapcsolódó technológiai elemzésünk a saját AI-hardver irányába: OpenAI Jalapeño: az első saját AI inference chip 2026-ban. A friss AI-technológiai hírekért iratkozz fel az AI Hírek hírlevelére.