Építsd velünk az AI Hírek jövőjét – hívj meg egy kávéra!

Maia 300: 40%-kal több token 2027-től

Hírek / AI Technológia / Maia 300: 40%-kal több token 2027-től

A Microsoft Maia 300 a cég harmadik generációs, saját fejlesztésű AI-chipje, és a bejelentés szerint 2027-től ez lesz a Microsoft termékeinek és szolgáltatásainak elsődleges AI-inferencia rendszere. A Microsoft hivatalos közleménye 2026. október 12-én jelent meg, és egy jól körülírható stratégiai fordulatról szól: a vállalat a modellek futtatását a saját szilíciumára viszi át, és ezzel kevésbé lesz kiszolgáltatva az Nvidia és az AMD gyorsítóinak.

Egy fogalmat érdemes tisztázni az elején: az inferencia a már betanított modell futtatása, vagyis az, ami akkor történik, amikor kérdezel a Copilottól, és választ kapsz. Ez nem ugyanaz, mint a tanítás — és mivel minden egyes felhasználói kérés inferencia, hosszú távon ez viszi el a költségek nagyobb részét.

Mi történt: harmadik generáció, 2027-es éles bevezetés

A Microsoft két dolgot jelentett be egyszerre. Az első: a Maia 200, amelyet még 2026 januárjában mutattak be, már éles terheléseken fut. A második: megérkezett a Maia 300 architektúrája, amelynek éles, termelési bevezetése 2027-ben indul, többgigawattos telepítésekkel.

„2027-től többgigawattos telepítésekre skálázzuk az Azure Maia családot, és ezzel a Maia lesz a Microsoft termékeinek és szolgáltatásainak elsődleges AI-inferencia rendszere.” — Scott Guthrie, a Microsoft felhőcsoportjának ügyvezető alelnöke (Microsoft blog)

A Maia 200 jelenleg a Microsoft Copilotot szolgálja ki, és a MAI-csapatot segíti a következő generációs modellek fejlesztésében; a GitHub Copilot és a Microsoft Foundry az év végéig követi. A chipen OpenAI-modellek, a Microsoft saját MAI-modelljei és vezető nyílt forráskódú modellcsaládok is futnak. A telepítés az Egyesült Államokban, Európában és Ausztráliában zajlik, és a Microsoft szerint a Teams, a Copilot és a Cowork beépített AI-funkcióinál akár 1,7-szer több tokent ad wattonként, mint a vezető GPU-infrastruktúra.

Kapcsolódó elemzésünk: Microsoft MAI modellek: 7 új saját AI az OpenAI mellett

A Maia 300 számai

A Microsoft a Maia 300-at nem chipként, hanem rendszerként pozicionálja — a szilíciumtól a rackig és a hálózatig. A Azure technikai mélyelemzése és a Microsoft blogja alapján ezek a legfontosabb adatok:

  • Hatékonyság: a Microsoft várakozása szerint 40 százalékkal több tokent szolgáltat megawattonként, mint a vezető GPU-alapú rendszerek.
  • Rack-szintű átvitel: teljes, 96 gyorsítós konfigurációban akár 7-szeres rack-szintű token-átviteli kapacitás a Maia 200-hoz képest.
  • Memória: gyorsítónként 8 darab HBM4 stack, 288 GB kapacitás és 18 TB/s csúcs-sávszélesség, 950 wattos TDP-n belül.
  • Memória a Maia 200-hoz képest: 2,5-szeres sávszélesség, 33 százalékkal nagyobb kapacitás és körülbelül kétszeres HBM-sávszélesség wattonként.
  • Chiplet-nyereség: 36 százalékkal több számítási FLOPs, 2,5-szeres HBM-sávszélesség és 14 százalékkal nagyobb scale-up sávszélesség.
  • Rack: 96 gyorsító 24 db négygyorsítós tálcán, 167 kW-os keretben — a Maia 200 sűrűségének duplája. Rackenként 27,6 TB HBM-kapacitás és 1,7 PB/s összesített HBM-sávszélesség, akár 2,5-szeres teljesítmény/watt.
  • Hálózat: kétszintű, Ethernet-alapú fabric, amely akár 12 288 gyorsítós szuperpodot épít, legfeljebb 128 rackből.

A gyártás szempontjából az a döntő, hogy a compute chipletek a TSMC N2P gyártástechnológiájára készülnek — oda kerül a legdrágább és legmodernebb node, ahol a legnagyobb a teljesítmény/watt haszon.

Hogyan működik — közérthetően

Chiplet-architektúra: szétszedni, hogy jobban működjön

A chiplet azt jelenti, hogy a chip nem egyetlen nagy szilíciumlapka, hanem több kisebb, egymáshoz csomagolt lapka. A Maia 300 szétválasztja a számítási, a memóriavezérlő- és az I/O-funkciókat, így mindegyik a saját feladatához optimális gyártástechnológián készülhet.

„Ez növeli a számítási teljesítményre szánt szilíciumfelületet, és lehetővé teszi, hogy minden funkció a szerepéhez legjobban illő technológiát használja.” — az Azure hardver- és infrastruktúra-csapata (Azure blog)

Az adatmozgatás a szűk keresztmetszet, nem a nyers számítás

A Microsoft érvelésének a magja az, hogy nagy inferencia-rendszerekben nem a nyers számítási kapacitás a korlát, hanem az, hogy az adatot mozgatni kell. A Maia 300 ezért szoftveresen definiált dataflow architektúrára (SDLA) épül: a szoftver explicit módon dönti el, hol tárolja és merre mozgatja az adatot a helyi memóriák, a DMA-motorok, a számítási egységek és a hálózat között.

Ehhez jön egy fontos változás: a memóriaszervezés az egységes elérésűből NUMA jellegűvé vált a chipletek között. Magyarul minden számítási régiónak van közeli memóriája, így az adat rövidebb utat tesz meg — és a rövidebb út kevesebb energia.

Alacsony pontosság és nagyobb kontextus

A Maia 300 továbbfejlesztett MXFP4 és annál is szűkebb formátumokat támogat. Ezek a számokat kevesebb biten tárolják, ami csökkenti a memóriaigényt — nemcsak a számításnál, hanem a KV-cache tárolásánál is. A KV-cache az a munkamemória, amiben a modell a beszélgetés eddigi részét tartja: ha ez kevesebb helyet foglal, ugyanazon a teljesítménykereten belül nagyobb kontextusablak és több párhuzamos munkamenet fér el.

Kapcsolódó elemzésünk: TurboQuant algoritmus: a Google megoldása, ami 7-szeresére tömöríti az AI memóriát

Prefill és decode szétválasztva

Az inferencia két fázisra bomlik: a prefill feldolgozza a bemenetet, a decode generálja a választ token után tokenben. A Maia 300-nál a prefill- és decode-munkások egymástól függetlenül méretezhetők és helyezhetők el, és a prefill után a KV-állapot közvetlenül a kiválasztott decode-munkásokhoz vándorol ugyanazon a scale-up fabricen — nem kell kilépnie a doménből egy külön, hoszt által közvetített útvonalra.

Rack és hűtés

A 167 kW-os rackben a Microsoft megszüntette a külön hoszt-tálcákat: minden tálca négy gyorsítót, a hozzá tartozó hoszt-processzort, memóriát, tárolót és hűtést tartalmaz. Hat nagy radixú switch-ASIC kerül három folyadékhűtéses switch-tálcába, a folyadékhűtés pedig a rack hőterhelésének több mint 80 százalékát viszi el. A rendszer közvetlenül rákapcsolható az üzemi vízhálózatra, vagy hőcserélő egységgel működhet léghűtéses adatközpontban is.

Miért az inferencia a tét

A Maia 300 kifejezetten inferencia-első architektúra: a hosszú kontextusú, memóriaigényes és decode-nehéz terhelésekre optimalizálták. Ez pontosan az a profil, amit az ügynöki munkafolyamatok termelnek — a többlépéses, önállóan dolgozó AI-rendszerek sokat olvasnak, sokat írnak, és sokáig futnak.

„A Maia 300 teljes AI-rendszer, amelyet a ma megjelenő új típusú AI-terhelésekre terveztünk: hosszú kontextusú következtetésre, késleltetésérzékeny beszélgetős élményekre és hosszan futó, többlépéses ügynöki feladatokra.” — Scott Guthrie (Microsoft blog)

A másik ok a modellfejlesztés. A Microsoft AI vezérigazgatója szerint a saját platform nélkül nem megy a verseny: „A teljes stacken kell dolgoznunk, egészen le a szilíciumig. Ekkora méretben olyan platform kell, ami a miénk, és amit a modelljeinkkel együtt tervezünk” — fogalmazott Mustafa Suleyman a The Verge-nek adott nyilatkozatában. A lap értelmezése szerint ez a Google DeepMind, az OpenAI és az Anthropic utolérésének része.

Mit jelent ez a gyakorlatban?

1. Rövid távon semmit nem kell tenned. A Maia 300 csak 2027-től érkezik éles üzembe. Addig a Maia 200 szolgálja ki a Microsoft AI-terheléseit, és a végfelhasználói árakra vagy elérhetőségre vonatkozóan a Microsoft nem közölt adatot.

2. A token-önköltség a valódi tét. A „token megawattonként” nem marketingmetrika: ez határozza meg, mennyibe kerül a Microsoftnak egy Copilot-válasz. Ha a saját chip tényleg 40 százalékkal több tokent ad ugyanannyi energiából, az hosszabb távon az árazásban és a csomagokba tömött limitekben jelenik meg.

Kapcsolódó elemzésünk: Token-gazdaságtan: miért a token ára számít, nem a GPU óradíja

3. Az Nvidia-függés csökken, de nem szűnik meg. A Microsoft nem jelentette be a GPU-vásárlások leállítását, és a Maia kifejezetten az inferenciára szól — a tanítás más történet. A The Verge is óvatosan, „kevésbé támaszkodik” fordulattal írja le a helyzetet.

4. A hyperscaler saját szilícium már nem kivétel, hanem a norma. A Google TPU-ja, az Amazon Trainiuma, az OpenAI saját chipterve és most a Maia harmadik generációja egy irányba mutat: aki nagy méretben futtat modellt, az maga akarja tervezni a hardvert is.

Kapcsolódó elemzésünk: OpenAI Jalapeño: az első saját AI inference chip 2026-ban

5. Az energia a tényleges korlát. Egy 167 kW-os rack és a többgigawattos telepítés terve azt mondja ki, hogy az adatközpontok határa ma nem a chipek száma, hanem az elérhető áram és hűtés. Ezért lett a „teljesítmény per watt” az elsődleges tervezési szempont a nyers csúcsteljesítmény helyett.

Mire figyelj: a számok a Microsofttól jönnek

Fontos korlátozás, amit a bejelentés nem rejt el: a 40 százalékos és a 7-szeres érték a Microsoft saját, előzetes állítása — a közlemény is „we expect”, vagyis „arra számítunk” formában fogalmaz. Független mérés egyelőre nincs, és a „vezető GPU-alapú rendszerek” összehasonlítási alapját sem nevezte meg a cég. A Maia 300 éles bevezetése 2027-ben indul, így a valós számokra még várni kell. További részleteket a Microsoft a következő hónapban, a San Franciscóban rendezett Ignite 2026 konferencián ígér.

Kapcsolódó elemzésünk: d-Matrix NVLink Fusion: rivális inferencia-chip az NVIDIA rackjében

Összefoglaló

A Maia 300 bejelentésének súlyát nem a chip adatlapja adja, hanem a mellé tett vállalás: a Microsoft 2027-től többgigawattos méretben a saját szilíciumára helyezi az inferenciát. A technikai irány következetes — chiplet-architektúra a TSMC N2P-n, 288 GB HBM4 és 18 TB/s gyorsítónként, szoftveresen vezérelt adatmozgatás, Ethernet-alapú szuperpod 12 288 gyorsítóig, és minden döntésben a watt a mérőegység.

A következő mérföldkő két lépésben jön: idén év végéig a GitHub Copilot és a Microsoft Foundry is átkerül a Maia 200-ra, 2027-ben pedig megkezdődik a Maia 300 éles telepítése. Addig a 40 százalék és a 7-szeres érték ígéret marad, nem mért tény — ezt érdemes észben tartani minden olyan összehasonlításnál, ami ezekkel a számokkal dolgozik.

Olvasd tovább az AI Hírek elemzéseit: a chipverseny másik oldaláról az NVIDIA Vera Rubin — 5x gyorsabb inferencia és az AI gyárak új korszaka szól, az adatközpontok energiakorlátjáról pedig az AI Energy Management Alliance: Google, NVIDIA és 18 új partner.

Ha nem akarsz lemaradni a hasonló bejelentésekről és azok értelmezéséről, iratkozz fel az AI Hírek hírlevelére — a heti összefoglalóban megkapod, mi történt az AI-infrastruktúrában, és hogy mit jelent ez a te munkád szempontjából.

Vélemény, hozzászólás?

Az e-mail címet nem tesszük közzé. A kötelező mezőket * karakterrel jelöltük