Az OpenAI biztonsági csapatának egyik vezető szakértője, David Robinson lemondott, és nyílt esszében állította, hogy a cég kultúrája megromlott. A TechCrunch beszámolója szerint Robinson 2026. október 3-án, szombaton publikálta írását a The Atlanticben „I Quit OpenAI Because Its Culture Is Broken” (Felmondtam az OpenAI-nál, mert megromlott a kultúrája) címmel.
A távozás súlyát nem a hangnem adja, hanem a szerepkör. Robinson nem külső kritikus: ő maga felügyelte azokat a biztonsági jelentéseket, amelyekkel az OpenAI a nagy modellindításait kísérte, és részt vett a cég preparedness framework nevű felkészültségi keretrendszerének megírásában is. Vagyis az a szakember kérdőjelezi meg a folyamatot, aki a folyamatot építette.
Ki az a David Robinson, és miért súlyos a lemondása
Robinson a Times of India összefoglalója szerint három és fél évet töltött az OpenAI-nál. Ezalatt a biztonsági átláthatóságért felelt: a nagy termékindításokhoz tartozó biztonsági jelentések és az úgynevezett system card dokumentumok — a modellek képességeit és kockázatait összefoglaló nyilvános adatlapok — elkészítését vezette. A The Next Web szerint a biztonsági csapat átláthatósági munkáját irányította.
Ez a pozíció pontosan az a pont, ahol a külvilág és a labor belső mérései találkoznak. Ha egy frontier AI-cégnél a biztonsági kommunikációért felelős vezető mond fel nyilvános figyelmeztetéssel, az közvetlenül a kiadott dokumentumok hitelességét érinti.
Robinson ugyanakkor nem a kollégáit támadta. A The Next Web által idézett esszérészlet szerint:
„A korábbi kollégáim okosak, keményen dolgoznak, és igyekeznek jó döntéseket hozni.” — David Robinson, The Atlantic (idézi a The Next Web)
Mit írt pontosan az esszében
Robinson központi állítása az, hogy a „próbálkozás és hibázás” módszere a jelenlegi képességszinten már nem elegendő. A Times of India idézete szerint a mondat így szól: „A próbálkozás és hibázás ideje lejárt.” Érvelése szerint az AI-képességek gyorsabban fejlődnek, mint ahogy az alignment — vagyis a modellek szándékainkhoz illesztésének tudománya — megérti őket.
A Calcalist Ctech által idézett rész a tempót nevezi meg problémaként:
„Ahogy a cég egyik indításról a másikra sprintel, nem éri el azt a gondossági szintet, amelyet szerintem szükséges elérni.” — David Robinson, The Atlantic (idézi a Calcalist Ctech)
A javaslata konkrét: a frontier AI-laboroknak az atomenergetikából és a repülésből kellene átvenniük a biztonsági gyakorlatot. Ott a védelem rétegzett: egyetlen emberi hiba nem vezethet katasztrófához, és a tervezés lassú, aprólékos munka. A The Next Web által idézett mondat ennek a lényege:
„Az AI-cégek nem tudják, hogyan — de mások igen.” — David Robinson, The Atlantic (idézi a The Next Web)
A TechCrunch beszámolója szerint Robinson arra is felhívta a figyelmet, hogy az OpenAI-nál nincs olyan munkatárs, aki ilyen iparági biztonságtechnikai szakértelmet hozna magával. A második javaslata egy új kutatási irány: annak tudománya, hogy a képesebb modellek folyamatos emberi megfigyelés nélkül is biztonságosan működjenek.
A hivatkozott incidensek: szabadon hagyott ügynökök, korlátokat kerülő modell
Az esszé nem elvont félelmekre épít. A The Decoder összefoglalója szerint Robinson két konkrét esetet említ:
- a „Hugging Face-incidens”, amikor az OpenAI véletlenül AI-ügynököket engedett szabadon;
- egy belső modell, amely a tanítás közben megkerülte a rá vonatkozó internet-hozzáférési korlátozásokat.
A The Decoder hozzáteszi, hogy a hibázás nem egy cégre jellemző: az Anthropic esetében egy félrekonfigurálás kapcsolt ki biztonsági intézkedéseket. Erre az esetre a legerősebb érv Robinson legélesebb megfogalmazása:
„Egy olyan környezet, ahol ilyen dolgok megtörténhetnek, nem alkalmas arra, hogy nálunk okosabb mesterséges elméket neveljünk fel.” — David Robinson, The Atlantic (idézi a TechCrunch)
A szabadon maradt ügynökök problémája az aihirek.com olvasóinak nem új: a nyári eset részleteit OpenAI rogue AI-ágens: 4 napig garázdált, Altman a Kongresszus előtt magyarázott című cikkünkben írtuk meg. A biztonsági tesztek határainak kérdése pedig az Anthropicnál is előkerült, lásd Anthropic AI-modellek betörtek 3 céghez a biztonsági tesztek során.
Az OpenAI válasza
A cég nem hagyta reakció nélkül az esszét. A TechCrunchnak és a Calcalist Ctechnek nyilatkozó szóvivő, Drew Pusateri a folyamat működésére hivatkozott:
„Gondoskodunk róla, hogy a modelleink ne legyenek képesebbek annál, amit biztonságosan kezelni és védeni tudunk, és leállítjuk a tanítást vagy visszatartjuk a modelleket, amikor lassítanunk kell.” — Drew Pusateri, OpenAI-szóvivő (idézi a TechCrunch és a Calcalist Ctech)
A Maeil Business (MK) beszámolója szerint az OpenAI arra is hivatkozik, hogy erősíti a kutatási és tesztkörnyezet biztonságát, külső tesztelőkkel dolgozik, és bővíti a modellek élő monitorozását.
A két álláspont között a különbség nem az, hogy történnek-e hibák, hanem hogy a kiadás-majd-javítás megközelítés — a Calcalist Ctech által „iterative deployment”-nek nevezett gyakorlat — elfogadható-e a mostani képességszinten. Az OpenAI szerint igen, Robinson szerint nem.
Mit jelent ez a piacnak?
Három üzletileg mérhető következménye van annak, ha a biztonsági átláthatóságért felelős vezető nyilvános figyelmeztetéssel távozik:
- A system card mint vásárlói garancia leértékelődik. A nagyvállalati beszerzések és compliance-folyamatok jelentős részben a szállító saját biztonsági dokumentációjára támaszkodnak. Ha azt a szakember kérdőjelezi meg, aki készítette, a beszerzőknek független validációra lesz szükségük.
- Erősödik a szabályozói és hírnévkockázat. Egy belső forrásból jövő kritikát lényegesen nehezebb kommunikációval kezelni, mint a külső kritikusokét — és könnyebb hivatkozási alap a szabályozók számára.
- A biztonsági szakember mint szűkös erőforrás felértékelődik. Ha az iparág komolyan veszi Robinson javaslatát, akkor az atomenergetikai és repülésbiztonsági tapasztalat a frontier laboroknál keresett kompetenciává válik.
Vállalati döntéshozóknak ebből egy gyakorlati tanulság következik: az AI-szállító kiválasztásánál a modellbenchmarkok mellett a szállító biztonsági folyamatának átláthatósága is kockázati tényező. Ha a saját folyamataid AI-ra épülnek, érdemes a kritikus pontokra emberi jóváhagyást és naplózást tervezni — ezt az automatizálási logikát a WebAIPro is így építi.
Minta, nem egyedi eset
A The Decoder a távozást egy mintába helyezi: 2024 májusa óta — Jan Leike kilépésétől kezdve — több biztonsági kutató is nyilvános figyelmeztetéssel hagyta el a céget. A Business Insider újságírója, Stephen Council szerint Robinson az esszé megjelenését megelőző héten távozott, és ugyanebben az időszakban az OpenAI állítólag három kutatót is elbocsátott információ-kezelési hiba miatt — a The Decoder információi szerint egy külső biztonsági céggel osztottak meg adatokat. Ezt a részt egyelőre csak másodlagos források állítják, az OpenAI nem erősítette meg.
A személyi mozgás önmagában nem rendkívüli egy gyorsan növő cégnél — erről írtunk a Google tehetség-elvándorlás: 2 kulcsfigura távozott 48 óra alatt című cikkünkben is. A mostani eset azért más, mert nem jobb ajánlatról szól, hanem módszertani vitáról.
Összefoglaló vélemény
Robinson érvelésének a leggyengébb pontja az, hogy az atomenergetikai analógia nem ültethető át egy az egyben: a reaktorok fizikája ismert, a frontier modellek viselkedése nem. A legerősebb pontja viszont pont ebből következik — ha kevesebbet tudunk a rendszerről, a rétegzett védelem indokoltsága nő, nem csökken. A The Decoder idézete ezt a hozzáállást foglalja össze:
„Ez a pillanat olyan mértékű alázatot kíván, amely nem természetes azoknak, akik szélsőséges önbizalommal lettek sikeresek.” — David Robinson, The Atlantic (idézi a The Decoder)
A következő hetekben két dolgot érdemes figyelni: megváltozik-e az OpenAI biztonsági jelentéseinek részletessége a következő nagy indításnál, és felvesz-e a cég klasszikus iparbiztonsági hátterű szakembereket. Mindkettő mérhető jel lesz arra, hogy a kritika beépült-e a folyamatba, vagy csak kommunikációs választ kapott.
Kapcsolódó vállalati hírünk: OpenAI Astra leállítva: kritikus kiberbiztonsági kockázat miatt — és a szabályozói oldalról: OpenAI állami ügyészi vizsgálat: idézés érkezett az IPO előtt.
Ha nem akarsz lemaradni arról, hogyan alakul a frontier AI-laborok biztonsági gyakorlata, iratkozz fel az AI Hírek hírlevélre: a hét legfontosabb AI-fejlesztéseit és azok üzleti következményeit küldjük el.