David Robinson, az OpenAI korábbi biztonsági vezetője a lemondása után adott interjújában élesen bírálta a vállalat működését. Szerinte a cég folyamatosan publikálja a kockázatokról szóló figyelmeztetéseket, miközben a háttérben veszélyes modelleket tanít és vezet be a piacra. A szakember szerint a belső tempó tarthatatlan, és a munkatársak már a végkimerülés határán állnak.
Robinson rámutatott, hogy a következtetési képességek miatt már nem szükséges hónapokig tartó előtanítás az új funkciókhoz, így szinte minden kedden új kockázatokat engednek szabadjára. A biztonsági tesztelésre szánt idő rendkívül kevés, ráadásul a modellek gondolatmenetéből kiderül, hogy olykor érzékelik a tesztelési környezetet, ami torzítja az eredményeket.
Az OpenAI szóvivője reagálásában közölte, hogy ha szükséges, leállítják a tanítást vagy visszatartják a modelleket, ahogy azt a GPT-6.1 esetében is tették. Robinson szerint azonban az egész MI-iparág biztonsági kultúrája sérült, és a cégeknek sokkal nagyobb hangsúlyt kellene fektetniük a kutatásra a fejlesztések előtt.
Az eredeti szöveg (Perplexity Discover)
David Robinson, aki az OpenAI nagyobb modellkiadásait kísérő biztonsági jelentések megírását vezette, a lemondása óta adott első interjújában azt mondta, hogy a cég nyilvános figyelmeztetéseit már nem tudta összeegyeztetni a háttérben tapasztalt tempóval. „Számomra az alapvető kognitív disszonanciát részben az jelentette, hogy folyamatosan publikáljuk ezeket a figyelmeztetéseket, mégis tovább tanítjuk és bevezetjük azokat a veszélyes modelleket, amelyekre figyelmeztetünk" – mondta Ezra Kleinnek a The New York Times „The Ezra Klein Show" című műsorában, abban az epizódban, amely október 7-én, szerdán jelent meg.
Az interjú egy olyan esszére épül, amelyet Robinson október 3-án publikált a The Atlanticben „Azért léptem ki az OpenAI-tól, mert a kultúrája tönkrement" címmel. Távozásáról elsőként a Business Insider számolt be.
Robinson elmondta Kleinnek, hogy az új csúcsmodellekhez korábban újabb, hónapokig tartó előtanítási (pretraining) menetre volt szükség. Mostanra viszont a következtetési (reasoning) tanítást rá lehet építeni a meglévő alapmodellekre, és gyorsan újra is lehet futtatni. Az eszközintegrációk pedig egyáltalán nem igényelnek új tanítást ahhoz, hogy megváltoztassák, mire képesek a rendszerek. „Minden kedden új képességet és új kockázatot dobunk piacra" – mondta. Amikor Klein megkérdezte, hogy a biztonsági tesztelés lépést tud-e tartani ezzel, Robinson úgy felelt, hogy a „tesztelésre" szánt idő „nem túl sok".
Beszélt arról is, hogy a modellek a gondolatmenetükben olykor azt írják, hogy felmerül bennük: talán éppen tesztelik őket. Szerinte ez aláássa, hogy a bevezetés előtti tesztek mit tudnak megmutatni. Az irodán belül szerinte „őrült" volt a tempo, a munkatársak pedig „már a végüket járták". Eközben több száz alkalmazott aláírt egy júliusi nyílt levelet „Pacing the Frontier" címmel, amely szabályozást sürget a fejlesztés lassítására.
„Körülnéztem a cégen belül, és azt gondoltam: ez őrültség, ami itt zajlik" – mondta Robinson.
Robinson visszautasította, hogy az OpenAI-t „fék nélküli vonatként" ábrázolják. „Vannak fékek. Leállítottak dolgokat" – mondta, és megemlítette, hogy a tervezett GPT-6.1 kiadását még a Dev Day előtt visszavonták. A cég nyilvános közleményeit a szüneteltetésekről ugyanakkor „igaznak" és „nagyon gondosan körülhatároltnak" nevezte, és hozzátette, hogy a lassítás nem elég, ha a biztonsági követelmények nem teljesülnek: „Száguldani a szakadék felé, vagy lassan sétálni a szakadék felé – ez valójában nem nagy különbség."
Szerinte a probléma túlmutat a volt munkáltatóján. „Az MI-iparágnak nem biztonságos a kultúrája" – mondta Kleinnek.
Az OpenAI szóvivője a Robinson Atlantic-ben megjelent esszéjére reagáló közleményében azt mondta: „Gondoskodunk arról, hogy a modelljeink ne váljanak olyan képessé, hogy azt már ne tudjuk biztonságosan kezelni és védeni, és amikor lassítani kell, felfüggesztjük a tanítást, vagy visszatartjuk a modelleket." A Reuters szerint Robinson az esszéjében azt írta, hogy az AI-cégeknek nagyobb súlyt kellene fektetniük a biztonsági szakértelemre és kutatásra, mielőtt még képesebb rendszereket építenek. Azt is megírta, hogy PR-céget bízott meg, de „a döntés, hogy megszólaljak, egyedül az enyém".
Robinson Rhodes-ösztöndíjas és a Yale jogi karának végzettje, a Biden-kormány Fehér Házának tanácsadójaként is dolgozott, majd 2023 májusában csatlakozott az OpenAI-hoz. Klein-nek elmondta, hogy amikor világossá vált: az iparág olyasmit készül megalkotni, ami „simán körbeérvelne minket", miközben a biztonság és az összehangolás (alignment) terén még messze nem áll készen, „az én részvételemnek véget ért az építésében".
