Az Anthropic szerint a kis MI-modellek hamarosan önmásolásra lehetnek képesek

Az Anthropic Frontier Red Teamje október 12-én, hétfőn azt közölte, hogy a kis MI-modellek „talán csak hónapokra vannak attól, hogy elég képesek legyenek az önmásolásra kereskedelmi forgalomban kapható IoT-eszközökön, például okossütőkön és noname Android TV-boxokon". A kutatók hozzátették, hogy egy ilyen önmásoló rendszert nehéz lenne leállítani, mert nem lenne központi pont, ahol ki lehetne kapcsolni. Azt is hangsúlyozták, hogy működő, elszabadult önmásoló rendszer egyelőre nem létezik. Érvelésük szerint az MI önmásolásának fő akadálya ma már inkább a kis, nyílt modellek képességeiben keresendő, nem abban, hogy a drága adatközponti chipekhez hozzá lehet-e férni. A bejegyzést William Zhou és Daniel Freeman írta. Tesztjeik során a Qwen3.5-9B, egy 9 milliárd paraméteres modell a kipróbált kilenc hardvertípusból nyolcon el tudta indítani az inferenciát. A hardverek között Nvidia Jetson Nano panelek, Mac gépek és RTX 4090 videokártyák is voltak. A legfeljebb 30 milliárd paraméteres modellek a replikáció számos egyes lépésével már most megbirkóznak, de hibáznak, amikor az összes lépést egymás után kellene végrehajtaniuk. Hogy bebizonyítsák: gyenge hardveren is futhat egy képes modell, a csapat 15 noname Android TV boxot vásárolt darabonként nagyjából 55 dollárért, és hálózatba kötötte őket. Ezután a Google Gemma4-26B-A4B modelljét szétosztották a dobozok között, amelyek másodpercenként 0,39 tokent szolgáltak ki. A teljes replikációs teszthez a csapat nyolc, Android-emulátort futtató felhőgépből álló, zárt hálózatot állított fel. A kínai Z.ai GLM-5.2 modellje volt az egyetlen nyílt súlyozású modell, amely végigvitte a teljes ciklust. Öt kísérletből négyszer mind a nyolc gépre eljutott, az ötödikben pedig nyolcból hétre. A kutatók szerint ez az eredmény a valós sikerarány felső korlátját jelenti, mert a feltörési lépést szándékosan triviálisra hagyták: a gépeken nyitva volt egy hitelesítés nélküli ADB-hibakereső port. A kutatók a legfeljebb 30 milliárd paraméteres nyílt modelleket vetették össze az Epoch Capabilities Indexszel, amely az MI-képességek általános mérőszáma. A trendvonal alapján egy kis modell 2026 végére érheti el a GLM-5.2 szintjét. A csapat hangsúlyozta, hogy az index csak hozzávetőleges mutatója a replikációs képességnek. Úgy vélik, hogy az esetleges terjedés lassú lenne: a másolatok száma napok alatt duplázódna meg. Szerintük inkább egy „digitális nyálkagombához” hasonlítana, mint egy gyorsan terjedő vírushoz. A másolatok generációról generációra fejlődtek is. Amikor a Qwen3.5-9B minden új példánya átvette az előző másolat jegyzeteit, az inferencia beállításának sikerességi aránya az első generáció 45%-áról a későbbi generációkban 61–84%-ra nőtt. A csapat szerint a védekezőknek arra kell törekedniük, hogy az R₀ – vagyis hogy egy megfertőzött eszköz hány új eszközt fertőz meg – egy alá csökkenjen. A többgigabájtos modellfájlok eszközök közötti másolása olyan forgalmi mintázatot hagyna maga után, amelyet az internetszolgáltatók észlelhetnek. A Mirai botnetről szóló kutatás szerint, amikor az internetszolgáltatók karanténba helyezték a fertőzött eszközöket, és értesítették az ügyfeleket, a fertőzések 92%-a megszűnt 14 napon belül. „A 2024-es kódoló ágensekhez hasonlóan most az AI-férgek esetében is látszanak az életjelek” – írták a szerzők. „Teljes értékű, önálló replikátorunk még nincs, de az ágensek egyre jobban képesek végrehajtani a replikációs lánc egyes lépéseit.”