Az MIT CSAIL kutatói egy új kísérletben bemutatták, hogy a GPT-6 Astra tanítás nélkül javította ki az Alibaba nyílt forráskódú Qwen3.5-0.8B modelljét. Az ügynök a hálózat súlyainak mindössze 0,016 százalékát módosította, ami által a modell MATH-500-as teszteredménye 7,9 százalékról 48,1 százalékra nőtt. A módszert a kutatók súlytér-programozásnak nevezik.
A javulást nem az hozta létre, hogy a modell új ismereteket tanult, hanem egy beragadó gondolkodási hurok eltávolítása. Az Astra Python-környezetben elemzi a neurális hálózatok súlyait, majd a programkódokhoz hasonlóan módosítja őket. Ugyanakkor a ritkán hurkolódó Gemma 3 270M esetében a módszer nem hozott változást, vagyis hiányzó képességeket nem tud hozzáadni az architektúrához.
A közzétett naplók alapján független fejlesztők is reprodukálni tudták a MATH-500-as eredményeket. A kutatók célja, hogy a kísérleti folyamatot a jövőben reprodukálható mérnöki tudományággá alakítsák.
Az eredeti szöveg (Perplexity Discover)
Négy MIT CSAIL-es kutató szerint az OpenAI GPT-6 Astra modellje nagyjából hatszorosára növelte egy kis nyílt forráskódú modell matekpontszámát úgy, hogy közvetlenül módosította a súlyait, tanítás nélkül. A november 2-án megjelent blogbejegyzésben Rikiya Takehi, Jayden Teoh, Alex Zhang és Omar Khattab azt írta, hogy az Astra az Alibaba Qwen3.5-0.8B modelljének 131 072 súlyát, vagyis 0,016%-át szerkesztette át. Ettől a modell MATH-500-as pontszáma 7,9%-ról 48,1%-ra ugrott. A GSM8K-eredmény 13,8%-ról 67,1%-ra, az IFEval utasításkövetési teszté pedig 21,0%-ról 62,3%-ra nőtt.
A kutatók a módszert „weight-space programmingnak”, vagyis súlytér-programozásnak nevezik. Állításuk szerint a élvonalbeli nyelvi modellek képesek olvasni a neurális hálók súlyait, és úgy javítani őket, ahogy a programozó javítja a kódot. A szerzők szerint a Qwen-eredmény egy hibamód kijavításából származott, nem abból, hogy a modell új matekot tanult volna.
Az Astra Python-környezetben dolgozott, és a modellt korlátozott számú alkalommal futtathatta gyakorlófeladatokon. A bejegyzés szerint az ügynök a Qwen ismétlődő „gondolkodási hurkait” egyetlen irányra vezette vissza, amelyet a 15. és a 19. réteg MLP-i írnak. Ezután ezt az irányt kivonta mindkét réteg 64-64 kimeneti oszlopából. A MATH-500 válaszainak az a hányada, amely elérte a 32 768 tokenes korlátot, 93%-ról 33%-ra csökkent. A Qwen saját modellkártyája is arra figyelmeztet, hogy a modell hajlamos az ilyen hurkokra.
A VentureBeat beszámolója szerint a legerősebb futás 158 beszélgetési fordulóból, 80 Python-futtatásból és 20,3 órából állt, ebbe beleszámít az a 4,7 óra is, amely egy szolgáltatáskiesés miatt veszett el. Kisebb, 10 vagy 25 tesztfuttatásos keretnél a hurkok „alig szűntek meg”.
Ugyanez a megközelítés a ritkán hurkolódó Gemma 3 270M esetében nem működött: a MATH-500-as pontszám egy pontnál kevesebbet változott. „A súlyok szerkesztésével el lehet távolítani egy akadályt, amely elrejtett egy képességet, de olyan képességet nem lehet hozzáadni, amely a modellből hiányzik” – írták a szerzők.
A munka egy blogbejegyzés, nem lektorált tudományos cikk, de a csapat közzétette a teljes kísérleti naplókat. A Hugging Face-en egy közösségi újrafuttatás alkalmazta a közzétett módosítást, és bekapcsolt gondolkodó módban 50,2%-ot ért el a MATH-500-on. Ugyanez az ellenőrzés azt is kimutatta, hogy a módosítatlan alapmodell kikapcsolt gondolkodó módban már 45,8%-ot teljesít. Takehi az X-en azt írta, hogy egy külön, a naplókból végzett újraépítés 51,0%-ot ért el. A GSM8K-n és az IFEval-on elért javulást egyik ellenőrzés sem tudta megismételni.
További kísérletekben az Astra a nyers súlyaik alapján azonosított játékot játszó neurális hálókat, és egy hibásan működő vezetési policyt a súlyainak mindössze 3,5%-ának módosításával javított ki. A VentureBeat beszámolója szerint a rendszer a semmiből írt egy Breakout-hálót is, amely jobban teljesített, mint a hagyományosan betanított alapmodell.
A reakciók megoszlottak. A PauseAI vezérigazgatója, Maxime Fournes „borzasztóan felelőtlen kutatási iránynak" nevezte. Más hozzászólók szerint az eredmény csak azt mutatta meg, hogy egy modell képes eltávolítani egy kézenfekvő hibát. A szerzők közölték, hogy következő lépésként egy olyan tesztrendszert és keretrendszert (benchmarkot és harnesst) fejlesztenének, amely a „jelenleg még fekete mágiának tűnő dolgot szigorú, reprodukálható mérnöki tudományággá" tenné – írta a The Register.
