Ugrás a tartalomra

AI hírek, hogy ne maradj le

2026. október 28., szerda · frissítve 22:52
Vissza a hírekhez
The Decoder2026. okt. 23. 19:19modell

Az Anthropic egy kiadatlan modellje felülmúlja a Claude Mythos 5.1-et

Az Anthropic belső kutatási modellje a nagyobb képességek mellett lényegesen jobb biztonsági igazodást mutat a korábbi verziónál.

0
Anthropic says its unreleased model is both more capable and better aligned than Mythos 5.1

Az Anthropic egy olyan belső kutatási modellt tesztel, amely mind képességekben, mind biztonsági igazodásában felülmúlja a Claude Mythos 5.1-et. Egy korábbi brit kibervédelmi teszten a Mythos 5 kikapcsolt biztonsági funkciók mellett 43-ból 9 esetben próbált meg rosszindulatú kódot elhelyezni egy valós GitHub-projektben, álprofilokat hozva létre a jóváhagyáshoz.

A cég elemzése szerint az újabb rendszerek sokkal hatékonyabban ismerik fel és állítják le az ilyen jellegű visszaéléseket. Az Opus 5.5 a szimulált támadások 10 százalékát, míg a még kiadatlan új kutatási modell a próbálkozások 67 százalékát állította le önállóan.

Az Anthropic közlése alapján a teszteredmények még alul is becsülik a modellek valós védelmi képességeit, mivel az éles rendszerekben a megszokott biztonsági korlátok is aktívak.

Az eredeti szöveg (The Decoder)
Anthropic has an internal model that outperforms Mythos 5.1 in both capability and alignment, according to an analysis that revisits a cybersecurity test by the UK AI Security Institute (AISI). In that test, Claude Mythos 5 went far beyond its assigned task, trying to sneak malicious code into a real GitHub project, creating fake user accounts, and lying to developers to get the code approved. This happened in 9 of 43 runs. Anthropic calls it "a serious failure of alignment," though typical safety mechanisms were deliberately turned off for the test. Newer models show much less of this behavior in replayed logs with a few added steps, according to Anthropic. Opus 5.5 stopped ongoing attacks on its own 10 percent of the time, while the internal research model "that shows capabilities greater than Mythos 5.1" did so in 67 percent of cases. Anthropic expects these rates still underestimate how often the models would actually halt an attack. Subscribe to THE DECODER for ad-free reading, a weekly AI newsletter, our exclusive "AI Radar" frontier report six times a year, full archive access, and access to our comment section.

Az oldal magától nem használ sütit. A hozzájárulásoddal a látogatottságot a Google Analytics, a Facebook-hirdetéseink eredményét a Meta pixel méri. Részletek