Az Anthropic képviselői zárt körben mutatták be a szövetségi törvényhozóknak az élvonalbeli mesterséges intelligencia biztonságát szabályozó törvénytervezetüket. A javaslat értelmében a szövetségi kormány csak szűk és rendkívül súlyos esetekben kérhetné bíróságtól egy MI-modell leállítását.
A tervezet alapján a hatóságok csak akkor avatkozhatnának be, ha egy modell közvetlenül több mint 1 milliárd dolláros kárral vagy legalább 50 ember halálával fenyegetne. A kockázatoknak kifejezetten biológiai fegyverekhez, kibertámadásokhoz vagy a modell feletti ellenőrzés elvesztéséhez kellene kapcsolódniuk. A rendszer független értékelők bevonásával működne, és felülírná az egyes amerikai államok saját szabályozásait.
A céget a nyáron átfogó exportkorlátozások sújtották, ami miatt két legfejlettebb modelljét le kellett állítania. Ez a kezdeményezés az egyik első olyan eset, amikor egy vezető MI-fejlesztő cég maga próbálja megfogalmazni a rá vonatkozó jogszabályi kereteket.
Az eredeti szöveg (Perplexity Discover)
Az Anthropic képviselői zárt körben bemutatták a Capitol Hill törvényhozóinak az élvonalbeli MI biztonságát és védelmét szabályozó törvényjavaslat tervezetét – számolt be pénteken a Politico, három, az ügyet ismerő forrásra hivatkozva. A tervezet értelmében a kormány csak szűk, katasztrofális esetekben tilthatna le egy fejlett MI-modellt. Emellett felülírna néhány állami MI-törvényt is. A javaslat az egyik eddigi legközvetlenebb próbálkozás arra, hogy egy vezető MI-labor maga írja meg a saját technológiájára vonatkozó szabályokat, miközben a Kongresszusban versengő biztonsági törvényjavaslatokról folyik a vita.
„Ez a törvényjavaslat az Anthropic Advanced AI Frameworkjében megfogalmazott javaslatokat tükrözi, amelyeket júniusa támogatunk szövetségi és állami törvényhozók körében" – mondta az Anthropic szóvivője a Politicónak. „Ezek ésszerű szabályok, amelyekről úgy gondoljuk, hogy a Kongresszusnak lépnie kellene." A szóvivő a Reutersnek azt mondta, hogy a törvényjavaslat lehetőséget adna a kormánynak arra, hogy „megakadályozza vagy visszaszorítsa a legerősebb modellek veszélyes bevezetését".
A tervezet szerint a kormány csak akkor akadályozhatná meg egy modell kiadását vagy használatát, ha az előre látható módon, közvetlenül több mint 1 milliárd dolláros kárral, illetve több mint 50 ember halálával vagy súlyos sérülésével fenyegetne. A kockázatnak emellett három forrás valamelyikéből kellene származnia: biológiai fegyver létrehozásából vagy kiadásából, abból, hogy egy modell kijátssza fejlesztője ellenőrzését, vagy kibertámadásból – írja a Politico. A megfogalmazás a kaliforniai SB 53-as törvényt követi.
A Kereskedelmi Minisztériumnál bejegyzett független értékelők rendszeresen felmérnék a laborokat és élvonalbeli modelljeiket. A laborok fizethetnének az értékelőknek, feltéve hogy a díjazás nem függ az eredményektől. Ha az értékelők „közvetlen, nevesített kockázatot” találnának, 72 órán belül jelenteniük kellene a Kereskedelmi Minisztériumnak – számolt be a Reuters a Politicóra hivatkozva. A minisztérium ezután a washingtoni szövetségi bíróságtól kérhetné a modell leállítását. A tervezet kifejezetten kizárja, hogy bármely más szövetségi minisztérium, ügynökség vagy tisztviselő felfüggeszthesse egy modell fejlesztését, üzembe helyezését vagy belső használatát.
A laboroknak ezenkívül biztonsági keretrendszert kellene kidolgozniuk, átláthatósági jelentéseket kellene közzétenniük, védeniük kellene a bejelentőket, és a kritikus biztonsági incidenseket jelenteniük kellene a Kereskedelmi Minisztériumnak – írja a Politico.
A törvényjavaslat felülírná az államok jogszabályait a nyilvános kockázatközlés, a harmadik felek általi értékelés és a incidensjelentés területén. A szövetségi jogszabályok elsőbbsége (preemption) régóta vitatott kérdés a Kongresszusban: a demokraták elutasították azokat a javaslatokat, amelyektől attól tartottak, hogy gyengítenék a Kaliforniában, Illinois-ban és New Yorkban elfogadott szabályokat. Az Anthropic támogatta az állami biztonsági törvényeket, köztük két kaliforniait is, de szövetségi törvényjavaslatot eddig nem támogatott nyilvánosan.
A tervezet azután született, hogy az Anthropicot a nyáron átfogó exportkorlátozások sújtották, amelyek miatt két legfejlettebb modelljét le kellett állítani. A korlátozásokról a Politico szerint a kormányzati tisztviselők és a cég vezetői közötti gyors egymásutánban lezajlott telefonbeszélgetések során döntöttek. A Bloomberg Law szerint a javaslat a gyorsan fejlődő mesterséges intelligencia kockázataival kapcsolatos fokozott aggodalmak idején érkezik.
A Kongresszus más javaslatokat is mérlegel. A Képviselőházban Lori Trahan (demokrata, Massachusetts) és Jay Obernolte (republikánus, Kalifornia) vezeti a FRONTIER Act néven futó javaslatot. A Szenátusban John Thune többségi vezető, valamint Amy Klobuchar és Ted Cruz szenátorok egy katasztrófakockázatokról szóló törvényjavaslatról tárgyalnak. Ezt a javaslatot Maria Cantwell szenátor és néhány biztonsági szervezet bírálja
