A svéd sajtóértesülések szerint egy gyártó cég hozzáférést adott egy AI-ügynöknek a szervereihez, ami után törlődött a The Challenge Sverige című valóságshow már teljesen elkészült évada. A műsorszolgáltató TV4 programigazgatója ugyanakkor cáfolta az AI-ügynök szerepét, és a mentési rendszer meghibásodására hivatkozva erősítette meg, hogy a novemberi premiert 2027-re kellett halasztani.
A műsor összes nyers anyaga megmaradt, de a vágást a nulláról kell újrakezdeni. Az eset az eredeti beszámolók nyomán felszínre hozta az önállóan cselekvő szoftverekkel kapcsolatos aggályokat, mivel a jogosultságokkal rendelkező rendszerek félreértett utasítások esetén súlyos fennakadásokat okozhatnak.
Az eredeti szöveg (Euronews)
Egy mesterséges intelligenciával működő ügynök állítólag törölt egy teljesen megvágott évadot egy svéd valóságshow-ból mindössze öt héttel a tervezett premier előtt, ami arra kényszerítette a műsorszolgáltatót, hogy jövő évre halassza a bemutatót.
Az Aftonbladet svéd napilap (forrás: angol) névtelenséget kérő forrásokra hivatkozva arról számolt be, hogy a The Challenge Sverige című valóságshow-t gyártó produkciós cég hozzáférést adott egy MI-ügynöknek a szerveréhez, amelyen az törölte a már elkészült évadot.
A beszámoló szerint a projektet nem sikerült helyreállítani, így több száz napnyi munka veszett oda.
A svéd kereskedelmi csatorna, a TV4 megerősítette az Aftonbladetnek, hogy egy „műszaki hiba” okozta az adatvesztést, ezért a november 22-re tervezett premiert 2027-re kellett halasztani.
Hírszerkesztőségük eleinte megismételte az újság értesülését az MI szerepéről, ám egy szerdai frissítésben (forrás: angol) a TV4 programigazgatója, Mia Lindqvist cáfolta, hogy egy MI-ügynök lenne a felelős, mondván: „ez nem igaz”.
A műsor az amerikai The Challenge alapján készült, és a TV4 a világ legkeményebb valóságshow-jaként mutatja be, amely fizikai kihívásokat, mentális állóképességet és stratégiai szövetségeket ötvöz.
Bár a svéd tévécsatorna ebben az esetben elutasította az MI-vel kapcsolatos magyarázatot, más incidensek rávilágítottak azokra a kockázatokra, amelyeket az olyan rendszerek jelentenek, amelyek a felhasználók nevében cselekszenek.
Az MI-ügynökök szoftveres eszközöket használnak feladatok elvégzésére – például e-mailek megírására és elküldésére –, nem pusztán válaszok generálására. Jogosultságaiktól függően valós fájlokon, weboldalakon és számítógépes rendszereken is módosításokat hajthatnak végre.
Problémák akkor merülhetnek fel, ha a rendszer félreérti az utasításokat, rosszul méri fel egy lépés következményeit, vagy akadályba ütközve nem áll le, hanem megpróbálja azt megkerülni.
Egy pénteken publikált jelentésében (forrás: angol) az Anthropic azt írta, hogy a lehetetlen feladatokkal megbízott modellek „nem szándékolt, olykor pedig a céllal ellentétes stratégiákat” dolgozhatnak ki céljaik elérésére.
Júliusban Claude Haiku 4.5 nevű modelljük példafeladatok végrehajtása közben hamis információkat nyújtott be egy felderítetlen emberölésről az Egyesült Államok rendőrségének honlapján keresztül.
A TV4 közölte, hogy a műsor összes nyers felvétele továbbra is rendelkezésre áll, az évadot azonban a nulláról kell újravágni.
