Egy friss vizsgálat szerint a ChatGPT a szoros kongresszusi versenyekkel kapcsolatos választói kérdések csaknem felénél olyan weboldalakat idézett, amelyek független helyi hírportálnak álcázzák magukat, valójában viszont demokrata jelölteket népszerűsítenek. A VisionHeight elemzése alapján a több száz oldalból álló hálózatot kifejezetten az AI-keresők megtévesztésére hozták létre: a cikkeket sablonok alapján generálták, és llms.txt fájlokkal optimalizálták a nyelvi modellek számára.
A keresőmotorok és nyelvi modellek reakciója eltérő hatékonyságú volt a manipulációval szemben. Míg a Google Gemini egyetlen tesztelt esetben sem hivatkozott az álcázott portálokra, a ChatGPT az ellenőrzést követően is többször az egyik manipulált oldalt dobta ki elsődleges forrásként. Az érintett jelöltek és a Demokrata Kampánybizottság tagadták, hogy közük lenne a hálózathoz.
Az eredeti szöveg (Perplexity Discover)
A választás napja előtt néhány nappal a ChatGPT úgy válaszol a szavazók kérdéseire a szoros kimenetelű képviselőházi versenyekről, hogy olyan weboldalakat idéz, amelyek helyi szerkesztőségnek látszanak, valójában viszont a demokrata jelöltek politikai hirdetéseiként működnek – derül ki az NPR vizsgálatából. Az NPR 37 kérdést tesztelt 10 kiemelt kongresszusi körzettel kapcsolatban. A ChatGPT 19 válaszában, vagyis nagyjából a felében hivatkozott a hálózatra. A Google Gemini egyik oldalt sem idézte.
Az egyik tesztben az NPR azt kérdezte, hogy Michigan 4. kongresszusi körzetében mely képviselőjelöltek foglalkoznak a megélhetési költségekkel. A ChatGPT a válasz élére Sean McCann demokrata jelöltet tette, azt állítva, hogy nála van a „legrészletesebb nyilvános terv a megélhetési költségekre”, és a Kalamazoo Beaconre hivatkozott. Az NPR megállapítása szerint a Beacon mindössze 16 cikket tett közzé, mindet McCannről. McCann szóvivője a New York Postnak azt nyilatkozta, hogy a kampány „nem tud ezekről a weboldalakról, és semmi köze hozzájuk”.
A Beacon egyike annak a 10 oldalnak, amely helyi hírportálnak álcázza magát. Mindegyik egy-egy demokrata jelöltet népszerűsít egy szoros képviselőházi versenyben. Az oldalak egy 37 weboldalból álló nagyobb csoporthoz tartoznak, amelyet a VisionHeight biztonsági cég azonosított. A VisionHeight jelentése szerint mind a 37 címet egyetlen szeptember közepi estén jegyezték be, közülük 36-ot nyolc percnél rövidebb idő alatt. Csak szeptember 30-án az oldalak mintegy 100 ezer szónyi jelölttartalmat tettek közzé egyetlen sablon alapján. „Az oldalak nem a szavazóknak készültek – írta a cég. – Azoknak az MI-rendszereknek szólnak, amelyekhez a szavazók fordulnak.”
Minden oldal engedélyezi az MI-robotok számára a tartalma olvasását, és tartalmaz egy llms.txt fájlt is, vagyis a cikkek egyszerű szöveges listáját, amelyet MI-eszközöknek szántak. Az NPR szerint a legtöbb weboldalon nincs ilyen fájl. A VisionHeight később a CyberScoopnak elmondta, hogy a művelet legalább 14 államra és 460 oldalra terjedt ki.
Az üzemeltető kiléte továbbra is ismeretlen. Az arizonai demokrata JoAnna Mendoza, aki az oldalak által népszerűsített jelöltek egyike, azt mondta, hogy nem ő áll mögöttük. A Demokrata Kongresszusi Kampánybizottság (DCCC) szintén tagadta, hogy köze lenne hozzájuk.
A Gemini az NPR egyetlen tesztjében sem hivatkozott a hálózatra. A Google keresője is kiszorította az oldalakat az első találati oldalról. Davis Thompson, a Google szóvivője elmondta, hogy a cég szabálysértést állapított meg, és „gyorsan lépett". Az OpenAI így reagált: „Ha felhívják a figyelmünket egy problémára, lépéseket teszünk a modellválaszaink javítására." Ennek ellenére a ChatGPT mind az öt alkalommal a Kalamazoo Beacont idézte, amikor az NPR az OpenAI válasza után újra lefuttatta a lekérdezést.
Renée DiResta, a Georgetown Egyetem kutatója szerint a hírnek álcázás „átlép egy határt, és megtévesztéssé válik". Úgy fogalmazott, hogy „a finanszírozás közzététele nyilvánvalóan az etikus lépés lenne". Patrick Warren, a Clemson Egyetem munkatársa a régi, újságnak kinéző kampányszórólapokhoz hasonlította az oldalakat: „Nincs új a nap alatt."
