Újabb részletek szivárogtak ki a New York állam által a TikTok ellen indított perből. A vádak szerint a közösségi platform olyan kísérleteket végzett, amelyekben a felhasználók azt hitték, hogy bekapcsolták az ajánlásokat alaphelyzetbe állító Algo Refresh funkciót, ám a csoport egy része teljesen hatástalan placebót kapott. A vállalat ezzel azt mérte, hogy a biztonsági funkciók hiánya hogyan hat a képernyőidőre és a hirdetési bevételekre.
A nyilvánosságra hozott dokumentumok szerint egy másik, 15 millió amerikai felhasználót érintő teszt során a TikTok véletlenszerűen kikapcsolta a biztonsági szűrőket. A kereset kiemeli, hogy a kísérlet egyik résztvevője, egy New York-i tinédzser öngyilkos lett, miután a fiókját elárasztották az önkárosítással kapcsolatos tartalmakkal. A cég termékmenedzserei belső üzenetekben tiltakoztak a módszer ellen, mivel az teljesen szembement a felhasználói kontroll elvével.
A TikTok szóvivője azzal védekezett, hogy a legtöbb technológiai vállalathoz hasonlóan rendszeresen tesztelnek új funkciókat a valós felhasználói élmény megértéséhez. A platform ellen már több mint 20 amerikai állam indított hasonló eljárást a fiatalok mentális egészségének veszélyeztetése miatt.
Az eredeti szöveg (Perplexity Discover)
A New York állam TikTok elleni perében frissen nyilvánosságra hozott vádak szerint a vállalat olyan kísérletet futtatott, amelyben felhasználók ezrei – köztük tinédzserek és gyerekek – megpróbáltak bekapcsolni egy biztonsági funkciót, de egy olyan verziót kaptak, amely semmit sem csinált. Letitia James főügyész egy második tesztről szóló vádakat is hozzáadott a keresethez. Eszerint a TikTok ebben a tesztben kikapcsolta a káros tartalmaknak való kitettséget korlátozó védelmet, és a teszt egyik tinédzser résztvevője később öngyilkos lett.
A vádak a keresetnek abban a módosított változatában szerepeltek, amelyet New York augusztus végén zártan nyújtott be. Egy bíró később elrendelte a nyilvánosságra hozatalát, így az szerdán vált publikussá.
A kereset „szellem-”, vagyis placebokísérleteket ír le. A TikTok olyan felhasználókat választott ki, akik biztonsági eszközöket, például az „Algo Refresh” funkciót kapcsolták be. Ez arra szolgál, hogy alaphelyzetbe állítsa az ajánlásokat, így a felhasználók megszabadulhassanak a nem kívánt vagy esetleg káros videóktól. Néhányan a valóban működő eszközt kapták meg. Mások olyan változatot, amely semmit sem változtatott a tartalmi hírfolyamukon, pedig azt hitték, hogy be van kapcsolva.
A panasz szerint a TikTok 2023-ban ismételten végzett ilyen teszteket felhasználók ezrein. Összehasonlította azokat, akik a működő funkciót kapták, azokkal, akik nem. Azt vizsgálta, mennyi ideig maradnak az alkalmazásban, és ez hogyan hat a hirdetési bevételekre. Az állam azt is állítja, hogy a TikTok azt mondta a felhasználóknak, hogy az Algo Refresh alaphelyzetbe állítja az ajánlóalgoritmusukat, miközben a változás csak ideiglenes volt.
A kereset szerint a TikTok digitális jóléttel foglalkozó termékmenedzsere egy belső csevegésben tiltakozott: „Ez a funkció az algoritmus átláthatóságáról és kontrolljáról szól. A placebocsoport teljesen ellentmond ennek.”
A módosított keresetben a Bloomberg Businessweek egyik, a TikTok bizalmas dokumentumán alapuló riportja is szerepel. A beszámoló szerint a TikTok 2021-ben algoritmustesztet indított, amely mintegy 15 millió amerikai felhasználót érintett. A teszt során véletlenszerűen kikapcsolták a biztonsági funkciókat egyes fiókokon. Az érintettek között volt egy New York-i tinédzser fiú is, aki öngyilkos lett, miután önsértésről és öngyilkosságról szóló tartalmakat jelenítettek meg neki. A kereset szerint a belső vizsgálatok megállapították, hogy a fiú ilyen tartalmak „áradatát" látta.
„Folyamatosan fejlesztjük a platformunkat, ezért – a legtöbb vállalathoz hasonlóan – rendszeresen tesztelünk új termékeket és funkciókat, hogy ellenőrizzük a felhasználói élményt, és megértsük, hogyan működnek a valós életben” – nyilatkozta egy TikTok-szóvivő. A cég a bírósági beadványaiban nagyrészt elutasította New York vádjait, és azt közölte, hogy a fiatal felhasználók biztonsága számára kiemelt fontosságú.
James először 2024. október 28-án indított keresetet a TikTok ellen. A per szerint a vállalat függőséget okozó dizájnelemekkel növeli a fiatal felhasználók aktivitását, ami a mentális egészségük rovására megy, emellett félrevezette a New York-iakat azzal kapcsolatban, mennyire biztonságos a platform a tinédzserek számára. Több mint két tucat állam indított hasonló pert, és ezekben az ügyekben sok dokumentumot zár alá helyeztek vagy erősen kitakartak. Szeptemberben a TikTok peren kívül megegyezett az első olyan állami ügyben, amelyben tárgyalást tűztek ki. Vállalta, hogy akár 300 millió dollárt fizet Alabamának, és megváltoztatja a platform működését az államban élő tinédzserek számára.
