TikTok miał dać nastolatkom przycisk placebo do resetu feedu, twierdzi Nowy Jork

Gdy tysiące użytkowników TikToka, w tym nastolatków i dzieci, nacisnęły przycisk, by wyczyścić rekomendacje i zacząć od nowa, nic się nie stało — wynika z odtajnionych niedawno dokumentów sądowych w sprawie wytoczonej firmie przez stan Nowy Jork. Użytkownicy zobaczyli komunikat, że reset się powiódł. W ich kanale For You nadal pojawiały się te same rodzaje filmów.

Narzędzie, którego dotyczy zarzut, Algo Refresh, to jedna z niewielu dróg wyjścia oferowanych przez TikToka osobom, których kanał zaczął podsuwać treści, jakich nie chcą już oglądać. Ma sprawić, by strona For You działała tak, jakby konto dopiero co założono. Nowy Jork zarzuca, że część osób, które skorzystały z tej opcji, trafiła do grupy testowej i otrzymała wersję, która nic nie robiła, podczas gdy użytkownicy spoza eksperymentu dostali działającą wersję.

W skardze napisano, że TikTok porównał następnie obie grupy pod kątem czasu spędzanego w aplikacji i przychodów z reklam. Przytoczono też wewnętrzny sprzeciw. Menedżer produktu z zespołu Digital Well Being TikToka napisał na czacie: „Ta funkcja ma zapewniać przejrzystość działania algorytmu i kontrolę nad nim”, dodając: „Grupa placebo jest z tym całkowicie sprzeczna”. Nowy Jork twierdzi ponadto, że nawet działający reset dawał jedynie tymczasowy efekt.

Polecana lekturaFable 5.1 Anthropic obniża koszty pamięci podręcznej o 75% i ponad dwukrotnie zwiększa wyniki agentyczne

TikTok odrzuca te zarzuty. Rzecznik firmy powiedział agencji Reuters, że „regularnie testujemy nowe produkty i funkcje, aby sprawdzać jakość korzystania z nich i zrozumieć, jak działają w rzeczywistych warunkach”, a także stwierdził, że pozew przedstawia fałszywy obraz działania Algo Refresh. W piśmie złożonym w sądzie firma przyznała, że jej testy „mogą obejmować część ruchu na platformie, która nadal korzystała z pierwotnej wersji”, zaprzeczyła jednak, by przez to użytkownicy byli mniej bezpieczni.

Wiele kwestii pozostaje niewyjaśnionych. Są to zarzuty zawarte w zmienionej skardze, a nie ustalenia sądu; ujawnione dotąd fragmenty nie podają, ile osób trafiło do grupy placebo, jak długo trwał test ani jakie przyniósł wyniki. Testowanie zmian z udziałem grupy kontrolnej to standardowa praktyka w branży technologicznej. Spór dotyczy tego, czy narzędzie bezpieczeństwa używane przez nieletnich powinno być w ogóle poddawane takim testom. Sprawa dotyczy stanu Nowy Jork, a ujawnione dotąd dokumenty nie wskazują, gdzie mieszkali użytkownicy objęci testem.

Dla osób, które dziś polegają na tym przycisku, praktyczny wniosek jest węższy. Reset nie dowodzi, że algorytm o tobie zapomniał. Filtry słów kluczowych TikToka, ustawienie ograniczające treści oraz możliwość ukrywania konkretnych twórców to osobne narzędzia — reset ich nie wyłącza.

Testy opisane w dokumentach odbyły się w 2023 roku, w tym samym roku, w którym TikTok udostępnił opcję odświeżenia kanału For You. Prokurator generalna stanu Nowy Jork Letitia James po raz pierwszy pozwała firmę w październiku 2024 roku. Zarzuty dotyczące grupy placebo znalazły się w zmienionej skardze, złożonej pod koniec sierpnia z klauzulą poufności, a następnie odtajnionej na polecenie sędziego — jak podała agencja Reuters 7 października.

To nie jedyny eksperyment opisany w tej sprawie. Bloomberg informował w sierpniu, że TikTok wstrzymał odrębną aktualizację z zakresu bezpieczeństwa dla około 10 proc. użytkowników w USA, czyli mniej więcej 15 milionów osób, a 16-letni mieszkaniec Nowego Jorku należący do tej grupy zmarł w wyniku samobójstwa w 2022 roku. Żaden sąd nie powiązał tej śmierci z testem.

Pozwy przeciwko TikTokowi złożyło ponad dwa tuziny stanów USA. Zarzucają one firmie, że zaprojektowała aplikację tak, by uzależniała dzieci, i wprowadzała rodziny w błąd co do dostępnych narzędzi bezpieczeństwa. Alabama, której sprawa jako pierwsza miała trafić na rozprawę, zawarła we wrześniu ugodę opiewającą na kwotę do 300 milionów dolarów. Nie podano jeszcze terminu rozprawy w sprawie Nowego Jorku.

Tagi: Nowy Jork, tiktok, bezpieczeństwo dzieci, Algo Refresh, Dla Ciebie

Więcej podobnych

Pixel Tag: lokalizator Google w cenie AirTaga, ale trafi do sprzedaży dopiero w listopadzie

Valor Mortis, soulslike pierwszoosobowy twórców Ghostrunnera, debiutuje 13 października

Warstwa tożsamości, której internet nigdy nie miał, jest teraz budowana pod syntetyczną presją

Shopify pozwala agentom AI złożyć zamówienie za ciebie, a Amazon wciąż ich blokuje

FLOW Digital Infrastructure rozpoczyna budowę dużego kampusu centrum danych w centralnym Tokio

Anthropic kupuje Stainless i wyłącza pipeline SDK używany przez OpenAI