Po wpisaniu w pasku wyszukiwania na TikToku hasła ‘samobójstwo’ zamiast filmów i profili wyświetli nam się informacja ‘Nie jesteś sam. Jeśli przechodzisz przez trudny okres albo znasz kogoś innego, kto ma taki problem, pamiętaj, że pomoc jest zawsze dostępna’, a poniżej numer do Telefonu Zaufania dla Dzieci i Młodzieży. Mimo to, na platformie nadal znajdziemy masę filmów o nieodwzajemnionej miłości, beznadziei, bólu i tym, co wiele postów wychwala jako ostateczną ucieczkę: samobójstwie.

Niestety wszyscy wiemy jak działa algorytm – jeśli oglądamy takie filmy, będziemy dostawać coraz więcej podobnych propozycji.

Podczas gdy politycy zastanawiają się nad bezpieczeństwem danych, które są w posiadaniu aplikacji, psychologowie boją się o jej użytkowników. Ankiety przeprowadzane wśród nastolatków ujawniły korelację między mediami społecznościowymi a depresją, samookaleczeniami i samobójstwami. Dane Centrów Kontroli i Zapobiegania Chorobom pokazują, że prawie 1 na 4 nastolatków twierdzi, że w 2021 roku poważnie rozważał samobójstwo – to prawie dwukrotnie więcej niż dziesięć lat wcześniej. Amerykańskie Towarzystwo Psychologiczne i podobne instytucje obwiniają za te wysokie wyniki media społecznościowe.

TikTok w 2021 roku oświadczył, że testuje sposoby na uniemożliwienie swojemu algorytmowi wysyłania wielu filmów na tematy takie jak ekstremalna dieta lub smutek. W następnym roku firma wspomniała w poście na blogu, że ‘poprawiła wrażenia z oglądania, więc widzowie widzą teraz mniej filmów na te tematy’, przyznając, że to jednak nie koniec i nadal nad tym pracują.

W praktyce to jednak nie zawsze działa, a TikTok potrafi przez godzinę nie podrzucić żadnego filmu poza tymi dotyczącymi depresji, rozstań czy śmierci. Kiedy takie treści są dobre dla zaangażowania użytkownika, algorytm aktywnie je promuje. Na TikToku jak na żadnej innej platformie, algorytm w bardzo znaczącym stopniu kontroluje treści docierające do kanału użytkownika.

Obawy dotyczące mechanizmu rekomendacji TikToka pojawiały się wśród pracowników platformy od co najmniej 2020 roku.

Wtedy Charles Bahr, były kierownik ds. sprzedaży reklam w biurze TikToka w Niemczech, powiedział, że ostrzegł swoich przełożonych, że algorytm wysyła użytkownikom z pokolenia Z niekończące się strumienie przygnębiających i gloryfikujących samobójstwa filmików. Bahr zaczął dostawać od swoich obserwujących niepokojące nagrania z prośbą o usunięcie ich z aplikacji. Jeden z pierwszych przerażających filmów, które otrzymał, przedstawiał mężczyznę strzelającego sobie w głowę. Gdy Bahr oglądał te klipy, czasami przekazując je zespołowi zaufania i bezpieczeństwa w celu uzyskania pomocy, jego ‘nowe zainteresowania’ podłapał algorytm. Pojawiało się coraz więcej treści o depresji, samobójstwach i samookaleczeniach, Bahr przyznaje, że w niektóre dni doprowadzało go to do łez.

Kiedy Bahr został zaproszony do zabrania głosu na dorocznym spotkaniu europejskiego zespołu ds. komunikacji TikToka w listopadzie 2020 roku, uznał to za okazję do poruszenia tej kwestii. Zalecił, aby aplikacja nie cenzurowała takich treści, ale zamiast tego podsyłała bardziej pozytywne wideo dla młodszych użytkowników. Przeprowadził też eksperyment. Otworzył nowe konto na TikToku i nagrał siebie, podczas gdy ‘zajmował się smutnymi treściami’, aby zobaczyć, ile czasu zajmie, zanim jego kanał stanie się depresyjny. Zajęło to 17 minut.

Bahr mówi, że zgłosił swoje obawy zespołowi ds. strategii algorytmów w Europie, ale nie otrzymał odpowiedzi. Kilka miesięcy później został zwolniony za domniemane oszustwo związane z wydatkami i niewłaściwym użyciem narzędzi firmowych. Bahr, który utrzymuje, że jest niewinny, pozwał firmę za bezprawne zwolnienie. Firma nie odpowiedziała też na prośby o komentarz na temat prezentacji Bahra z 2020 roku i powiedziała, że nie może odpowiedzieć na jego ogólną krytykę ani na obawy, które zgłosił, bo ‘nie może ich zweryfikować’.

Według badania Pew Research Center z 2022 roku 2/3 amerykańskich nastolatków korzysta z TikToka codziennie, a 16 proc. twierdzi, że jest na platformie prawie bez przerwy.

Zdecydowana większość ankietowanych stwierdziła, że ma ogólnie pozytywne doświadczenia z mediami społecznościowymi i że dają im one poczucie przynależności. Ale prawie połowa przyznała, że czuła się przytłoczona treściami, które tam zastała, a ponad 1/4 oświadczyła, że media społecznościowe pogorszyły ich samopoczucie.

Tekst: MZ