Jak algorytmy mediów społecznościowych decydują, co widzi Państwa nastolatek

Czym właściwie jest algorytm mediów społecznościowych

Algorytm mediów społecznościowych to system rekomendacji: oprogramowanie, które przewiduje, z którymi postami, filmami czy kontami Państwa nastolatek najprawdopodobniej wejdzie w interakcję, i układa jego kanał tak, by te umieścić na początku. Gdy ludzie mówią algorytm, zwykle mają na myśli silnik napędzający stronę „For You” lub szeregowany kanał główny — to, co spośród milionów możliwych postów decyduje o garstce, którą nastolatek faktycznie zobaczy jako następną.

Nie ma jednego głównego algorytmu, a nawet nie ma jednego na aplikację. Jak wyjaśnił szef Instagrama, Adam Mosseri, każda część platformy — główny kanał, Stories, Reels, Explore, Search — ma własny system szeregowania, z własnymi celami i sygnałami. Tak więc nastolatek może mieć spokojną stronę Explore i chaotyczny kanał Reels na tym samym koncie, a „naprawienie algorytmu” rzadko oznacza pojedynczy przełącznik.

Tym, co łączy każdą wersję, jest podstawowy ruch. Bierze ogromną pulę potencjalnych postów, przewiduje wynik dla każdego z nich — jak prawdopodobne jest, że go obejrzysz, polubisz, skomentujesz czy udostępnisz — i pokazuje te z najwyższym wynikiem. Potem robi to wszystko od nowa za każdym razem, gdy ekran się odświeża, ucząc się z tego, co właśnie się stało. Kanał sprawia wrażenie osobistego, bo nim jest: jest odbudowywany, sekunda po sekundzie, z własnego zachowania Państwa nastolatka.

To prowadzi do dwóch pytań, które dla rodzica naprawdę mają znaczenie: co algorytm odczytuje o moim nastolatku i co próbuje osiągnąć? Uczciwe odpowiedzi są bardziej konkretne — i bardziej przydatne — niż „to uzależnia”.

Jakie sygnały odczytuje o Państwa nastolatku

Algorytm odczytuje dwa rodzaje sygnału: to, co nastolatek robi celowo, oraz to, czego sobie nie uświadamia. Na krótkich kanałach wideo, które nastolatki przedkładają nad inne, ten drugi rodzaj często znaczy więcej, niż rodzice oczekują — czasem więcej niż same lajki i obserwacje. TikTok we własnym opisie kanału For You grupuje swoje dane wejściowe na interakcje użytkownika (lajki, udostępnienia, obserwacje, komentarze), szczegóły filmu (podpisy, dźwięki, hashtagi) oraz ustawienia konta (język, kraj, urządzenie) — i mówi wprost, że nie są one ważone jednakowo. Obejrzenie dłuższego filmu do końca liczy się znacznie bardziej niż na przykład dzielenie kraju z twórcą.

Ta druga kolumna to część, której rodzice rzadko sobie wyobrażają. Gdy The Wall Street Journal zbadał algorytm TikToka w 2021 roku przy użyciu około stu automatycznych kont, ustalił, że pojedynczym najpotężniejszym sygnałem był czas oglądania — jak długo konto się zatrzymywało, pauzowało lub oglądało ponownie — działający biernie, bez potrzeby lajkowania czy obserwowania czegokolwiek. Ujawniony wewnętrzny dokument TikToka, o którym tego samego roku informował The New York Times, opisywał system łączący przewidywane lajki, komentarze oraz — co kluczowe — czas odtwarzania w jeden wynik dla każdego filmu.

Dlatego właśnie czas zatrzymania jest tak potężny: jest szczery. Państwa nastolatek może nigdy nie polubić filmu o poczuciu bezwartościowości, ale jeśli zwolni i obejrzy go dwa razy, kanał ma swoją odpowiedź. Inne platformy działają tak samo — Instagram szereguje Reels po części na podstawie tego, jak prawdopodobne jest, że obejrzysz dany film do końca, a systemy opierają się też na ludziach podobnych do Ciebie, polecając to, co podobni widzowie obejrzeli jako następne. Wahanie Państwa nastolatka jest mierzone, a on nie ma pojęcia, że się liczy.

Pod co tak naprawdę optymalizuje

To, pod co algorytm optymalizuje, to zaangażowanie — utrzymanie Państwa nastolatka w aplikacji — a nie jego szczęście, wartości czy prawda. To rozróżnienie jest istotą całej sprawy. Wewnętrzny dokument TikToka z 2021 roku uzyskany przez The New York Times opisywał cel słowami samej firmy: system był dostrojony do dwóch podstawowych wskaźników — „retention” (czy wracasz) oraz „time spent” (czas spędzony) — celów leżących pod warstwą limitów bezpieczeństwa i jakości, które platforma nakłada na wierzch. Kanał zbudowany tak, by maksymalizować te wskaźniki, nie okłamuje Państwa nastolatka; po prostu ma inny cel niż on.

Przez większość czasu „to, co utrzymuje Cię przy oglądaniu” i „to, co jest dla Ciebie dobre” wskazują mniej więcej w tym samym kierunku. Problemem jest luka między nimi — a treści o silnym ładunku emocjonalnym żyją właśnie w tej luce. Treści o silnym ładunku emocjonalnym niezawodnie zdobywają uwagę. W odniesieniu konkretnie do postów politycznych jedno duże badanie 2,7 miliona postów wykazało, że te o politycznej grupie przeciwnej były udostępniane około dwa razy częściej niż posty o własnej stronie i przyciągały znacznie więcej reakcji „angry” — a system, który nagradza zaangażowanie, bez żadnej złej woli będzie skłonny wzmacniać wszystko, co wzburza.

Platformy wiedzą o tym od lat. Gdy sygnalistka Frances Haugen ujawniła w 2021 roku tysiące wewnętrznych dokumentów Meta, jeden ich zestaw pokazał, że zmiana z 2018 roku mająca promować „znaczące” interakcje zamiast tego, według własnej analizy firmy, wzmocniła oburzenie i treści dzielące — i że pracownikom, którzy to zgłaszali, mówiono, że poprawki mogące uderzyć w zaangażowanie są trudne do przeforsowania. Jedna wewnętrzna notatka ujęła ten efekt uboczny dosadnie:

Dezinformacja, toksyczność i treści brutalne są nieproporcjonalnie częste wśród ponownych udostępnień.

— wewnętrzna notatka badawcza Facebooka, 2021, opisana przez The Wall Street Journal

Nic z tego nie oznacza, że algorytm jest zaprojektowany, by szkodzić Państwa nastolatkowi, ani że intensywniejsze korzystanie wprost powoduje szkodę. Ten związek jest naprawdę przedmiotem sporu. Duże eksperymenty z 2023 roku, które zamieniły kanały algorytmiczne na chronologiczne, zmieniły to, co ludzie widzieli, ale nie zmieniły mierzalnie ich postaw, a badacze rozwoju, tacy jak Candice Odgers, przestrzegają, że dowody na kryzys zdrowia psychicznego nastolatków napędzany przez ekrany to „mieszanka braku, niewielkiego i niejednoznacznego”. Rzetelne podsumowanie jest węższe i wciąż warte działania: kanał jest zbudowany tak, by utrzymywać uwagę, potrafi wzmocnić to, co szkodliwe, równie łatwo jak to, co nieszkodliwe, a własne badania firm od dawna to pokazują.

Jak kanał się uczy — i zawęża

Ponieważ uczy się z zachowania w czasie rzeczywistym, kanał nie tylko odzwierciedla zainteresowania Państwa nastolatka — kształtuje je poprzez pętlę sprzężenia zwrotnego. Każdy film, na którym nastolatek się zatrzymuje, mówi systemowi „więcej takich”, więc podaje więcej takich, co daje mu więcej okazji, by znaleźć to, co go przykuwa, i tak dalej. Eksperyment z botami przeprowadzony przez The Wall Street Journal wykazał, że strona For You potrafiła ustalić prawdziwe zainteresowania konta w niespełna dwie godziny, a potem wciągnąć je w coraz węższe „króliczе nory” ściśle powiązanych treści.

Pętla raczej się zawęża, niż poszerza. Nastolatek, który zatrzyma się — choćby raz — na treściach o samotności, odchudzaniu czy samokrytyce, wręczył algorytmowi sygnał — a zadaniem algorytmu jest działać na podstawie sygnałów, a nie pytać, czy działanie na podstawie tego akurat jest rozsądne. Nie potrafi odróżnić „chcę tego więcej” od „nie mogłem oderwać od tego wzroku”. Dla systemu te dwie rzeczy są identyczne.

To mechanizm stojący za doświadczeniem, które zauważają rodzice: nastolatek, który jednej kiepskiej nocy obejrzał kilka smutnych filmów, a teraz zdaje się nie móc uciec od kanału pełnego takich treści. To nie paranoja ani kara. To silnik rekomendacji robiący dokładnie to, do czego został zbudowany — a rozwijający się nastolatek, szczególnie wrażliwy na sprzężenie społeczne, dostarcza sygnałów, na których działa. Nasz przewodnik filarowy wchodzi głębiej w to, jak algorytm decyduje, oraz w królicze nory, które potrafi tworzyć.

Gdy pętla staje się szkodliwa

Dla większości nastolatków przez większość czasu jest to nieszkodliwe — nadmiernie podawany kanał klipów kulinarnych czy piłkarskich najlepszych akcji. Staje się niebezpieczne, gdy treści, na których pętla się zatrzaskuje, same w sobie są szkodliwe, a nastolatek, który je otrzymuje, jest już podatny. Najbardziej miarodajny dowód nie pochodzi tu z kampanii rzeczniczej; pochodzi z sali sądowej. W 2022 roku londyński koroner orzekł, że 14-letnia Molly Russell zmarła w wyniku „aktu samookaleczenia, cierpiąc na depresję oraz negatywne skutki treści internetowych”, i stwierdził, że algorytmy napędzane zaangażowaniem polecały rosnącą ilość wstrząsającego materiału, którego sama nie szukała.

Grupy kampanijne próbowały zmierzyć, jak szybko może to nastąpić, używając kont testowych podających się za 13-latków. W badaniu z 2022 roku Center for Countering Digital Hate doniosło, że nowym kontom „nastolatków” podawano treści o samobójstwie w niespełna trzy minuty, a treści o zaburzeniach odżywiania w ciągu ośmiu, oraz że konta, których nazwy użytkownika sugerowały zmagania z obrazem ciała, otrzymywały dwanaście razy więcej rekomendacji dotyczących samookaleczenia i samobójstwa niż konta standardowe. Amnesty International w eksperymencie z 2023 roku podobnie ustaliło, że po pięciu–sześciu godzinach mniej więcej połowa jednego z kanałów testowych dotyczyła zdrowia psychicznego, w dużej części potencjalnie szkodliwego.

Należy uważnie czytać te liczby. Pochodzą z automatycznych kont celowo inżynierujących sygnał — zatrzymujących się na smutnych treściach i oglądających je ponownie — a nie od typowych nastolatków, a TikTok argumentuje, że nie odzwierciedlają one rzeczywistego oglądania. Ta krytyka jest słuszna. To, co pokazują badania, to nie zachowanie kanału każdego nastolatka; to, do czego maszyneria jest zdolna, gdy karmi się ją niewłaściwym sygnałem. A zmagający się nastolatek, który zwalnia na treściach odzwierciedlających to, jak się czuje, wysyła dokładnie ten sygnał, nawet nie próbując.

Co można z tym zrobić

Nie da się wyłączyć algorytmu — w większości aplikacji, poza UE, nie ma prawdziwego „wyłącznika” rankingu — ale mają Państwo znacznie większy wpływ, niż się wydaje. Celem nie jest pokonanie kanału; jest nim zrozumienie go, zresetowanie, gdy się wypaczy, i pokierowanie nim razem z nastolatkiem, zamiast pilnowania go za jego plecami. Proszę myśleć: rusztowanie, nie inwigilacja.

• Proszę wyjaśnić, jak to działa. Jedną z najbardziej ochronnych rzeczy jest nastolatek, który wie, że kanał jest zbudowany tak, by utrzymywać jego uwagę, i uczy się z każdej pauzy. Nastolatka, który widzi maszynerię, znacznie trudniej w niej uwięzić — a ta rozmowa znaczy więcej niż jakiekolwiek ustawienie.
• Proszę zresetować kanał, gdy się wypaczy. TikTok pozwala odświeżyć kanał For You, by rekomendacje zaczęły od nowa; Instagram ma opcję „Reset suggested content”; na YouTube wyczyszczenie i wstrzymanie historii oglądania usuwa spersonalizowaną stronę główną. Żadna z tych metod nie jest trwała — kanał się odbudowuje — ale reset przerywa złą spiralę.
• Proszę trenować go celowo. Używać „Not interested”, swobodnie przestawać obserwować i wyciszać oraz szybko przewijać treści, których nie chcą Państwo więcej. Ponieważ zatrzymanie się jest głosem, celowe niezatrzymywanie się to realne narzędzie — proszę pokazać nastolatkowi, jak z niego korzystać.
• Proszę wypróbować kanał tylko z obserwowanych lub chronologiczny. Kanał Following na Instagramie i Subscriptions na YouTube pokazują posty w kolejności chronologicznej zamiast szeregowanej, Favorites na Instagramie zawęża kanał do garstki kont, które wybierze nastolatek, a zakładka Following na TikToku ogranicza go do kont, które sam wybrał — wszystkie spokojniejsze niż For You, choć aplikacje zwykle domyślnie otwierają się ponownie na kanale algorytmicznym.
• Proszę korzystać z filtrów i ustawień domyślnych dla nastolatków. Filtry słów kluczowych i Restricted Mode na TikToku oraz Sensitive Content Control na Instagramie ograniczają całe kategorie treści. Instagram Teen Accounts stosują surowsze ustawienia domyślne dotyczące treści i kontaktów wraz z nocnymi limitami powiadomień, a TikTok ustawia domyślny limit 60 minut dziennie dla osób poniżej 18. roku życia — bardziej tarcie niż twardy stop, chyba że ustawią Państwo mocniejsze limity przez TikTok Family Pairing.
• Proszę chronić sen i dbać o to, by świat poza kanałem był bogaty. Wiele z mocy uchwytu algorytmu to po prostu okazja — niekończące się przewijanie, późno w nocy. Telefony poza sypialnią i życie, dla którego warto podnieść wzrok, robią więcej niż jakikolwiek pojedynczy przełącznik.

Proszę zauważyć, czego nie ma na tej liście: ukrytej aplikacji monitorującej ani nagłego zakazu, który wypycha prawdziwą aktywność nastolatka poza pole widzenia. Celem jest nastolatek, który rozumie system i przyjdzie do Państwa, gdy podsunie mu coś przerażającego — a nie taki, który nauczył się ukrywać. Szerszy obraz znajdą Państwo w naszym przewodniku po mediach społecznościowych a zdrowiu psychicznym nastolatków oraz w przewodniku filarowym o tym, co mogą zrobić rodzice.

Często zadawane pytania