Jak algoritmy sociálních sítí rozhodují o tom, co váš dospívající uvidí

Co algoritmus sociální sítě vlastně je

Algoritmus sociální sítě je doporučovací systém: software, který předpovídá, se kterými příspěvky, videi nebo účty bude váš dospívající nejpravděpodobněji interagovat, a podle toho seřadí jeho feed tak, aby je dal na první místo. Když lidé říkají algoritmus, myslí tím obvykle motor za stránkou „For You“ nebo za řazeným domovským feedem — to, co z milionů možných příspěvků rozhodne, kterou hrstku váš dospívající skutečně uvidí jako další.

Neexistuje jeden hlavní algoritmus, a dokonce ani jeden na aplikaci. Jak vysvětlil šéf Instagramu Adam Mosseri, každá část platformy — hlavní feed, Stories, Reels, Explore, Search — provozuje vlastní řadicí systém s vlastními cíli a signály. Dospívající tak může mít na jednom a tomtéž účtu klidnou stránku Explore a chaotický feed Reels a „oprava algoritmu“ zřídkakdy znamená jediný přepínač.

Co mají všechny verze společné, je základní postup. Vezme obrovskou zásobu kandidátních příspěvků, u každého z nich předpovídá skóre — jak pravděpodobně si ho přehrajete, lajknete, okomentujete nebo budete sdílet — a ukáže těch pár s nejvyšším skóre. Pak to celé udělá znovu pokaždé, když se obrazovka obnoví, a učí se z toho, co se právě stalo. Feed působí osobně, protože osobní je: vteřinu po vteřině se znovu sestavuje z vlastního chování vašeho dospívajícího.

Zbývají tak dvě otázky, na kterých rodiči opravdu záleží: co o mém dospívajícím algoritmus čte a čeho se snaží dosáhnout? Poctivé odpovědi jsou konkrétnější — a užitečnější — než „je to návykové“.

Jaké signály o vašem dospívajícím čte

Algoritmus čte dva druhy signálu: věci, které váš dospívající dělá záměrně, a věci, o nichž si ani neuvědomuje, že je dělá. Na krátkovideových feedech, které dospívající upřednostňují, ten druhý druh často záleží více, než rodiče čekají — někdy více než samotné lajky a sledování. TikTok ve svém vlastním popisu feedu For You seskupuje vstupy do uživatelských interakcí (lajky, sdílení, sledování, komentáře), detailů videa (titulky, zvuky, hashtagy) a nastavení účtu (jazyk, země, zařízení) — a otevřeně říká, že tyto váhy nejsou stejné. Dosledování delšího videa počítá zdaleka víc než třeba to, že máte stejnou zemi jako tvůrce.

Právě ten druhý sloupec si rodiče málokdy představí. Když The Wall Street Journal v roce 2021 zkoumal algoritmus TikToku pomocí zhruba sta automatizovaných účtů, zjistil, že jediným nejmocnějším signálem byl čas sledování — jak dlouho účet prodléval, pozastavoval nebo znovu přehrával — a to pasivně, bez nutnosti cokoli lajknout nebo sledovat. Uniklý interní dokument TikToku, o němž téhož roku informoval The New York Times, popisoval systém, který do jediného skóre pro každé video spojuje předpokládané lajky, komentáře a — což je klíčové — dobu přehrávání.

Proto je doba prodlení tak mocná: je upřímná. Váš dospívající nemusí nikdy lajknout video o pocitu vlastní bezcennosti, ale když zpomalí a podívá se na něj dvakrát, feed má svou odpověď. Jiné platformy fungují stejně — Instagram řadí Reels zčásti podle toho, jak pravděpodobně dosledujete jedno z nich do konce, a systémy se opírají i o lidi podobné vám a doporučují to, co podobní diváci sledovali dál. Váhání vašeho dospívajícího se měří a oni netuší, že počítá.

Na co ve skutečnosti optimalizuje

Na co algoritmus optimalizuje, je engagement — udržet vašeho dospívajícího v aplikaci — ne jeho štěstí, jeho hodnoty ani pravda. V tomto rozlišení je celá hra. Interní dokument TikToku z roku 2021, který získal The New York Times, popisoval cíl vlastními slovy společnosti: systém byl vyladěn na dvě klíčové metriky, „retenci“ (zda se vrátíte) a „strávený čas“ — cíle, které leží pod limity bezpečnosti a kvality, jež platforma vrství nahoru. Feed postavený tak, aby je maximalizoval, vašemu dospívajícímu nelže; má prostě jiný cíl než on.

Většinou ukazují „co vás udrží u sledování“ a „co je pro vás dobré“ zhruba stejným směrem. Problémem je mezera mezi nimi — a emočně intenzivní obsah žije právě v ní. Emočně intenzivní obsah si pozornost spolehlivě získává. Konkrétně u politických příspěvků jedna velká studie 2,7 milionu příspěvků zjistila, že ty o politické protistraně byly sdíleny zhruba dvakrát častěji než příspěvky o vlastní straně a vyvolávaly daleko více „naštvaných“ reakcí — a systém, který odměňuje engagement, bude bez jakékoli zlovůle mít sklon zesilovat cokoli, co rozčiluje.

Platformy to vědí už léta. Když oznamovatelka Frances Haugen v roce 2021 zveřejnila tisíce interních dokumentů Meta, jedna jejich sada ukázala, že změna z roku 2018 zamýšlená na podporu „smysluplných“ interakcí místo toho podle vlastní analýzy společnosti zesílila pobouření a rozštěpující obsah — a že zaměstnancům, kteří na to upozornili, bylo řečeno, že nápravy, které by mohly nahlodat engagement, se prosazují těžko. Jedna interní zpráva popsala vedlejší účinek bez obalu:

Dezinformace, toxicita a násilný obsah jsou mezi sdílenými příspěvky neúměrně rozšířené.

— interní výzkumná zpráva Facebooku, 2021, o níž informoval The Wall Street Journal

Nic z toho neznamená, že je algoritmus zkonstruován tak, aby vašemu dospívajícímu ubližoval, ani že intenzivnější používání přímočaře způsobuje škodu. Tato souvislost je vskutku sporná. Velké experimenty z roku 2023, které vyměnily algoritmické feedy za chronologické, změnily to, co lidé viděli, ale měřitelně neposunuly jejich postoje, a vývojoví výzkumníci jako Candice Odgers upozorňují, že důkazy pro krizi duševního zdraví dospívajících poháněnou obrazovkami jsou „směsí žádných, malých a smíšených“. Spravedlivé shrnutí je užší, a přesto stojí za to podle něj jednat: feed je postaven tak, aby udržel pozornost, dokáže zesílit škodlivé stejně snadno jako neškodné a vlastní výzkum těch společností to dlouho ukazuje.

Jak se feed učí — a zužuje

Protože se učí z chování v reálném čase, feed zájmy vašeho dospívajícího nejen odráží — utváří je, prostřednictvím zpětnovazební smyčky. Každé video, u kterého váš dospívající prodlévá, říká systému „víc takového“, takže podává víc takového, čímž získává více příležitostí najít, co ho udrží, a tak dál. Botový experiment Journalu zjistil, že stránka For You dokáže zaměřit skutečné zájmy účtu za méně než dvě hodiny a poté ho vést do stále užších „králičích nor“ těsně příbuzného obsahu.

Smyčka má sklon spíše zužovat než rozšiřovat. Dospívající, který se pozastaví, byť jen jednou, u obsahu o osamělosti, dietách nebo sebekritice, předal algoritmu signál — a úkolem algoritmu je podle signálů jednat, ne se ptát, zda je moudré jednat podle tohohle. Nedokáže rozeznat rozdíl mezi „chci tohohle víc“ a „nemohl jsem od toho odtrhnout oči“. Pro systém jsou ty dvě věci totožné.

Tohle je mechanismus za zkušeností, které si rodiče všímají: dospívající, který jednoho špatného večera sledoval pár smutných videí, a teď se z feedu plného právě jich nedokáže vymanit. Není to paranoia a není to trest. Je to doporučovací motor, který dělá přesně to, k čemu byl postaven — a vyvíjející se dospívající, jenž je zvlášť citlivý na společenskou zpětnou vazbu, dodává signály, na nichž motor běží. Náš pilířový průvodce jde hlouběji do toho, jak algoritmus rozhoduje, a do králičích nor, které dokáže vytvořit.

Když se smyčka obrátí ve škodu

Pro většinu dospívajících je to po většinu času neškodné — přesycený feed kuchařských klipů nebo fotbalových sestřihů. Nebezpečným se stává, když je obsah, na který se smyčka zafixuje, sám o sobě škodlivý, a když je dospívající, který ho dostává, už zranitelný. Nejautoritativnější důkaz zde nepochází z osvětové kampaně; pochází ze soudní síně. V roce 2022 londýnský koroner rozhodl, že čtrnáctiletá Molly Russell zemřela na „akt sebepoškození během trpění depresí a negativními účinky online obsahu“, a shledal, že algoritmy poháněné engagementem jí doporučovaly rostoucí množství drásavého materiálu, který nevyhledávala.

Aktivistické skupiny se pokusily změřit, jak rychle se to může stát, pomocí testovacích účtů vydávajících se za třináctileté. Ve studii z roku 2022 Center for Countering Digital Hate uvedlo, že novým „dospívajícím“ účtům byl podáván obsah o sebevraždě do necelých tří minut a obsah o poruchách příjmu potravy do osmi a že účty, jejichž uživatelská jména napovídala potíže s vnímáním vlastního těla, dostaly dvanáctkrát více doporučení o sebepoškozování a sebevraždě než běžné. Amnesty International v experimentu z roku 2023 obdobně zjistila, že po pěti až šesti hodinách se zhruba polovina jednoho testovacího feedu týkala duševního zdraví, z velké části potenciálně škodlivého.

Čtěte ta čísla pozorně. Pocházejí z automatizovaných účtů, které signál záměrně vyrábějí — pozastavují se u smutného obsahu a znovu ho přehrávají — ne od typických dospívajících, a TikTok argumentuje, že neodrážejí skutečné sledování. Tato kritika je oprávněná. Co studie ukazují, není, jak se chová feed každého dospívajícího; je to, čeho je ta mašinerie schopná, když je krmena špatným signálem. A dospívající, který se trápí a zpomaluje u obsahu zrcadlícího jeho pocity, posílá přesně tento signál, aniž by se o to snažil.

Co s tím můžete dělat

Algoritmus nevypnete — ve většině aplikací, mimo EU, neexistuje pro řazení žádné skutečné „vypnuto“ — ale máte mnohem víc vlivu, než se zdá. Cílem není feed porazit; je to porozumět mu, resetovat ho, když se vychýlí, a usměrňovat ho se svým dospívajícím, místo abyste ho hlídali za jeho zády. Mějte na mysli lešení, ne dohled.

• Vysvětlete, jak funguje. Jednou z nejvíce ochranných věcí je dospívající, který ví, že feed je postaven tak, aby udržel jeho pozornost, a učí se z každé pauzy. Dospívajícího, který tu mašinerii vidí, je mnohem těžší do ní lapit — a tento rozhovor záleží víc než jakékoli nastavení.
• Resetujte feed, když se vychýlí. TikTok umožňuje obnovit váš For You feed, takže doporučení začnou nanovo; Instagram má možnost „Reset suggested content“; na YouTube odstraní personalizovanou domovskou stránku vymazání a pozastavení historie sledování. Žádný z nich není trvalý — feed se znovu sestaví — ale reset přeruší špatnou spirálu.
• Trénujte ho záměrně. Používejte „Not interested“, volně přestávejte sledovat a ztlumujte a rychle proscrollujte kolem obsahu, kterého nechcete víc. Protože prodlévání je hlas, je záměrné neprodlévání skutečným nástrojem — ukažte svému dospívajícímu, jak ho používat.
• Vyzkoušejte feed jen ze sledovaných nebo chronologický. Instagramový feed Following a YouTube Subscriptions ukazují příspěvky v časovém pořadí místo řazené, Instagramová záložka Favorites zúží feed na hrstku účtů, které si váš dospívající vybere, a záložka Following na TikToku ho omezí na účty, které si zvolil — všechny jsou klidnější než For You, byť se aplikace mají sklon znovu otevírat na algoritmickém feedu jako výchozím.
• Využijte filtry a výchozí nastavení pro dospívající. Filtry klíčových slov a Restricted Mode na TikToku a Sensitive Content Control na Instagramu osekávají celé kategorie obsahu. Instagram Teen Accounts uplatňují přísnější výchozí nastavení obsahu a kontaktů s nočními limity oznámení a TikTok nastavuje pro osoby do 18 let výchozí denní limit 60 minut — spíše tření než tvrdé zastavení, pokud nenastavíte pevnější limity přes TikTok Family Pairing.
• Chraňte spánek a udržujte svět mimo feed bohatý. Velká část sevření algoritmu je prostě příležitost — nekonečný scroll, pozdě v noci. Telefony mimo ložnici a život, kvůli kterému stojí za to zvednout hlavu, zmůžou víc než jakýkoli jednotlivý přepínač.

Všimněte si, co na tom seznamu není: skrytá sledovací aplikace nebo náhlý zákaz, který skutečnou aktivitu vašeho dospívajícího vytlačí z dohledu. Cílem je dospívající, který systému rozumí a přijde za vámi, když mu podá něco děsivého — ne ten, kdo se naučil skrývat. Pro širší obraz viz našeho průvodce sociálními sítěmi a duševním zdravím dospívajících a pilířový průvodce o tom, co mohou rodiče dělat.

Časté otázky