Como os algoritmos das redes sociais decidem o que o seu adolescente vê

O que um algoritmo de rede social realmente é

Um algoritmo de rede social é um sistema de recomendação: software que prevê com quais publicações, vídeos ou contas o seu adolescente tem maior probabilidade de interagir, e organiza o feed dele para colocar essas primeiro. Quando as pessoas dizem o algoritmo, geralmente se referem ao motor por trás de uma página “For You” ou de um feed inicial ordenado — aquilo que decide, entre milhões de publicações possíveis, o punhado que o seu adolescente de fato vê a seguir.

Não existe um algoritmo mestre, e não existe nem mesmo um por aplicativo. Como o chefe do Instagram, Adam Mosseri, já explicou, cada parte de uma plataforma — o feed principal, Stories, Reels, Explore, Search — executa o seu próprio sistema de ordenação, com objetivos e sinais próprios. Assim, um adolescente pode ter uma página Explore tranquila e um feed de Reels caótico na mesma conta, e “consertar o algoritmo” raramente significa um único interruptor.

O que toda versão tem em comum é o movimento básico. Ele pega um enorme conjunto de publicações candidatas, prevê uma pontuação para cada uma — qual a probabilidade de você assisti-la, curti-la, comentá-la ou compartilhá-la — e mostra as poucas de pontuação mais alta. Depois refaz tudo de novo cada vez que a tela é atualizada, aprendendo com o que acabou de acontecer. O feed parece pessoal porque é: ele é reconstruído, segundo a segundo, a partir do próprio comportamento do seu adolescente.

Isso deixa as duas perguntas que de fato importam para um pai ou uma mãe: o que o algoritmo está lendo sobre o meu adolescente, e o que ele está tentando alcançar? As respostas honestas são mais específicas — e mais úteis — do que “isso vicia”.

Quais sinais ele lê sobre o seu adolescente

O algoritmo lê dois tipos de sinal: as coisas que o seu adolescente faz de propósito e as coisas que ele não percebe que está fazendo. Nos feeds de vídeos curtos que os adolescentes preferem, o segundo tipo muitas vezes importa mais do que os pais esperam — às vezes mais do que as próprias curtidas e seguidores. O TikTok, em sua própria descrição do feed For You, agrupa os seus dados de entrada em interações do usuário (curtidas, compartilhamentos, seguidores, comentários), detalhes do vídeo (legendas, sons, hashtags) e configurações da conta (idioma, país, dispositivo) — e diz com todas as letras que esses dados não têm o mesmo peso. Terminar um vídeo mais longo conta muito mais do que, digamos, ser do mesmo país que o criador.

Essa segunda coluna é a parte que os pais raramente imaginam. Quando The Wall Street Journal investigou o algoritmo do TikTok em 2021 usando cerca de cem contas automatizadas, descobriu que o sinal mais poderoso de todos era o tempo de visualização — quanto tempo uma conta se detinha, pausava ou reassistia — funcionando de forma passiva, sem necessidade de curtir ou seguir nada. Um documento interno vazado do TikTok, noticiado pelo The New York Times no mesmo ano, descreveu o sistema combinando curtidas, comentários e — crucialmente — tempo de reprodução previstos em uma única pontuação para cada vídeo.

É por isso que o tempo de permanência é tão poderoso: ele é honesto. O seu adolescente pode nunca curtir um vídeo sobre sentir-se sem valor, mas, se ele desacelera e o assiste duas vezes, o feed já tem a sua resposta. Outras plataformas funcionam do mesmo jeito — o Instagram ordena os Reels em parte com base na probabilidade de você assistir um do início ao fim, e os sistemas também se apoiam em pessoas parecidas com você, recomendando o que espectadores semelhantes assistiram em seguida. A hesitação do seu adolescente está sendo medida, e ele não tem ideia de que ela conta.

Para o que ele realmente está otimizando

Aquilo para o que o algoritmo otimiza é o engajamento — manter o seu adolescente no aplicativo — não a felicidade dele, os valores dele ou a verdade. Essa distinção é o jogo inteiro. Um documento interno do TikTok de 2021 obtido pelo The New York Times descreveu o objetivo nas próprias palavras da empresa: o sistema foi ajustado para duas métricas centrais, “retention” (se você volta) e “time spent” — as metas que ficam por baixo dos limites de segurança e qualidade que uma plataforma sobrepõe a tudo isso. Um feed construído para maximizar essas métricas não está mentindo para o seu adolescente; ele simplesmente tem um objetivo diferente do dele.

Na maior parte do tempo, “o que mantém você assistindo” e “o que é bom para você” apontam aproximadamente para a mesma direção. O problema é a distância entre eles — e o conteúdo emocionalmente intenso vive nessa distância. O conteúdo emocionalmente intenso vence a atenção de forma confiável. Em publicações políticas especificamente, um grande estudo de 2,7 milhões de publicações descobriu que aquelas sobre um grupo político adversário eram compartilhadas cerca de duas vezes mais que as publicações sobre o próprio lado, e atraíam muito mais reações “de raiva” — e um sistema que recompensa o engajamento vai, sem nenhuma malícia, tender a amplificar tudo o que agita.

As plataformas sabem disso há anos. Quando a denunciante Frances Haugen divulgou milhares de documentos internos da Meta em 2021, um conjunto deles mostrou que uma mudança de 2018, destinada a promover interações “significativas”, havia, em vez disso, na própria análise da empresa, amplificado a indignação e o conteúdo divisivo — e que os funcionários que sinalizaram isso ouviram que correções capazes de reduzir o engajamento seriam difíceis de aprovar. Um memorando interno resumiu o efeito colateral sem rodeios:

Desinformação, toxicidade e conteúdo violento são desproporcionalmente prevalentes entre os recompartilhamentos.

— memorando de pesquisa interno do Facebook, 2021, noticiado pelo The Wall Street Journal

Nada disso significa que o algoritmo foi projetado para prejudicar o seu adolescente, ou que o uso mais intenso cause dano de forma direta. Esse vínculo é genuinamente contestado. Grandes experimentos de 2023 que trocaram feeds algorítmicos por cronológicos mudaram o que as pessoas viam, mas não alteraram de forma mensurável as suas atitudes, e pesquisadores do desenvolvimento como Candice Odgers alertam que as evidências de uma crise de saúde mental entre adolescentes impulsionada pelas telas são “uma mistura de nenhum, pequeno e misto”. O resumo justo é mais restrito, e ainda assim vale a pena agir sobre ele: o feed é construído para prender a atenção, ele pode amplificar o nocivo com a mesma facilidade que o inofensivo, e a própria pesquisa das empresas mostra isso há muito tempo.

Como o feed aprende — e se estreita

Como ele aprende com o comportamento em tempo real, o feed não apenas reflete os interesses do seu adolescente — ele os molda, por meio de um ciclo de retroalimentação. Cada vídeo em que o seu adolescente se detém diz ao sistema “mais como este”, então ele serve mais como este, o que lhe dá mais chances de descobrir o que o prende, e assim por diante. O experimento com bots do Journal descobriu que a página For You conseguia identificar os verdadeiros interesses de uma conta em menos de duas horas, e então a canalizava para “tocas de coelho” cada vez mais estreitas de conteúdo estreitamente relacionado.

O ciclo tende a estreitar, e não a ampliar. Um adolescente que faz uma pausa, mesmo que uma única vez, em conteúdo sobre solidão, dietas ou autocrítica entregou ao algoritmo um sinal — e o trabalho do algoritmo é agir sobre os sinais, não perguntar se agir sobre este é sensato. Ele não consegue distinguir “eu quero mais disso” de “eu não consegui desviar o olhar disso”. Para o sistema, os dois são idênticos.

Esse é o mecanismo por trás da experiência que os pais notam: um adolescente que assistiu a alguns vídeos tristes em uma noite ruim, e agora não parece conseguir escapar de um feed cheio deles. Não é paranoia, e não é castigo. É um motor de recomendação fazendo exatamente aquilo para o qual foi construído — e um adolescente em desenvolvimento, que é especialmente sensível ao retorno social, fornece os sinais com que ele funciona. Nosso guia-pilar aprofunda como o algoritmo decide e as tocas de coelho que ele pode criar.

Quando o ciclo se torna nocivo

Para a maioria dos adolescentes, na maior parte do tempo, isso é inofensivo — um feed servido em excesso de clipes de culinária ou de lances de futebol. Torna-se perigoso quando o conteúdo no qual o ciclo se fixa é, ele próprio, nocivo, e quando o adolescente que o recebe já está vulnerável. A evidência mais autoritativa aqui não vem de uma campanha de defesa de causa; vem de um tribunal. Em 2022, um legista de Londres concluiu que a adolescente de 14 anos Molly Russell morreu de “um ato de automutilação enquanto sofria de depressão e dos efeitos negativos de conteúdo on-line”, e constatou que algoritmos impulsionados pelo engajamento haviam recomendado um volume crescente de material angustiante que ela não tinha ido procurar.

Grupos de campanha tentaram medir a rapidez com que isso pode acontecer, usando contas de teste que se passavam por adolescentes de 13 anos. Em um estudo de 2022, o Center for Countering Digital Hate relatou que novas contas “de adolescente” recebiam conteúdo sobre suicídio em menos de três minutos e conteúdo sobre transtornos alimentares em oito, e que contas cujos nomes de usuário sugeriam dificuldades com a imagem corporal recebiam doze vezes mais recomendações sobre automutilação e suicídio do que as contas comuns. A Amnesty International, em um experimento de 2023, descobriu de forma semelhante que, após cinco a seis horas, cerca de metade de um feed de teste era relacionada à saúde mental, grande parte dela potencialmente nociva.

Leia esses números com cuidado. Eles vêm de contas automatizadas que deliberadamente forjavam o sinal — fazendo pausas e reassistindo a conteúdo triste — e não de adolescentes típicos, e o TikTok argumenta que eles não refletem a visualização real. Essa crítica é justa. O que os estudos mostram não é como o feed de cada adolescente se comporta; é do que a maquinaria é capaz quando é alimentada com o sinal errado. E um adolescente em dificuldade, que desacelera diante de conteúdo que espelha o que ele sente, está enviando exatamente esse sinal sem tentar.

O que você pode fazer a respeito

Você não pode desligar o algoritmo — na maioria dos aplicativos, fora da UE, não há um “off” verdadeiro para a ordenação — mas você tem muito mais influência do que parece. O objetivo não é derrotar o feed; é entendê-lo, reiniciá-lo quando ele se desviar e direcioná-lo junto com o seu adolescente, em vez de vigiá-lo pelas suas costas. Pense em andaime, não em vigilância.

• Explique como funciona. Uma das coisas mais protetoras é um adolescente que sabe que o feed foi construído para prender a atenção dele e que aprende com cada pausa. Um adolescente que consegue enxergar a maquinaria é muito mais difícil de aprisionar dentro dela — e essa conversa importa mais do que qualquer ajuste.
• Reinicie o feed quando ele se desviar. O TikTok permite que você atualize o seu feed For You para que as recomendações comecem do zero; o Instagram tem uma opção “Reset suggested content”; no YouTube, limpar e pausar o histórico de visualizações remove a página inicial personalizada. Nenhum é permanente — o feed se reconstrói — mas um reinício quebra uma espiral ruim.
• Treine-o de propósito. Use “Not interested”, deixe de seguir e silencie sem hesitação, e passe rápido pelo conteúdo de que você não quer mais. Como deter-se é um voto, deliberadamente não se deter é uma ferramenta de verdade — mostre ao seu adolescente como usá-la.
• Experimente um feed só de quem você segue ou cronológico. O feed Following do Instagram e o Subscriptions do YouTube mostram as publicações em ordem cronológica em vez de ordenadas, o Favorites do Instagram estreita o feed a um punhado de contas que o seu adolescente escolhe, e a aba Following do TikTok o limita às contas que ele escolheu — todos mais tranquilos que o For You, embora os aplicativos tendam a reabrir no feed algorítmico por padrão.
• Use os filtros e os padrões para adolescentes. Os filtros de palavra-chave e o Restricted Mode do TikTok, e o Sensitive Content Control do Instagram, reduzem categorias inteiras de conteúdo. As Instagram Teen Accounts aplicam padrões mais rígidos de conteúdo e de contato, com limites de notificação durante a noite, e o TikTok define um padrão diário de 60 minutos para menores de 18 anos — mais um atrito do que uma barreira firme, a menos que você defina limites mais firmes pelo TikTok Family Pairing.
• Proteja o sono e mantenha rico o mundo fora do feed. Boa parte do domínio do algoritmo é simplesmente oportunidade — rolagem infinita, tarde da noite. Telefones fora do quarto, e uma vida que valha a pena levantar a cabeça para ver, fazem mais do que qualquer botão sozinho.

Repare no que não está nessa lista: um aplicativo de monitoramento secreto, ou uma proibição repentina que empurra a atividade real do seu adolescente para fora de vista. O objetivo é um adolescente que entende o sistema e vai procurar você quando ele lhe servir algo assustador — não um que aprendeu a se esconder. Para o quadro mais amplo, veja o nosso guia sobre redes sociais e saúde mental dos adolescentes e o guia-pilar sobre o que os pais podem fazer.

Perguntas frequentes