Como os algoritmos das redes sociais decidem o que o seu adolescente vê

O que é de facto um algoritmo de rede social

Um algoritmo de rede social é um sistema de recomendação: software que prevê com quais publicações, vídeos ou contas o seu adolescente tem maior probabilidade de interagir, e ordena o feed dele para as colocar em primeiro. Quando as pessoas dizem o algoritmo, querem normalmente dizer o motor por detrás de uma página «For You» ou de um feed inicial ordenado — aquilo que decide, entre milhões de publicações possíveis, o punhado que o seu adolescente vê de facto a seguir.

Não existe um único algoritmo-mestre, e nem sequer há um por aplicação. Como o responsável do Instagram, Adam Mosseri, explicou, cada parte de uma plataforma — o Feed principal, os Stories, os Reels, o Explore, a Search — executa o seu próprio sistema de ordenação, com os seus próprios objetivos e sinais. Por isso um adolescente pode ter uma página Explore calma e um feed de Reels caótico na mesma conta, e «arranjar o algoritmo» raramente significa um único interruptor.

O que todas as versões partilham é o movimento básico. Pega num enorme conjunto de publicações candidatas, prevê uma pontuação para cada uma — qual a probabilidade de você a ver, lhe dar gosto, comentar ou partilhar — e mostra as poucas de pontuação mais alta. Depois faz tudo de novo de cada vez que o ecrã se atualiza, aprendendo com o que acabou de acontecer. O feed parece pessoal porque é: é reconstruído, segundo a segundo, a partir do próprio comportamento do seu adolescente.

Restam as duas perguntas que realmente importam para um pai ou uma mãe: o que está o algoritmo a ler sobre o meu adolescente e o que está a tentar alcançar? As respostas honestas são mais específicas — e mais úteis — do que «é viciante».

Que sinais lê sobre o seu adolescente

O algoritmo lê dois tipos de sinal: as coisas que o seu adolescente faz de propósito e as coisas que não dá conta de estar a fazer. Nos feeds de vídeo curto que os adolescentes preferem, o segundo tipo importa muitas vezes mais do que os pais esperam — por vezes mais do que os próprios gostos e seguidores. O TikTok, na sua própria descrição do feed For You, agrupa as suas entradas em interações do utilizador (gostos, partilhas, seguidores, comentários), detalhes do vídeo (legendas, sons, hashtags) e definições da conta (idioma, país, dispositivo) — e diz com toda a clareza que estas não têm o mesmo peso. Terminar um vídeo mais longo conta muito mais do que, por exemplo, partilhar o país com o criador.

Essa segunda coluna é a parte que os pais raramente imaginam. Quando The Wall Street Journal investigou o algoritmo do TikTok em 2021 usando cerca de uma centena de contas automatizadas, descobriu que o sinal isolado mais poderoso era o tempo de visualização — quanto tempo uma conta se detinha, parava ou voltava a ver — a funcionar de forma passiva, sem necessidade de dar gosto ou seguir o que quer que fosse. Um documento interno do TikTok que foi divulgado, noticiado pelo The New York Times no mesmo ano, descrevia o sistema a combinar gostos, comentários e — crucialmente — tempo de reprodução previstos numa única pontuação para cada vídeo.

É por isso que o tempo de permanência é tão poderoso: é honesto. O seu adolescente pode nunca dar gosto a um vídeo sobre sentir-se sem valor, mas, se abrandar e o vir duas vezes, o feed já tem a sua resposta. Outras plataformas funcionam da mesma maneira — o Instagram ordena os Reels em parte com base na probabilidade de você ver um até ao fim, e os sistemas também se apoiam em pessoas como você, recomendando aquilo que espectadores semelhantes viram a seguir. A hesitação do seu adolescente está a ser medida, e ele não faz ideia de que conta.

Para que está realmente a otimizar

Aquilo para que o algoritmo otimiza é o envolvimento — manter o seu adolescente na aplicação — e não a sua felicidade, os seus valores ou a verdade. Essa distinção é tudo o que está em jogo. Um documento interno do TikTok de 2021 obtido pelo The New York Times descrevia o objetivo pelas próprias palavras da empresa: o sistema estava afinado para duas métricas centrais, a «retenção» (se você volta) e o «tempo despendido» — os alvos que estão por baixo dos limites de segurança e qualidade que a plataforma sobrepõe. Um feed construído para maximizar essas métricas não está a mentir ao seu adolescente; apenas tem um objetivo diferente do dele.

Na maior parte do tempo, «aquilo que o mantém a ver» e «aquilo que é bom para ele» apontam mais ou menos na mesma direção. O problema é a distância entre as duas coisas — e o conteúdo emocionalmente intenso vive nessa distância. O conteúdo emocionalmente intenso ganha atenção de forma fiável. Nas publicações políticas em particular, um grande estudo de 2,7 milhões de publicações constatou que as que diziam respeito a um grupo político adversário eram partilhadas cerca de duas vezes mais do que as que diziam respeito ao próprio lado, e atraíam muito mais reações «de raiva» — e um sistema que recompensa o envolvimento tende, sem qualquer malícia, a amplificar tudo o que agita.

As plataformas sabem isto há anos. Quando a denunciante Frances Haugen divulgou milhares de documentos internos da Meta em 2021, um dos conjuntos mostrava que uma alteração de 2018 destinada a promover interações «significativas» tinha, em vez disso, e na própria análise da empresa, amplificado a indignação e o conteúdo divisivo — e que aos funcionários que assinalaram o problema foi dito que as correções capazes de afetar o envolvimento eram difíceis de aceitar. Um memorando interno expôs o efeito secundário sem rodeios:

A desinformação, a toxicidade e o conteúdo violento são desproporcionadamente prevalentes nas republicações.

— memorando interno de investigação do Facebook, 2021, noticiado por The Wall Street Journal

Nada disto significa que o algoritmo esteja concebido para magoar o seu adolescente, nem que um uso mais intenso cause dano de forma direta. Essa ligação é genuinamente contestada. Grandes experiências de 2023 que trocaram os feeds algorítmicos por feeds cronológicos alteraram o que as pessoas viam, mas não deslocaram de forma mensurável as suas atitudes, e investigadores do desenvolvimento como Candice Odgers alertam que a evidência de uma crise de saúde mental adolescente causada pelos ecrãs é «uma mistura de não, pequeno e misto». O resumo justo é mais estreito, e ainda assim merece ação: o feed está construído para prender a atenção, pode amplificar o nocivo com a mesma facilidade com que amplifica o inofensivo, e a investigação das próprias empresas demonstra-o há muito.

Como o feed aprende — e se estreita

Como aprende com o comportamento em tempo real, o feed não se limita a refletir os interesses do seu adolescente — molda-os, através de um ciclo de feedback. Cada vídeo em que o seu adolescente se detém diz ao sistema «mais como este», por isso ele serve mais como este, o que lhe dá mais oportunidades de descobrir o que o prende, e assim por diante. A experiência com bots do Journal constatou que a página For You conseguia fixar os verdadeiros interesses de uma conta em menos de duas horas, e depois canalizá-la para «tocas de coelho» cada vez mais estreitas de conteúdo muito relacionado.

O ciclo tende a estreitar-se em vez de alargar. Um adolescente que faz pausa, ainda que uma só vez, em conteúdo sobre solidão, dietas ou autocrítica entregou ao algoritmo um sinal — e o trabalho do algoritmo é agir sobre sinais, não perguntar se agir sobre este é sensato. Não consegue distinguir «quero mais disto» de «não consegui desviar o olhar disto». Para o sistema, as duas coisas são idênticas.

É este o mecanismo por detrás da experiência que os pais notam: um adolescente que viu alguns vídeos tristes numa má noite e agora parece não conseguir escapar a um feed cheio deles. Não é paranoia, e não é castigo. É um motor de recomendação a fazer exatamente aquilo para que foi construído — e um adolescente em desenvolvimento, que é especialmente sensível ao feedback social, fornece os sinais com que ele funciona. O nosso guia-pilar aprofunda como o algoritmo decide e as tocas de coelho que pode criar.

Quando o ciclo se torna nocivo

Para a maioria dos adolescentes, na maior parte do tempo, isto é inofensivo — um feed sobrecarregado de clips de culinária ou de melhores momentos de futebol. Torna-se perigoso quando o conteúdo em que o ciclo se fixa é em si mesmo nocivo, e quando o adolescente que o recebe já está vulnerável. A evidência mais autorizada aqui não vem de uma campanha de sensibilização; vem de um tribunal. Em 2022, um juiz de instrução de Londres decidiu que Molly Russell, de 14 anos, morreu de «um ato de automutilação enquanto sofria de depressão e dos efeitos negativos do conteúdo online», e concluiu que algoritmos movidos pelo envolvimento lhe tinham recomendado um volume crescente de material angustiante que ela não fora procurar.

Grupos de campanha tentaram medir a rapidez com que isso pode acontecer, usando contas de teste a passar-se por jovens de 13 anos. Num estudo de 2022, o Center for Countering Digital Hate relatou que novas contas de «adolescentes» recebiam conteúdo sobre suicídio em menos de três minutos e conteúdo sobre perturbações alimentares em oito, e que as contas cujos nomes de utilizador sugeriam dificuldades com a imagem corporal recebiam doze vezes mais recomendações de automutilação e suicídio do que as contas comuns. A Amnesty International, numa experiência de 2023, constatou de forma semelhante que, ao fim de cinco a seis horas, cerca de metade de um feed de teste dizia respeito a saúde mental, grande parte dele potencialmente nociva.

Leia esses números com cuidado. Vêm de contas automatizadas que criaram o sinal de propósito — fazendo pausa e voltando a ver conteúdo triste — e não de adolescentes típicos, e o TikTok argumenta que não refletem visualizações reais. Essa crítica é justa. O que os estudos mostram não é como se comporta o feed de cada adolescente; é aquilo de que a maquinaria é capaz quando lhe é dado o sinal errado. E um adolescente que está a sofrer, abrandando em conteúdo que espelha como se sente, está a enviar exatamente esse sinal sem o tentar fazer.

O que pode fazer quanto a isso

Não pode desligar o algoritmo — na maioria das aplicações, fora da UE, não há um verdadeiro «desligar» para a ordenação — mas tem muito mais influência do que parece. O objetivo não é vencer o feed; é compreendê-lo, reiniciá-lo quando enviesa e orientá-lo com o seu adolescente em vez de o vigiar nas suas costas. Pense num andaime, não em vigilância.

• Explique como funciona. Uma das coisas mais protetoras é um adolescente que sabe que o feed está construído para prender a sua atenção e que aprende com cada pausa. Um adolescente que consegue ver a maquinaria é muito mais difícil de prender lá dentro — e essa conversa importa mais do que qualquer definição.
• Reinicie o feed quando enviesa. O TikTok permite-lhe atualizar o seu For You feed para que as recomendações comecem de novo; o Instagram tem uma opção «Reset suggested content»; no YouTube, limpar e pausar o histórico de visualizações remove a página inicial personalizada. Nenhum é permanente — o feed reconstrói-se — mas um reinício quebra uma espiral negativa.
• Treine-o de propósito. Use «Not interested», deixe de seguir e silencie sem hesitar, e passe depressa por conteúdo do qual não quer mais. Como deter-se é um voto, não se deter deliberadamente é uma ferramenta verdadeira — mostre ao seu adolescente como a usar.
• Experimente um feed só de quem segue ou cronológico. O feed Following do Instagram e as Subscriptions do YouTube mostram as publicações por ordem cronológica em vez de ordenadas, os Favorites do Instagram estreitam o feed a um punhado de contas que o seu adolescente escolhe, e o separador Following do TikTok limita-o às contas que ele escolheu — todos mais calmos do que o For You, embora as aplicações tendam a reabrir no feed algorítmico por predefinição.
• Use os filtros e as predefinições para adolescentes. Os filtros de palavras-chave e o Restricted Mode do TikTok, e o Sensitive Content Control do Instagram, reduzem categorias inteiras de conteúdo. As Instagram Teen Accounts aplicam predefinições de conteúdo e de contacto mais restritas, com limites de notificações durante a noite, e o TikTok define um limite diário predefinido de 60 minutos para os menores de 18 anos — mais um atrito do que um travão a fundo, a não ser que defina limites mais firmes através do TikTok Family Pairing.
• Proteja o sono e mantenha rico o mundo fora do feed. Grande parte da influência do algoritmo é simplesmente oportunidade — scroll infinito, tarde da noite. Telemóveis fora do quarto, e uma vida pela qual valha a pena levantar os olhos, fazem mais do que qualquer interruptor isolado.

Repare no que não está nessa lista: uma aplicação de vigilância secreta, ou uma proibição súbita que empurra a atividade real do seu adolescente para fora da vista. O objetivo é um adolescente que compreende o sistema e que virá ter consigo quando ele lhe servir algo assustador — não um que aprendeu a esconder-se. Para o panorama mais amplo, veja o nosso guia sobre redes sociais e saúde mental dos adolescentes e o guia-pilar sobre o que os pais podem fazer.

Perguntas frequentes