有害内容与算法：保护脆弱的青少年免受信息流推送的伤害

末日刷屏到底是什么

这个词在疫情初期出现，当时数百万成年人发现自己凌晨两点还停不下来，不断刷新一股令人惊恐的新闻流。它描述的东西几乎人人立刻就认得出来，很快便进入日常对话，成为一种轻微的、略带自嘲的坦白——数字时代相当于「把一整包饼干吃完」。被归入坏习惯，靠近拖延症那一类。

这种归类让人安心，也是问题的一部分。它把这种行为当成自律上的小小失败，因此默认补救之道是意志力：把手机放下就好。套在青少年身上，就变成围绕小时数和家务清单的日常争吵，并悄悄地把责任分配给孩子。但这种判断是不完整的，它暗示的补救——意志力——几乎完全错过了真正的机制。

末日刷屏指的是强迫性的、难以中断地持续消费一股令人苦恼、消极或情绪强烈的网络内容，并且远远超过观看者已经因此感觉更糟的临界点。关键词是强迫性。一个停不下来的青少年并不是意志薄弱。他正在做的，正是他手中那件产品被设计出来要催生的事。信息流没有自然的结尾，没有最后一页，没有片尾字幕——它正是被设计成让「我现在该停了吗？」这个问题永远没有显而易见的提问时机。这也并不是青少年生活边缘的零星行为。皮尤研究中心发现，将近一半的美国青少年表示自己几乎一直在线——大约是十年前的两倍——对许多青少年来说，信息流不是一天中的偶尔造访者，而是一天的背景嗡鸣。

还有一个更深的要点，被「意志力」这种框架完全掩盖了。伤害其实不在「刷」本身，而在被刷到的是什么。两个青少年可以在同一个应用上各花同样的两小时，得到完全不同的体验，因为每个人看到的信息流不同——而这股信息流不是偶然拼凑的，也不是由他们的朋友或他们自己组装的。它是由一种针对某个具体目标进行优化的算法组装出来的。本指南讨论的就是这个算法：它在选择什么、为什么有时为脆弱的青少年作出糟糕选择、以及家长究竟可以做些什么。

算法如何决定孩子看到什么

在互联网的大部分历史里，信息流就是一份列表。你关注谁，就按照他们发布的顺序看到他们发的内容。当你刷到自己已经看过的东西，就会停下来，因为没有新东西了。这种设计几乎已经消失。如今青少年大部分时间停留的信息流是推荐算法——一种系统，它不会按时间顺序展示朋友的帖子，而是从近乎无穷的内容池中排序，并推送系统预测最可能继续抓住这位具体青少年注意力的下一条内容。

这种预测建立在青少年自己未曾留意的数据之上。不仅是显而易见的信号——点赞、关注、转发——更包括那些隐秘的信号：他在划走之前在一段短片上停留了多久、是否看了两遍、是否放慢速度、是否打开声音、半夜搜了什么、把什么看到了最后。现代信息流读得懂犹豫。一个在一条令人难过的视频上多停留三秒的青少年，不知不觉间已经告诉了系统某件事，而系统把它存了下来。

如果算法的优化目标是青少年的身心健康，这一切都不会要紧。但它不是。它优化的是参与度——时长、注意力、会话、回访——因为那是平台围绕之搭建、并且能够测量的数字。这里有一条每位家长都该牢牢记住的机制：参与度和身心健康并不是一回事，而那些激起强烈情绪的内容异常吸睛。愤怒、恐惧、嫉妒、震惊、悲伤都极擅长留住注意力。一段冷静、平衡、令人安心的视频，在一段被设计来让观众焦虑的短片面前竞争得很糟。算法并不恶毒——它压根没有「伤害」这个概念。它只是一台优化器，在数十亿次会话中发现：苦恼的内容表现很好。

有两个特点强化了这种效果。首先信息流是无穷的：自动播放和无尽滚动取消了所有自然停顿点，所以脱离它需要在一个被设计成毫无摩擦的时刻做一个有意识的努力。其次信息流的个性化程度史无前例：孩子的信息流不是某个共享版本的微调，而是独一无二的，依据他每次会话的行为塑形。这就是为什么你不能简单地从他身后看一眼，就声称看到了「那个 app」。根本没有「那个 app」，只有他的信息流，由他的迟疑一点点搭出来。

把这与家长成长时期的媒体作个对比会有帮助。电视频道有节目表，有可见的编辑；报纸有报头，有家里每个人看到的同一个头版。家长可以评估这些选择、争论它们、把它们关掉。信息流也有编辑——推荐算法——但这位编辑不可见，不对任何家长负责，从不公开自己的逻辑，并且不是面向大众，而是私下里、全天候地针对某一个具体的孩子调试。变化不在于青少年现在消费的媒体更多，而在于决定他们消费什么的那个东西，变得既强大得多，也比以往更难让家长看清。

使用社交媒体对年轻人来说，并不天然有益或有害。其影响在很大程度上取决于青少年所接触和参与的内容，以及每个年轻人自身的优势与脆弱性。

—— 美国心理学会，青少年社交媒体使用健康建议

有害内容的类别

「有害内容」是一个含糊的说法，含糊对一位忧心的家长没什么帮助。值得具体地谈谈这个类别究竟包含什么，因为下面这五种内容的行为方式不同，到达青少年的路径不同，需要的应对也不同。这一切都不是为了制造恐慌。算法推给青少年的大部分内容都是普通的——朋友、音乐、笑话、爱好、他们真正欣赏的创作者。要点不是说信息流是一条阴沟；而是同一套以参与度为驱动的机制，在为青少年送来普通内容的同时，对一个脆弱的孩子来说，也可能持续不断地送来下面这些内容。

鼓吹自残与饮食失调的内容

这是最常让家长害怕的一类，原因充分。它主要不是教学性的材料；而是把自残、自杀念头或饮食失调呈现为可共鸣、甚至像一种归属感——一个互相理解的社群所共享的身份认同。它也擅长躲过审核，在审核系统尚未学到的暗号标签和委婉语之间不断漂移。关键是，它倾向于找到本已挣扎的青少年，而不是在状态良好的孩子身上凭空制造痛苦。平台的推荐系统注意到一个悲伤或焦虑的青少年在这类内容上多停留，就会把这种停留读作兴趣，并送来更多。

暴力与血腥内容

暴力、事故、斗殴、虐待和残忍的真实画面广泛流传，往往被剥离一切背景，仅因震惊能留住注意力而被推上来。青少年不必主动去找。反复接触的累积代价很少是一次戏剧性的反应；它更安静——对「什么是普通」的感受逐渐变钝，对世界看上去有多危险产生一种低度而持续的背景焦虑。家长很少看到那段短片本身，因为它通常早在任何对话发生之前就被划走了；能看见的只有残留——一个变得更难亲近、更容易做最坏预期的青少年。

极端化与激进化内容

朝仇恨、厌女或极端世界观招募的材料，几乎从不以那样的标签出现。它装扮成喜剧、游戏文化、健身、关于「世界真相」的直白「常理」、面向感到迷茫青少年的自我提升建议。语调的转变是渐进的，正是下面「兔子洞」一节要讨论的主题。

不适龄与色情内容

色情和性化材料会通过推荐、转发的短片、群聊里的链接、陌生人的私信，到达从未搜索过它的青少年。除了不期而遇时的即时震惊，更持久的担忧是它会在年轻人尚未具备相应经验或对话的情况下，悄悄塑造他对身体、性和同意的预期。

错误信息与健康伪信息

最后这一类最不戏剧化，也最容易被低估。信息流里承载着大量关于健康、身体、营养、科学和时事的虚假或扭曲说法，其中最有说服力的部分是用真正精致的手法制作、并以十足的自信传递的。对青少年而言，最具影响的是健康和身体那一支：看似权威者抛出的关于极端节食、补剂、健身极限或未经验证疗法的自信「建议」，会造成可测量的伤害。

为什么脆弱的青少年受冲击最大

目前为止描述的一切，对每一个拥有信息流的青少年都适用。但影响并非均匀分布，理解这一点的原因是本指南中最重要的观念。原因不是某些青少年更脆弱意味着「他们更软弱」，而是算法与脆弱性会相互作用——它们形成一个回路，孩子越脆弱，回路转得越快。

回想推荐系统是怎么运作的：它观察行为，放大任何能留住注意力的东西。现在想想一个焦虑、低落或抑郁的青少年。令人苦恼的内容往往更能抓住他的注意力——不是因为他喜欢，而是因为低落情绪会把注意力收窄到正是这种内容之上。他多停留了一会儿。算法无法区分「这对我有帮助」和「我无法移开视线」，于是把这种停留读作偏好，再送来更多。更多令人苦恼的内容加深低落情绪。情绪越深，停留越多。这就是引擎：脆弱性塑造行为，行为训练算法，被训练过的算法又加重脆弱性。一个青少年在普通的低潮一周中进入这个回路，一个月后会发现自己的信息流已经悄悄地围绕他最糟糕的几个小时重新组织起来。

同样的机制也在一个有饮食失调风险的青少年身上运转，他的注意力被身体和食物相关内容吸引，于是信息流里这类内容的密度越来越高。它也在一个悲伤或恐惧的青少年身上运转，对应的是一股「末日」般的信息流。在每一种情形里，算法并不是在针对脆弱性，它只是在做它一贯在做的事——而它一贯在做的事，恰好正是一个挣扎中的青少年最不需要的。

想象一个临床医生常描述的复合形象：一个十四岁、有焦虑障碍的女孩，开始看普通的健身视频和「我一天吃些什么」的内容——这是一种健康的兴趣，她并不是抱着被伤害的念头去搜的。但她在关于「节制」和「干净饮食」的短片上多停留了一点，因为焦虑会把注意力拉向「控制」，几周之内，信息流的这一角悄悄扩大，把这部分填满。美国卫生总署的建议报告，13 至 17 岁的青少年中有 46% 表示，社交媒体让他们对自身体型形象感觉更糟。对于本就容易有这种忧虑的青少年，算法并不发明这种脆弱性——它定位它，然后喂养它。

神经发育差异的青少年——自闭症谱系、ADHD 或相关差异的孩子——可能受到额外影响。倾向于高强度、聚焦的兴趣往往是一种真正的优势，但也意味着深入某一话题时会扎得更深，也更难爬出来。难以从屏幕脱离的特性，与一个被设计成没有停止点的信息流相互作用，糟糕透顶。而对内容采取字面化、信赖式的理解，会让自信传达的错误信息或极端材料的话术更难被识破。这并不意味着应该把神经发育差异的青少年挡在网外；对许多孩子来说，线上空间是真正而宝贵的连接与社群来源。这只意味着后续章节里讲的策展与对话更重要，而不是更不重要。

我们正处在全国性的青少年心理健康危机之中，我担心社交媒体是这场危机的重要驱动因素之一。我们无法得出社交媒体对儿童和青少年足够安全的结论。

—— 美国卫生总署，关于社交媒体与青少年心理健康的建议

这段话值得按比例去理解。关于社交媒体与青少年心理健康的证据确实混杂，严肃的研究者对其平均效应的大小存在分歧。但争议远小得多的，是本节要强调的那一点：平均值会掩盖此处最要紧的那些青少年。一个平台对一个有良好支持的「典型」青少年可能大体中性，对一个较小群体的脆弱青少年仍然是真正有害的——本指南正是为后一群人而写。

兔子洞与激进化

兔子洞指的是信息流一步一步地逐渐收窄，从宽泛的主流内容走向某个小众、强烈、有时极端的版本。没有任何一步是让人警觉的，这正是它有效的原因。系统已经准确判断青少年还没准备好接受冲击性的内容，所以从不直接推给他。它推给他的，只是比上一条稍微更尖锐一点的内容——然后，等那条内容也被「参与」标记后，再来一条更尖一点的。

想想这件事在一个孤独、对自己缺乏把握、感觉落后于同龄人的男孩身上是什么样子。他看一些普通的健身和自我提升视频——一种完全健康的兴趣。算法手头有大量相邻内容，其中一些把训练建议和某种更尖锐的论调配在一起：一点怨气、一种关于人生为何对年轻男人不公的理论、一个自信的年长声音在解释「应该怪谁」。如果这些短片哪怕只是略多留住了他的注意力——带怨气的内容往往就是如此——信息流就会朝那个方向倾斜。几周之后，比例就变了。健身现在只占信息流的一小部分，而周围那种世界观已经变硬。他并不曾去搜寻极端主义。他搜的是俯卧撑，剩下的事是优化器做的。

同样的架构驱动着别的路径——阴谋论思维、僵硬的政治极端、围绕「鄙视某个群体」组织起来的社群。推荐算法究竟是「导致」激进化，还是主要在为本已朝那个方向漂移的青少年「加速」，研究者仍有争论，而诚实的回答是，信息流更像是放大器，而不是源头。但放大本身已经足以要紧。家长可用的保护性洞见是：你几乎永远不会捕捉到那个戏剧性的瞬间，因为根本没有戏剧性瞬间。你能注意到的是「漂移」：新的词汇、观点的硬化、好奇被鄙视取代、一种「网上某个人正在向孩子解释这个世界」的感觉。那是开始对话的提示——冷静、好奇、真正感兴趣——而不是没收，没收只会终止对话并把那种世界观完整地留在原地。

危险的病毒挑战

在网络安全话题里，没几个比病毒挑战更能引发家长恐惧和混乱。它值得被冷静而诚实地对待，因为恐慌本身就会造成伤害。说一个不那么舒服的真相：在新闻节目和家长群里流传的最吓人的「挑战」故事中，有相当大一部分是被夸大、被扭曲，或者完全捏造的。它们传播开来，是因为「警报」本身具有参与度——与本指南其余部分所讲的机制完全相同。而这种恐慌报道还带来一个具体的代价：对所谓危险挑战的细致、急促报道，可能把它介绍给本来从未听说的孩子，并把它呈现为「其他孩子都在做的事」。

这并不意味着风险为零。真正危险的挑战确实存在，有些已经造成了真实的伤害和死亡——通常涉及窒息、闷塞、摄入有害物质或身体上的鲁莽举动。风险是真实的，但比一般恐慌的氛围所暗示的要小得多、也具体得多。让一项挑战真正危险的因素有两点：直接的人身危险，以及强烈的「拍下来发出去」的社交拉力。

有用的家长回应不是把每条群里转来的警告再转一遍——那种行为本身就是放大机器的一部分。而是去做两件更安静的事。第一，先核实再反应：检查一项所谓的挑战是否得到了可信来源的确认，而不是一张截图——Common Sense Media等组织会定期辟谣那些最终被证实是恶作剧的恐慌。第二，也更持久的，是给孩子一个可迁移的观念，而不是一份你永远更新不完的「禁止挑战清单」：某件事爆红，不等于它是安全的。真正消化了这一条原则的青少年，对明年那个还没人命名的挑战也是受到保护的——这是一份「今年的挑战清单」永远做不到的。

你能看到的预警信号

家长常以为信息流的伤害天然不可见——一切都发生在你读不到的设备里。具体的短片或许在视线之外，但一股已经转而与孩子作对的信息流，几乎总会通过行为在几天到几周内显露出来。这些信号并不奇异，就是「一个年轻人在压力之下」的寻常表现——只不过现在，原因更常坐在一种推荐算法里。

• 情绪与信息流挂钩 焦虑、悲伤、愤怒或激动总是稳定地紧跟在一次滑屏之后，而不是某个现实事件之后。
• 强迫性查看 手机一放下立刻又拿起来，与之分开就焦躁不安，明显不享受却停不下来的滑动。
• 睡眠被侵蚀 深夜或通宵使用，早晨疲惫不堪，手机和孩子一起上床——信息流被设计成在孩子最疲倦时最难离开。
• 世界观变暗 对未来、身体、他人或整群人的新悲观，常以一种你们的对话从未带出的笃定语气表达。
• 对身体和食物的执念 对外貌、体重、饮食、运动的新固执，或共享屏幕上出现此类内容。
• 新词汇或新世界观 俚语、论点，或一种「事情真相到底是什么」的解释，看起来像是从某个网上来源整块迁入。
• 退缩 从家庭、朋友、爱好和线下生活中抽离，而信息流正稳定地把它们挤掉。
• 看到特定内容后的不适 提到或对网上看到的可怕事物有明显反应——又或者突然平滑地对生活中的线上部分闭口不言。

这个清单上没有任何一项，单独看就能证明什么。青少年有权坏心情、有权要隐私、有权有强烈的新兴趣，也有权改变主意。要紧的是聚集：在短时间内出现两项、三项、四项，就值得一次冷静、谨慎的回应。而回应的起点是关系，不是设备。先从这个年轻人本身开始——问问他怎么样、心里最近在想什么、最近在看什么——而不是从你在某块屏幕上注意到的事开始。从设备开口，等于把信息流早已在教的那一课再讲一遍：大人是要应付的麻烦，而不是可以借力的资源。

还有一类更安静的信号值得训练自己去注意：模式的变化，而非戏剧性的事件。过去会讲一天经过的孩子现在不讲了；以前好说话的孩子在放下手机后的那一小时里变得一律烦躁；曾经属于他自己的兴趣突然变得扁平——每一个都值得用一句温和的、好奇的问句来回应，而不是一句指责。最难的信号是看上去什么都没有的那种：一个孩子只是变得安静、静止。一个本来有很多话要说的孩子陷入沉默，本身就是信息。

家长可以做什么

家长能做的最有用的一个转变，是不再想着限制信息流，而是开始想着策展它。时间限制仍有一席之地——保护睡眠和作业值得去做——但时间限制对算法在剩下的时间里推什么并没有任何作用。策展才有。目标是一股承载更多孩子真正看重的内容、更少那些悄悄伤害他的内容的信息流，而其中大部分可以通过设置、信号和对话来实现。

从平台自身的设置入手，而且要和孩子一起做，而不是背着他做。大多数主流平台如今提供了敏感内容或内容偏好设置、带有更严格默认值的青少年或受限账号模式，以及清除观看历史、把帖子标记为「不感兴趣」、屏蔽或取消关注账号的工具。一些平台还提供家庭或家长面板。把设置收紧之后，要有意识地重新训练信息流：一股已经漂到糟糕方向上的信息流不会自我纠正，但它对新信号反应很快——所以一次主动与真正优质内容互动的会话，对推荐系统的训练效果，足以与几个月反向训练相抗衡。Internet Matters等组织会发布最新的、分平台的设置指南，比任何一篇文章能跟上的清单都更可靠。

界面经常变化，但值得按名字记住的那些控制项相当稳定。对青少年最可能使用的平台，作为起点：

• YouTube Restricted Mode、监督账号设置、清除并暂停观看历史的选项——后者是塑造其推荐的最强信号之一。
• TikTok Family Pairing、Restricted Mode、内容关键词过滤，以及「刷新你的 For You 信息流」选项，可清空状态让推荐从头开始。
• Instagram Teen Accounts（对 18 岁以下账号应用更严格默认值）、Sensitive Content Control，以及 Family Center 里的家长监督工具。
• Snapchat Family Center，以及限制 Stories 和 Spotlight 中可见内容的控制项。

如果信息流已经漂偏，一次集中二十分钟的会话足以把状态重置——以「维护」而不是「惩罚」的方式和孩子一起做效果最好：

1. 和孩子并排打开主要的几个 app。
2. 查看关注和订阅列表；屏蔽或取消关注那些让他事后感觉更糟的账号。
3. 在平台允许的地方清除或暂停观看与搜索历史。
4. 把十到十五条不想看的帖子标记为「不感兴趣」，给推荐系统一个明确信号。
5. 打开青少年、受限或敏感内容模式。
6. 让孩子关注或搜索几个他真正看重的兴趣，给信息流播下更健康的信号种子。
7. 一周后回头看看他的情绪、睡眠以及信息流的整体语调。

不过，设置只是较小的那一半。更大的一半是持续不断的对话——而最有效的版本不是关于危险的说教，而是对孩子真正看到了什么保持一种真诚、反复出现的好奇。请他展示给你看「最近常出现什么」。问哪些好笑、哪些无聊、哪些让人难过。一个能在不被评判的前提下和你聊自己的信息流的青少年，会为某天信息流里出现让他害怕的东西保留一条沟通线——这条开放的沟通线，比任何被屏蔽的 app 都更有价值。

当你真的开启对话时，目标是好奇而不是审问——是邀请孩子向你展示他的世界的提问，而不是让他向你交代。几个比较容易奏效的开场：

• 「能给我看看最近你的信息流都给了你什么吗？我很好奇它和我的有多不一样。」
• 「这个 app 有没有让你在关掉之后反而感觉更糟？」
• 「有没有哪些话题就算你不想看，也一直反复出现？」
• 「我们一起把信息流调一调——这不是要把手机拿走。」

每一句都把孩子当作他自己信息流的专家，这既是事实，也能让人放下防备。

有两件事能让这种对话持续下去。第一是讲清机制，而不是只讲规则。一个理解为什么自己的信息流会偏向那一边的青少年——强烈情绪正在被优化、停留被读作一票、系统并不知道一段短片是帮了人还是伤了人——会获得一种任何屏蔽名单都给不了的免疫力。他会开始注意到信息流在对自己使力，而注意到本身就是大半的防御。第二是身教。一个连大人也在吃饭时放下手机、也会谈起那条令自己烦躁的短片、也愿意承认刷掉了一个小时的家庭，是在以身作则；一条只适用于孩子的规则，会被读作控制，而控制正是本指南反复警告的、横在你和你所需的可见性之间的那一样东西。

也有一些家长会决定，在真正出现担忧之后，希望在一段时间内拥有更直接的可见性。在许多地方，家长或法定监护人可以对未成年人的设备进行符合年龄的监护——具体规则因国家、州/地区和监护权情形而异，请查清楚你所在地的适用规定——而你怎么做，比你是否做更重要。隐蔽的监视一旦被孩子发现，就会确认「大人不可信」，并教会孩子绕到你看不见的设备上去。透明的、与年龄相称的监护——孩子知道这个工具的存在、知道它做什么、也知道它之所以存在是因为真的发生了严肃的事——会与关系协同，而不是与它对立。把它当作建筑用的脚手架来想：可见、临时，并且会在孩子重新赢回它原本所保护的那份自主权时被主动拆除。

举报与资源

当孩子遇到真正有害的内容时，花几分钟去举报是值得的。在每个平台都使用应用内举报工具——这是最快的下架路径，也在训练平台自身的系统。涉及未成年人的性剥削内容则是另一回事，性质更严重：在美国向NCMEC CyberTipline举报，在英国向 Internet Watch Foundation 举报。如果孩子正处于危机中，请联系美国的988 Suicide & Crisis Lifeline或英国的Childline；其他地区请联系所在国的危机援助热线。关于背景知识和最新的平台指引，下面这些机构会定期免费更新材料。

• 了解证据——美国卫生总署关于社交媒体与青少年心理健康的建议，以及APA 关于青少年社交媒体使用的健康建议。
• 平台设置——Internet Matters和Common Sense Media，两者都维护最新的、分平台的家长控制和内容设置指南。
• 了解青少年实际如何使用平台——皮尤研究中心关于青少年、社交媒体和科技的持续研究。
• 危机支持——美国的988 Suicide & Crisis Lifeline和英国的Childline。

常见问题