青少年面临的 AI 风险：深度伪造、AI 伴侣与合成操纵

什么是深度伪造，它如何变得如此容易

在过去十年的大部分时间里，担心孩子上网的家长心中有一个大致管用的认知模型：陌生人可能谎称自己的身份，真实照片可能被未经同意地分享，真实对话可能被歪曲。这些威胁很严重，但都建立在真实素材之上。人工智能改变的不是危险的清单。它改变的是原材料的供应。这些威胁不再需要任何真实的东西作为起点。

深度伪造是一段合成媒体——图像、视频或音频——经由人工智能创建或修改，能让一个真实的人看起来在做或说他们从未做过、说过的事。这个词涵盖了把一张脸换到另一具身体上、用一小段录音克隆出的声音，以及一张完全不属于任何人的脸。它们的共同之处在于：结果看起来真实到足以被相信，而生成它如今只需要一款消费级应用和几分钟时间，不再需要工作室和专家。

对家长来说，这件事中有两个事实最重要。第一是成本：制作逼真合成媒体的门槛已经从专家级任务塌缩为廉价、快速、点几下鼠标就能完成的事。第二是输入。深度伪造的起点并不需要私密或带有把柄的照片。它只需要一张脸的普通照片——也就是几乎每个青少年早已发到网上、出现在毕业纪念册、运动队名单或朋友动态里的那种照片。

本指南其余部分对每一种 AI 威胁都用同样的方式来看待：不是当作全新且不可知的危险，而是当作家长可能本就大致了解的旧风险，只是过去拖慢它的那层摩擦已被剥离。理解每一种威胁在放大什么，它就不再神秘。

深度伪造裸图与「一键脱衣」应用

在这些威胁里，最难启齿的同时也是最常见的之一，所以值得直白地说。一类不断壮大的 AI 工具——常被打上「一键脱衣」（nudify）的旗号——其存在的目的，就是把一张真实人物穿着衣服的普通照片，加工成那个人的假裸照。当照片中的人是青少年时，结果就是一张由 AI 生成的儿童性图像，制作或散布它在越来越多的司法辖区都属严重犯罪，无论应用如何包装自己。

重要的是要明白这些行为通常是谁在做。媒体报道有时会让人以为这是遥远的犯罪团伙所为，有时确实如此。但涉及青少年的深度伪造裸图事件中，相当大的比例是由其他青少年制作的——同班同学、前任、心怀怨恨的人——他们用一个下午就能找到的应用。施害不是来自阴影里的陌生人，而是来自孩子早已身处的社交圈。这就是为什么它会在一所学校里迅速蔓延，也是它伤害如此之深的原因。

为什么青少年会被盯上？部分原因是原料太容易取得：青少年比任何群体都更频繁地在网上发布自己的照片，而只需一张清晰的正脸照就足够了。部分原因是社会代价在这个年龄段落得最重，名声和同伴间的地位在此时感觉就是一切。而且打击并不均匀。女孩在深度伪造裸图滥用中占压倒性多数，这种伤害还会与本系列反复回到的脆弱性模式相互作用——社交孤立或神经多样性的青少年，缓冲冲击的支持网更薄，可倾诉的可信赖之人也更少。

校园里典型的事件走的是一条阴郁的弧线。图像被生成后丢进群聊。它传播得比任何成年人能听说的速度都快。被攻击的青少年常常是最后一个知道的，从别人的反应里察觉，而一个受惊的年轻人第一反应是隐瞒——而正是这种隐瞒让滥用得以无人过问。等到家长或老师被告知时，图像可能早已传到最初看到它的圈子之外。

这种模式已被规模性数据记录在案。英国的 Internet Watch Foundation——负责从互联网上清除儿童性虐待材料的机构——报告称，自 2023 年以来，网络上流传的 AI 生成 CSAM 急剧增加，其中包括用真实、可辨认的儿童的普通公开照片合成的逼真图像。美国 National Center for Missing & Exploited Children 同样报告，自该类别开始被统计以来，涉及生成式 AI 内容的 CyberTipline 举报数量同比急剧上升。

在这一切发生之前，您要冷静而预先地对孩子说出这一中心信息：如果有人伪造了你的露骨图像，那不是你的错，你也不会有麻烦。罪责完全在制作并散布它的人身上。那张图像是捏造的；它并不记录孩子做过的任何事。羞耻是这种滥用得以运转的引擎——它让受害者沉默，让图像流传——而预先消除羞耻的家长，做了最具保护力的一件事。

法律的天平已开始向受害方倾斜。在美国，联邦的 TAKE IT DOWN Act 于 2025 年 5 月 19 日签署生效，将明知故犯地发布未经同意的私密图像——明确包括符合条件的 AI 生成图像——定为犯罪，并要求受规制的平台在收到有效下架请求后 48 小时内处理；平台合规条款在法案通过一年后生效。该法案只覆盖特定平台和特定图像类型，所以并非每个网站上的每张图像都会自动被移除，但家长如今除了州法律和平台机制之外，还多了一条联邦渠道。越来越多的美国州也通过了专门针对未成年人露骨深度伪造的本州法律。

其他司法辖区也在朝同一方向走。英国 2023 年的 Online Safety Act 将散布未经同意的私密图像（包括深度伪造）定为犯罪；澳大利亚 eSafety Commissioner 拥有法定权力，可以要求迅速移除未经同意发布的私密图像；多个加拿大省份也更新了私密图像法，覆盖经数字篡改或 AI 生成的材料。从实际操作来看：这并不是孩子只能默默承受的灰色地带。可用的举报渠道和移除工具，都列在本指南最后一节。

AI 驱动的性勒索

金钱型性勒索在 AI 出现之前，就已经是针对未成年人最为凶狠的犯罪之一。金钱型性勒索是一种这样的勒索：攻击者获得年轻人的露骨图像，然后威胁说，除非付钱，否则就把它发给孩子的家人、朋友和粉丝。它进展极快，手段残酷：一次令人愉悦的搭讪、一次被包装成正常交换的索图请求，然后在几分钟之内冒出一个金钱要求。FBI 及其合作伙伴反复发布公开警告，指出此类犯罪急剧上升，受害群体明显偏向青少年男孩。

FBI 及其合作伙伴警告称，针对未成年人的金钱型性勒索大幅增加——这是一种以露骨图像胁迫年轻人、然后向其勒索钱财的犯罪——并呼吁家庭选择举报而非付款。

— FBI, National Public Safety Alert on Financial Sextortion Schemes

这份预警提到的规模并不抽象。FBI 报告称收到了 7,000 多份针对未成年人的网络金钱型性勒索举报，涉及至少 3,000 名已确认的受害者——主要是青少年男孩——以及十余起被勒索未成年人自杀的案例。随后 FBI 及其伙伴机构的公告警告说，这些数字仍在继续攀升。

AI 改变的是第一步。传统性勒索需要一张真实的露骨图像，这意味着攻击者必须操纵青少年制作并发送一张这样的图。这一步要花时间，也给了一个谨慎的青少年一个可以拒绝的节点。AI 性勒索取消了这一步。攻击者如今可以用一款深度伪造工具，仅凭青少年早已发到网上的普通照片就伪造出露骨图像，然后发出同样的威胁——「付钱，否则你认识的每个人都会看到这个」——孩子从未发送过任何东西。

这就是为什么青少年最常用来安慰自己的那句话已经失灵了。「他们勒索不了我，我从没发过那种东西」曾经大体属实。它已不再是防御，因为攻击者根本不需要孩子发过什么。对一个盯着一张「自己脸的」逼真伪造图的、受惊的十五岁少年来说，真实图像和合成图像的区别几乎感受不到。威胁是压倒性的，恐慌是真实的，而恐慌正是这一阴谋赖以运转的燃料。

幸运的是，应对方法完全没变。无论图像是真的还是伪造的，指南是同一套，而且值得事先讲给孩子听，让它已经在他脑子里——若有一天威胁真的来临。不要付钱——付钱会把孩子标记为「会付钱的目标」，带来的是更多而不是更少的勒索。不要再发任何东西。停止回应。保留一切：图像、账号、用户名、消息、支付要求的截图。然后告诉一位可信赖的成年人并去举报。攻击者的力量完全建立在受害者相信自己孤立无援、唯一的出路就是顺从之上。两者都不是事实。在合适的情况下，图像是伪造的也能成为帮助——但即便它是真的，主动举报的青少年也并不会因此惹上麻烦，也并非已无可救药。

还有一件事必须挑明，因为羞耻会让青少年隐瞒：家长最需要冷静的时刻，往往是您发现孩子已经付过钱，或者已经发过图的那一刻。那不是失败，也不是发火的理由。那恰恰是最重要的行动时刻——切断进一步联系，保留证据，去举报——而一个害怕被惩罚的孩子，从此就再也不会告诉您了。

AI 伴侣与情感依赖

上面那些深度伪造威胁，至少形态上是可被认作犯罪的，有施害者和受害者。下一种风险性质不同，对家长来说也更难看见，因为它看起来一点也不像一次攻击。AI 伴侣是一类被设计成朋友、知己或恋人的聊天机器人——它会记住用户，对他/她感兴趣，全天候在线，最重要的是，永远顺着。这一类应用里，Character.AI 是其中最著名的，被大量青少年使用。

理解青少年为什么会想要这样的伴侣，要从不轻视他们的需求开始。对许多年轻人来说，青春期是一段强烈孤独、社交焦虑、努力弄清自己是谁的时期。一个不评判地倾听、从不厌倦、从不心情不好、总说你很有趣的伴侣，提供了一件普通的青春生活常常给不了的真实东西。对一个孤独的青少年来说，那不是轻浮的吸引，是一种解脱。

但请看清这种伴侣是什么。它就是「爱情轰炸」——本系列描述过的那种密集、毫无摩擦的关注与肯定的洪流，是人为操纵的一个阶段——只不过被自动化、永不疲倦地内建到了产品里。人类操纵者必须演出殷勤；而伴侣聊天机器人本身就是殷勤，不费气力，也没有开关。这并不是对所有聊天机器人对话的判决：大量青少年都只是轻度使用，觉得无趣便离开。风险开始于聊天机器人成为青少年主要的情感出口之时——当它从一个玩具变成一段「什么都不要求、不需要付出、也永远不会顶撞」的关系。

由此而来的具体伤害有几种，值得分别命名。

• 挤占 本可投入到更难也更值得的人际友情中的时间和情感能量，转而流向了机器人——机器人更容易——而那些只能靠练习才能习得的人际技能就此悄悄停滞。
• 扭曲的范本 与一个被设计成永远附和的对象建立关系，会教给青少年一种「无摩擦的奉献是常态」的期待，使真实友情里正常的分歧感觉像被拒绝。
• 糟糕的建议 伴侣不是心理咨询师。被问及自伤、饮食障碍或某种危机时，它的回应可能毫无帮助甚至不安全——而处于困境中的青少年可能反而更信任它，正因它从不显得惊慌。
• 与帮助隔离 把一切告诉机器人的青少年，可能对家长、朋友或临床医师说得更少——而那些原本能介入的人，也就失去了对孩子状况的观察。

最容易形成深度依附的青少年，正是本系列反复提到的那些：孤独的、社交焦虑的、神经多样性的。对一个觉得人际交往费劲又难以预料的青少年来说，一个无限耐心、完全可预测的伴侣，就不是什么小便利——它可能成为他/她拥有的最舒适的关系。这种舒适正是依赖加深的原因，也是这一群体最值得我们最贴近、最温柔关注的原因。

这是一个真切而日益受到关注的领域，但远非有定论的科学；家长应当对两种极端都保持警觉——一种是把每一次聊天机器人对话都视为伤害的恐慌，另一种是把它视为无害玩耍的轻慢。AI 伴侣类应用因青少年安全问题面临诉讼和监管审查。Character.AI 尤其在 2025 年底宣布将取消 18 岁以下用户的开放式聊天功能——随着监管环境继续快速变化，其他运营方可能也会跟进。稳健的回应不是对技术下判决。是关注。了解孩子有没有在用伴侣类应用，对它在他们生活里所做的事保持好奇而不是恐慌，并留意「轻度、偶尔使用」与「情感重心悄悄转移到机器人身上的青少年」之间的差别。

AI 制作的「网络伪装」身份

「网络伪装」（catfishing）——以一个捏造身份建立一段关系——一直依赖操纵者解决一个实际问题：把虚假的人物塑造得令人信服。多年以来这意味着盗用真实人物的照片，而这就留下了一个细心的青少年可以利用的破绽。盗来的照片可以通过反向图像搜索找到它真正主人的账号。伪装上有一道接缝。

生成式 AI 弥合了那道接缝。操纵者如今可以制造出一张不属于任何人的脸——反向搜图什么都找不到，因为没有原图存在。他们可以生成同一个虚构人物在不同场景、不同姿态下的一整套图像，搭出一段看起来很真实的人生。他们可以做出短视频片段，再加上声音克隆，甚至可以用与之匹配的声音说话。过去必须借来的虚假身份，如今可以按需定制，没有真实受害者的照片会暴露它。

这是本指南通篇贯穿的那条原则最清楚的例证：AI 并未在此发明新的危险。「网络伪装」早已存在，grooming 早已存在，针对青少年的恋爱式操纵也早已存在。AI 移除的是摩擦。它让伪装更逼真、让操纵者更省力，并报废了一种家长和青少年原本被教着依赖的核查方法。

正因基于外观的核查正在失效，基于行为的核查比以往更重要——而这些核查依然奏效，因为它们不依赖识破伪装。它们依赖观察对方在做什么。节奏是其一：表白、谈论「灵魂伴侣」、几天内就提出第一次金钱或图像的请求——这不是真正青少年间的亲密发展的样子，无论照片看起来多么真实。对实时、即兴核验的抗拒是其二：在视频通话里不愿转头、不愿在脸前挥手、不愿做出某个临场动作的人，正在告诉您一些事情，无论静态图像多么完美。还有那条最明亮的红线，至今未变——只在网上认识的人提出任何金钱、礼品卡、加密货币、露骨图像或账号访问的请求，都应当结束这段关系，并开启一次与家人的对话。

由于「网络伪装」是大量此类操纵的入口，本系列为它专门写了一篇完整指南：网络伪装与在线操纵：家长指南，逐步讲解操纵的六个阶段、预警信号，以及如何核验一位网上的人是否真实。AI 让虚假身份更难被识破，但它没有改变这种身份被用来做什么的那条弧线。

AI 声音克隆骗局

本指南的最后一种威胁越过青少年，伸向整个家庭，即便目标常常是成年人，家长也值得理解。AI 声音克隆只需一小段他人录音——某些工具只要几秒钟——就能生成一份合成版本，可被用来说出任何话。样本极易获取。青少年的声音遍布他们公开发布的视频；家长的声音则在自己的社交媒体和语音信箱问候语里。

经典的玩法是「家庭紧急情况」骗局——一种 AI 让它变得危险得多的老式诈骗。家长或祖父母接到一个电话。那个声音毫无疑问是自家孩子或孙辈的，并且听起来很惊慌：出了事故、被逮捕、人在国外遇到危机，现在急需用钱，且要悄悄打过去。情绪冲击就是武器。它被设计来推着听者越过怀疑的那一刻，在他来得及思考之前就行动——而被克隆的声音也消除了过去能打破这种魔咒的那个线索，因为它真的就听上去像您所爱的人。

FTC 警告称，骗子可以用一小段录音通过 AI 克隆出家人的声音，然后打来电话紧急要钱——并建议如果接到这类电话，请挂断，再通过您已知是本人所有的号码直接联系对方核实。

— U.S. Federal Trade Commission, consumer alert on AI family-emergency scams

针对此事，有两种简单的防御非常有效。第一种是 家庭暗号——一句事先约定、永不写到网上也永不发布的词或短语，真正的家人能在电话里说得出。说不出暗号的来电者就过不了关，无论他/她用的是谁的声音。第二种是一个习惯：任何紧急且要求保密的金钱请求，无论声音多像，都是挂断并用您已知的号码回拨给对方的信号。真正的紧急情况经得起两分钟的回拨。骗局则经不起。

三类威胁中的预警信号

对家长来说，本指南中的 AI 威胁分成两类麻烦——而每一类的预警信号都不一样。一类是骤然降临的危机：一次深度伪造或一次性勒索威胁突然砸来，并带来肉眼可见的痛苦。另一类是缓慢的漂移：对 AI 伴侣的依赖在几个月里慢慢成形。只盯着戏剧性变化的家长会错过第二种；只观察缓慢变化的家长则对第一种没有准备。下列信号两类都覆盖。一如既往，单独某一条说明不了什么——关键是一组信号在短时间窗口内同时出现。两类信号的应对方式也不同：骤然危机型信号需要当天就采取行动；缓慢漂移型信号则提示一次冷静的对话和几周的观察。

骤然危机型信号（深度伪造或性勒索威胁刚刚降临）

• 突然、急剧的状态变化 一两天之内变得极度焦虑、退缩或痛苦的青少年，通常是在用手机后——这是一种威胁刚刚降临的特征。
• 对图像或名声的恐慌 痛苦集中在「别人看到了什么、谁看到了、正在被谁分享」——即便孩子不肯说出「那」到底是什么。
• 金钱压力 要钱、现金莫名消失、新买的礼品卡，或不寻常的支付应用、加密货币活动——这是一个强烈信号，说明性勒索或诈骗的勒索已经开始。

缓慢漂移型信号（隐藏的网上关系或伴侣依赖）

• 针对某个应用或联系人的隐秘 比以前更严密地守护手机、每晚都删掉某段对话、伴侣类或消息类应用上多出一个新账号。
• 一段始终没在线下出现过的网上关系 在网上认识的伴侣或密友，家人从未见过一次即兴的视频通话，且对方总有理由让一次实时、非剧本的核验无法发生。
• 情感生活转移到屏幕里 青少年向人倾诉更少，向某个应用倾诉更多，因它失眠，与它分开时焦躁或痛苦——这是伴侣依赖的缓慢特征。
• 从人际朋友中退场 从既有友谊和线下日常中抽离，尤其与对单一 AI 应用的重度使用同时发生。
• 变得沉默 一个原本多话的青少年，对自己网络生活的那一部分变得圆滑、统一地一片空白——一个习惯讲述自己一天的孩子突然沉默，本身就是信息。

应对从关系开始，不从设备开始。请先与孩子开口——问他/她最近怎样、心里在想什么——而不是上来就讲您在屏幕上看到的东西。如果您从设备入手，您教会的就是每一个操纵者最希望被教会的一课：成年人是需要被管理的威胁，而不是可以利用的资源。接下来两节会讲，一旦冷静的对话已经展开，要做些什么。

家长可以做些什么

本指南中的威胁是新的，但保护性的工作大体上还是熟悉的，而且其中大部分并不是技术活。它建立在三件事之上：一段「真出事时孩子愿意告诉您」的关系；几次在危机之前而非之后进行的对话；以及一小套切实可行的设置和习惯。把它们合在一起，远比任何单一工具更管用。

把对话往前提。本指南中最有力的一句话，是您在事情发生之前说出的：如果哪天有人伪造了你的图像，或者拿这种东西威胁你，你不会惹上麻烦，我们会一起处理。一个事先就知道这一点的青少年，远更可能在最初的一个小时——也是最容易帮上忙的时候——来找您，而不是把问题藏起来直到它已发展到难以收拾。在某次事件让谈话变得紧迫之前，平实地谈谈深度伪造。约定一句应对声音克隆骗局的家庭暗号。讲清楚那条明亮的红线——任何只在网上认识的人提出的金钱、图像或账号访问的要求，无论对方看起来有多真实，都不可逾越。

调整能降低暴露面的设置。把孩子社交账号的隐私收紧，可以限制陌生人随意获取那些深度伪造所需的人脸照片。审查已经公开的内容——这是 数字足迹指南 里那一项配套工作——在这里同样重要，因为足迹就是供给。检查谁可以联系、谁可以给孩子发消息，可以关闭最常见的首次接触渠道。了解设备上装了哪些应用——包括 AI 伴侣类应用——是任何有用对话的基础。这些都不是一堵墙，且应当与孩子一起做、而不是冲着孩子做，但它们都能降低本指南中每一种威胁所赖以为生的素材和接触机会的原始供给。

如果使用监控，请坦诚使用。在许多地方，家长或法定监护人可以对孩子的设备进行与年龄相称的监控，不过规则因国家、各州和监护情况而异，请按您所在地的法律核实。在有真切安全顾虑的情况下，它可以是一层合理的保护——但起决定作用的因素是坦诚。秘密监视一旦被孩子发现，就会印证操纵者那套「成年人不可信任」的脚本，把孩子推上一台您完全看不见的隐藏设备。孩子知情、理解、被您解释过的监控，是与这段关系一起工作，而不是与它对着干。把它想成脚手架：可见、适度，并随着信任和自主权的成长而逐步拆除——它不是上面那些对话的替代品，而是它们的支撑。

请明白，您并不必跟上每一款工具。在这个领域，家长常常觉得自己在跟一项变化比他们学习速度更快的技术赛跑。让人安心的真相是：您不必跟上。具体的应用会不断更替；底层的模式——操纵、敲诈、被制造出来的亲密——却不会变。一位看穿这种模式、又有一个愿意与之交流的孩子的家长，对下一款工具的准备程度，与今天这款是一样的。

举报 AI 滥用并寻求帮助

您不需要证据、不需要十足把握、也不需要完整的画面才能去举报。受理机构本就预期信息不完整，他们宁可收到一份事后被认定为小事的举报，也不愿错过一份不是小事的举报。本节是一张地图，不是法律意见；任何可能涉及刑事指控的事，请咨询所在司法辖区的合格律师。在举报之前先保留证据——图像、账号、用户名和所有消息的截图——因为先屏蔽或删除可能毁掉一份举报所依赖的素材。

从哪里开始，取决于您身处何地。下面的卡片按地区给出第一个举报渠道；完整说明随后列出。

• 美国 对未成年人的性剥削、引诱或性勒索——包括青少年的 AI 生成露骨图像——请向 NCMEC CyberTipline 举报。对涉及网络或金钱要素的犯罪，再向 FBI 的 Internet Crime Complaint Center (IC3) 举报。对诈骗造成的损失，使用 ReportFraud.ftc.gov。
• 英国 怀疑儿童在网上被剥削，请向 CEOP 举报（隶属于 National Crime Agency）。18 岁以下的图像移除可通过 Internet Watch Foundation 和 Childline 的 Report Remove 工具。
• 欧盟 通过 INHOPE 网络 协调的相应国家热线举报违法内容和儿童剥削。
• 其他地区 联系您所在国家或地区的警察、本国的儿童保护或网络举报热线；许多国家热线都列在 INHOPE 的国际目录中。

在任何地区，也请向平台举报——但请把平台举报视为执法渠道之外的补充，永远不是替代。为延缓露骨图像的进一步传播，由 NCMEC 运营的免费 Take It Down 服务会生成一份数字哈希，参与的平台据此检测并拦截 18 岁以下对象的图像匹配副本——在该服务及参与平台支持合成内容匹配的场合，也包括 AI 生成的未成年人图像。对于图像拍摄时已年满 18 岁的当事人，StopNCII.org 提供等同的服务。两者都不是万能的删除按钮，但都能切实减缓进一步扩散。

若想获得持续的家长指引，儿童安全研究非营利机构 Thorn 发布关于 AI 与儿童安全的研究；Internet Matters 和 NSPCC 为家庭出版免费、定期更新的资料；Pew Research Center 则追踪青少年实际如何使用技术。

常见问题