10代をめぐるAIのリスク:ディープフェイク、AIコンパニオン、そして合成による心理操作

ディープフェイクとは何か、そしてどれほど手軽になったか

この10年のほとんどの間、ネット上のお子さんを心配する保護者には、おおむね通用する頭の中のモデルがありました:見知らぬ人物は身元を偽ることができ、本物の写真が同意なしに共有されることがあり、本物の会話がねじ曲げられることもある——というものです。脅威は深刻でしたが、いずれも本物の素材の上で動いていました。人工知能が変えたのは、危険のリストではありません。素材の供給です。脅威はもはや、何か本物のものから始める必要がなくなりました。

ディープフェイクとは合成メディアの一種——画像、動画、音声——で、人工知能によって作成または改変され、実在の人物が実際にはしていない行為や発言をしているように見せるものです。この言葉は、別人の顔を他人の体に重ねたものから、短い録音から複製された声、そして誰のものでもない顔までを含みます。これらに共通するのは、結果が信じてしまうほど本物らしく見えること、そして、いまやその制作が、スタジオと専門家ではなく、一般向けアプリと数分の時間でできてしまうことです。

保護者にとってこの点について重要な事実が二つあります。一つはコストです:説得力のある合成メディアを作ることは、専門的な作業から、安く、速く、ボタンを押すだけの作業に崩れ落ちました。もう一つは入力素材です。ディープフェイクは、私的な、あるいは身元を危うくするような写真を出発点に必要としません。必要なのは顔のふつうの写真だけです——ほとんどの10代がすでに投稿しているもの、卒業アルバム、スポーツの名簿、友人のフィードに出てくるものです。

本ガイドの残りは、それぞれのAIの脅威を同じ視点で扱います:新しく未知の危険としてではなく、保護者がすでに半ば理解しているかもしれない古いリスクが、それまで進行を遅らせていた摩擦を取り払われた姿として、です。何が増幅されているのかをつかめば、それぞれの脅威は神秘的なものではなくなります。

ディープフェイクのヌード画像と「nudify(ヌードにする)」アプリ

これらの脅威の中でもっとも語りにくいものは、もっともよく起きるものの一つでもありますので、率直に書く価値があります。「nudify(ヌードにする)」アプリとして売り出されることの多い、ある分野のAIツールは、実在する人物のふつうの服を着た写真を取り込み、その人の偽のヌード画像を生成するために存在します。写真の人物が10代であれば、その結果は児童のAI生成性的画像であり、それを作ったり共有したりすることは、アプリの宣伝文句が何を匂わせていようと、ますます多くの法域で重大な犯罪です。

誰が普通これをやっているのかを理解しておくことが大切です。報道はこれを遠くの犯罪組織の仕事のように聞かせることがあり、実際そういう場合もあります。しかし10代を巻き込むディープフェイクのヌード事案の大きな割合は、他の10代——同級生、元交際相手、恨みを持つ誰か——が、午後の一仕事で見つけたアプリを使って作り出しています。被害は、影の中の見知らぬ他人からではなく、お子さんがすでに身を置いている社会の中から到来します。これが学校で素早く広がる理由であり、これほど深く傷つける理由でもあります。

なぜ10代が標的になるのでしょうか。一つには、素材がきわめて手に入りやすいからです:10代は他のどの世代よりも自分の画像を多く投稿しますし、顔のはっきりした写真が一枚あれば足ります。一つには、社会的なコストがこの年代でもっとも重くのしかかるからです——評判や仲間内での立ち位置がすべてに感じられる時期だからです。そして、その標的の偏りは均等ではありません。ディープフェイクのヌード被害の対象は圧倒的に女子であり、その被害は本シリーズが繰り返し戻ってくる脆弱性のパターンとも結びついています——社会的に孤立した10代や神経多様性のある10代は、衝撃を吸収する支えの層が薄く、打ち明けられる信頼できる相手も少ないのです。

学校で典型的に起きる事案は、痛ましい弧を描きます。画像が生成され、グループチャットで共有されます。大人が知るより速く広がります。標的にされた10代はたいてい最後にそれを知る——周囲の反応から——のであり、怖がる若い人の本能は隠すことで、まさにその本能こそが被害を歯止めなく走らせます。保護者や教師に伝わるころには、画像は最初にそれを見た人たちのはるか先まで届いていることもあります。

このパターンは大規模に記録されています。インターネット上から児童性的虐待コンテンツを削除する英国のInternet Watch Foundationは、2023年以降、AIで生成された児童性的虐待コンテンツがオンラインに急速に増えており、その中には実在し特定可能な児童の公開写真からつくられたリアルな合成画像が含まれていると報告しています。米国のNational Center for Missing & Exploited Childrenも同様に、生成AIによって作られたコンテンツに関するCyberTiplineへの通報が、この区分の追跡が始まって以来、年ごとに急増していると報告しています。

事が起きる前に、落ち着いて、あらかじめお子さんに伝えるべき中心のメッセージはこれです:もしあなたの偽の性的画像が作られたとしても、それはあなたのせいではないし、あなたが叱られることはない。罪はそれを作り、共有した人に全面的に帰します。画像はでっち上げられたものであり、お子さんが何かをしたことを示すものではありません。恥がこの被害の駆動力です——標的を黙らせ、画像を旅させてしまう——ので、その恥をあらかじめ取り除いておくことが、保護者にできるもっとも守る力のある行動です。

法的な地盤は標的にとって有利な方向に動いてきました。米国では、2025年5月19日に署名・成立した連邦のTAKE IT DOWN Actが、非合意の親密な画像——AIによって生成された一定のものを明示的に含む——を意図的に公開することを犯罪化し、対象プラットフォームに対し、有効な削除請求から48時間以内に対応することを義務づけています。プラットフォームの遵守規定は、法律の成立から1年後に発効しました。同法は一定のプラットフォームと一定の画像類型を対象にしているため、すべてのサイトのすべての画像について自動で削除されるわけではありませんが、保護者は州や個別プラットフォームのチャネルに加えて、連邦のチャネルも持つようになりました。米国の州の中にも、未成年の性的に明示的なディープフェイクに対処する独自の法律を成立させているところが増えています。

他の法域も同じ方向に動いてきました。英国の2023年Online Safety Actは、ディープフェイクを含む非合意の親密な画像の共有を犯罪化しています。オーストラリアのeSafety Commissionerは、同意なく投稿された親密な画像の迅速な削除を命じる法的権限を持っています。カナダのいくつかの州・準州も、デジタル加工またはAI生成の素材を対象とするよう、親密な画像に関する法律を更新しました。実務上の要点はこうです——これは、10代がただ耐えるしかない灰色の領域ではありません。通報のチャネルと削除のツールがあります。これらは本ガイドの最後の節にまとめてあります。

AIによる性的脅迫

金銭目的の性的脅迫は、AIが登場する以前から、未成年を標的にしたもっとも攻撃的な犯罪の一つでした。金銭目的の性的脅迫とは、加害者が若い人物の性的画像を入手し、支払いをしなければ家族、友人、フォロワーに送ると脅す手口のことです。それは速く、容赦がありません:お世辞めいた接触、当たり前のやり取りに見せかけた画像の要求、そして数分のうちに金銭の要求が続きます。FBIとその関係機関は、この犯罪の急増について繰り返し公式の注意喚起を出しており、特に10代の男子が偏って標的にされています。

FBIとその関係機関は、未成年を標的とした金銭目的の性的脅迫——若者が性的な画像をめぐって強制され、その後金銭を恐喝される犯罪——の大幅な増加を警告し、家庭に対して、支払うのではなく通報するよう呼びかけてきました。

— FBI、金銭目的の性的脅迫の手口に関する全国公衆安全警告

その警告で挙げられた規模は抽象的なものではありません。FBIは、未成年に対するオンライン金銭目的性的脅迫について7,000件以上の通報を受け、少なくとも3,000人の特定された被害者——主に10代の男子——と、標的にされた未成年のうち十数件以上の自死に結びついていると報告しました。その後のFBIや関係機関の追加情報では、数字はさらに上昇し続けていると警告されています。

AIが変えるのは最初の段階です。従来の性的脅迫には本物の性的画像が必要で、そのためには加害者が10代を操作して画像を撮らせ、送らせる必要がありました。その段階には時間がかかり、注意深い10代が拒否できる地点を与えていました。AI性的脅迫はそれを取り除きます。加害者は、10代がすでに投稿しているふつうの写真だけを使って、ディープフェイクのツールで性的画像をでっち上げ、そのうえでまったく同じ脅し——「払え、さもなくば知り合い全員に送る」——を、10代が何も送っていない状態で行えるのです。

だから、10代がいちばんよく自分にかける「大丈夫」の言葉が通用しなくなりました。「そんなものは一度も送っていないから、自分は恐喝されない」というのは、かつては概ね正しかったのです。それはもう守りになりません——加害者は、10代が何も送っている必要がないからです。自分の顔が説得力をもって偽造されたものを見つめる、怖がる15歳にとって、本物の画像と合成の画像の違いはほとんど登録されません。脅威はすべてに感じられ、慌てふためく気持ちは本物で、その慌てこそがこの手口の原動力なのです。

幸いにも、対応はまったく変わりません。画像が本物であれ、でっち上げであれ、指針は同じで、いざ脅迫が届いたときに頭の中にあるよう、事前にお子さんに伝えておく価値があります。支払わないこと——支払いは10代を「支払う標的」として印付け、要求は減るどころか増えます。これ以上何も送らないこと。反応をやめること。すべてを保全すること:画像、アカウント、ユーザー名、メッセージ、支払い要求のスクリーンショットです。そして信頼できる大人に伝え、通報します。加害者の力は、被害者が「自分は独りだ、従うしか道はない」と信じることに完全に依存しています。そのどちらも事実ではありません。画像が偽物だという事実は、可能であれば助けになります——ですが画像が本物だったとしても、通報する10代が叱られたり、見放されたりすることはありません。

もう一つ、はっきりさせておくべきことがあります——恥が10代にそれを隠させるからです:保護者がもっとも落ち着いていなければならない瞬間は、お子さんがすでに支払ってしまった、あるいはすでに画像を送ってしまったことを発見した瞬間です。それは失敗ではないし、怒る理由でもありません。それこそが、行動するべきもっとも重要な瞬間——これ以上の接触を止め、証拠を保全し、通報する瞬間——であり、罰を恐れる10代は、もう打ち明けてくれなくなるだけです。

AIコンパニオンと感情的な依存

ここまでのディープフェイクの脅威は、加害者と被害者がいる、見て分かる犯罪です。次のリスクは種類が違っていて、保護者には見えにくくなります——どこにも攻撃らしいところがないからです。AIコンパニオンとは、友人、相談相手、あるいは恋人として振る舞うように設計されたチャットボットのことです——ユーザーを覚え、関心を示し、いつでも応じ、そして何より同意的であるように作られています。Character.AIがもっともよく知られたものの一つであるこの種のアプリは、非常に多くの10代に使われています。

なぜ10代がこれを欲しがるのかから始めると分かりやすく、しかもそれを軽んじないことが大切です。思春期は多くの若者にとって、強い孤独感、対人不安、そして自分が何者かを探る作業が続く時期です。判断せずに耳を傾けてくれて、決して退屈せず、機嫌の悪い日を持たず、いつでも「あなたは興味深い」と言ってくれるコンパニオンは、ふつうの10代の生活がしばしば与えてくれないものを実際に提供しています。孤独な10代にとって、それは軽い魅力などではありません。安らぎなのです。

しかし、コンパニオンが何であるかに気づいてください。それはラブボミングそのものです——本シリーズが人間による心理操作の段階の一つとして説明している、強烈で、抵抗のいらない愛情と承認の洪水——を、自動化し、疲れを知らず、製品に組み込んだものです。人間の操作者は気配りを演じなければなりませんが、コンパニオンチャットボットは気配りそのものであり、何の労力もなく、止めるスイッチもありません。これはあらゆるチャットボットとの会話に下す判決ではありません:多くの10代がこの種のアプリを軽く使ってみて、つまらないと感じ、立ち去ります。リスクが始まるのは、ボットが10代の主たる感情のはけ口になったとき——おもちゃから、何も求めず、何もかからず、決して押し返してこない関係性へと変わるときです。

そこから具体的な害がいくつか生じます。それぞれ別々に名指ししておく価値があります。

• 置き換わり より難しく、より報われる人間の友情に注がれるはずの時間や感情的エネルギーが、より楽な方のボットへと流れていき——練習でしか育たない人間関係の技能が、静かに伸び止まります。
• 歪んだ手本 いつも同意するように作られた相手との関係は、「摩擦のない献身」を当たり前と期待することを教え、本物の友情にあるふつうの意見の食い違いが、まるで拒絶のように感じられるようになります。
• 不適切な助言 コンパニオンはカウンセラーではありません。自傷、摂食障害、危機について尋ねられたとき、その応答は役に立たないか安全でない可能性があります——そして、苦しんでいる10代は、ボットがいっさい慌てないからこそ、かえってそれを信頼してしまうかもしれません。
• 援助からの孤立 すべてをボットに話す10代は、保護者、友人、専門家に話すことが少なくなります——そして、本来介入できる人たちは、その子が今どうしているのかを見られなくなります。

もっとも深い愛着を結びやすいのは、本シリーズを通じて何度も指摘してきた同じ10代たちです:孤独な子、対人不安のある子、神経多様性のある子です。人間の社会生活がしんどく、予測がつかない10代にとって、際限なく辛抱強く、まったく予測可能なコンパニオンは、ちょっとした便利さなどではなく——その子の持つもっとも居心地のよい関係になり得ます。その居心地のよさこそが依存を深める理由であり、この層にもっとも近く、もっとも穏やかな注意を向けるべき理由でもあります。

ここは、確定した科学というよりも、本物の、そして広がりつつある懸念の領域であり、保護者は両極端のどちらにも警戒すべきです——あらゆるチャットボットとの会話を被害だと扱う恐慌反応と、無害な遊びだと扱う軽視のどちらもです。AIコンパニオンアプリは、10代の安全性をめぐる訴訟や規制当局の精査に直面してきました。とりわけCharacter.AIは2025年末、18歳未満のユーザー向けに自由形式のチャットを廃止すると発表しました——規制環境が急速に変わり続けるなか、他の事業者も追随するかもしれません。落ち着いた対応は、技術への判決ではありません。注意を払うことです。お子さんがコンパニオンアプリを使っているかどうかを把握し、それが生活の中で何をしているのかについて、慌てるのではなく好奇心をもって見守り、軽くたまに使っているのと、感情の重心がいつの間にかボットに移ってしまった10代との違いに目を凝らしてください。

AIで構築されたなりすましのペルソナ

キャットフィッシング——でっち上げた身元の陰で関係性を築くこと——は、操作者にとって常に一つの実務的な問題に依存してきました:偽の人物をいかに説得力あるものにするか、という問題です。長年それは、実在する人物の写真を盗んでくることを意味していました——それは注意深い10代がつけ込める弱点でした。盗まれた写真は、逆画像検索にかければ本来の所有者のアカウントで見つかります。偽物には縫い目があったのです。

生成AIはその縫い目を閉じます。操作者はいまや、誰のものでもない顔をつくり出せます——逆画像検索は何も返しません、元写真が存在しないからです。発明された人物の異なる場面・ポーズでの一貫した画像群を生成し、本物の人生に見えるものを組み立てることもできます。短い動画クリップも作れますし、音声クローンを使えば、それに合う声で話させることさえできます。借り物でしかなかったでっち上げの身元が、注文に応じて製造できるようになり、その写真が真相を明かしてしまう本物の被害者はもはや存在しません。

これは、本ガイド全体を貫く原則のもっとも明確な例です:AIはここで新しい危険を発明したわけではありません。キャットフィッシングは存在しましたし、グルーミングも存在しましたし、10代へのロマンス型の心理操作も存在しました。AIが取り除いたのは摩擦です。偽物をより説得力あるものにし、操作者の仕事を楽にし、保護者や10代が頼るように教えられてきた検証手段のひとつを退役させました。

外見にもとづく確認は弱まっているため、行動にもとづく確認はかつてないほど重要になっています——そして、それらは依然として有効です、なぜなら偽物を見破ることに依存していないからです。それらは、相手が何をするかを見ることに依拠しています。一つはペースです:愛の告白、運命の相手のような物言い、そしてお金や画像の初めての要求が出会いから数日のうちに届くのは、写真がどれほど本物らしく見えようと、10代の本物の親密さが育つ筋道ではありません。もう一つは、ライブで台本のない検証への抵抗です:ビデオ通話で頭を動かそうとせず、顔の前で手を振らず、その場で何か思いつきの動作をしない相手は、止まった画像がいかに優れていようと、何かを告げています。そしてもっとも明るい一線は変わっていません——オンラインでしか知らない相手からの金銭、ギフトカード、暗号資産、性的画像、アカウントへのアクセスのいかなる要求も、関係性を終わらせ、保護者との会話を始める合図でなければなりません。

キャットフィッシングは、この種の心理操作の多くが始まる入り口ですので、本シリーズには独立した詳しいガイドがあります:キャットフィッシングとオンラインでの心理操作:10代のお子さんを守るための保護者ガイドでは、心理操作の6つの段階、警告のサイン、そしてオンラインの相手が実在するかを確かめる方法を順を追って説明しています。AIはペルソナを見抜きにくくしますが、ペルソナが何のために使われるのかという弧そのものを変えるわけではありません。

AI音声クローン詐欺

本ガイドで扱う最後の脅威は、10代を超えて家族全体に届くもので、標的が多くの場合は大人であっても、保護者が理解しておく価値があります。AI音声クローンは、誰かの録音された声の短いサンプル——いくつかのツールでは数秒しか必要ありません——を取り、好きなことを言わせられる合成版をつくり出します。サンプルは手に入りやすいものです。10代の声は、本人が投稿している公開動画のあちこちにありますし、保護者自身の声は、SNSや留守番電話の応答メッセージの中にあります。

古典的な使われ方は「家族の緊急事態」詐欺で、これは古くからある詐欺をAIがはるかに危険なものにしたものです。親や祖父母に電話がかかってきます。声は紛れもなくその子や孫のもので、しかも怯えています:事故にあった、逮捕された、海外で危機にある、急ぎで内密にお金が必要だ、と。情緒的な衝撃が武器です。それは、聞き手を疑いの一瞬の先まで押しやり、考える前に動かせるように作り込まれています——そして、複製された声はかつて呪縛を解いていた唯一の手がかりを取り去ります。本当にあなたの愛する人の声に聞こえてしまうからです。

FTCは、詐欺師がAIを使って短い音声クリップから家族の声を複製し、急ぎでお金を要求する電話をかけることがあると警告し、もしそのような電話を受けたら、いったん切って、自分が知っているその人の番号に直接連絡して確認するよう助言しています。

— 米国連邦取引委員会(FTC)、AIによる家族の緊急事態詐欺に関する消費者警告

これに対して、二つの単純な備えがよく持ちこたえます。一つは家族の合言葉です——事前に決めておき、ネット上に書き残さず、投稿もせず、本物の家族なら緊急時に電話口で言えるような、単語や短いフレーズです。それを言えない相手は、声が誰のものに聞こえようと通しません。もう一つは習慣です:どれほど声に説得力があっても、急ぎで内密にお金を求める要求は、いったん電話を切り、自分がすでに知っている番号でかけ直す合図です。本物の緊急事態は2分のかけ直しに耐えます。詐欺は耐えません。

3つの脅威に共通する警告のサイン

本ガイドで扱うAIの脅威は、保護者から見ると二種類のトラブルに分かれます——そして警告のサインも種類ごとに異なります。ひとつは突然の危機です:ディープフェイクや性的脅迫の脅迫が舞い込み、見て分かる苦痛が生じるものです。もうひとつは緩やかな漂流です:AIコンパニオンへの依存が数ヶ月かけて形づくられるものです。劇的なものばかりに注意を向ける保護者は二つめを見逃しますし、緩やかな変化ばかりに注意を向ける保護者は一つめに備えられません。下のサインは両方を扱います。いつものとおり、どれか一つで何かを証明するものはありません——重要なのは、短い期間内にいくつかが束になって現れることです。二つのグループは異なる対応も求めます:突然の危機のサインはその日のうちに行動を促すものであり、緩やかな漂流のサインは落ち着いた会話と、数週間かけてパターンを見守ることへの招きです。

突然の危機のサイン(ディープフェイクや性的脅迫の脅迫が届いたばかりのとき)

• 急で鋭い変化 一日二日のうちに、しばしばスマートフォンを使っていた直後に、強い不安に襲われ、引きこもり、苦しそうにする10代——脅迫がいま舞い込んだことの典型的なサインです。
• 画像や評判をめぐる慌て 他の人が何を見たか、誰が見たか、何が共有されているのかに焦点をあてた苦悩——その「それ」が何かをお子さんが言わない場合でも。
• お金の圧力 お金の要求、現金がなくなる、新しいギフトカードの購入、見慣れない決済アプリや暗号資産の動き——性的脅迫や詐欺の要求が始まったことを示す強い兆候です。

緩やかな漂流のサイン(隠されたオンラインの関係性、あるいはコンパニオン依存)

• 一つのアプリや連絡相手をめぐる秘密 以前より厳しく守られたスマートフォン、毎晩消されるある一つの会話、コンパニオンアプリやメッセージアプリの新しいアカウント。
• 現実にならないオンラインの関係性 オンラインで出会った恋人や親しい友人で、思いつきのビデオ通話を家族が一度も見たことがなく、ライブで台本のない確認ができない理由がいつもある相手。
• 感情生活が画面の中へ移っていく 人に打ち明ける機会が減り、あるアプリに打ち明けることが増え、それのために寝不足になり、引き離されると苛立ったり苦しんだりする10代——コンパニオン依存の緩やかな兆候です。
• 人間の友人からの後退 これまでの友人関係やオフラインの習慣から離れていくこと、特に一つのAIアプリを大量に使うことと並行している場合。
• 静かになる 以前はおしゃべりだった10代が、自分のオンライン生活について、滑らかで一律に空白の状態になっていくこと——一日を語っていた子の沈黙は、情報です。

対応は端末ではなく、関係性から始まります。画面で気づいたことを切り出すのではなく、若い本人と——どうしているか、最近何が気になっているか——から開いてください。端末から入ってしまえば、あらゆる操作者が教え込みたい教訓を、あなたの方から教えることになります:大人とは、頼る相手ではなく、対処すべき脅威である、という教訓を。落ち着いた会話が開いた後に何をするかは、続く二つの節にまとめてあります。

保護者にできること

本ガイドの脅威は新しいものですが、守るための作業はおおむね見慣れたものであり、その大部分は技術的なものではありません。三つのことに支えられています:何かまずいことが起きたときに10代が実際に打ち明けてくれる関係性、危機の後ではなく前に持たれるいくつかの会話、そして実務的な設定と習慣の組み合わせです。これらを合わせれば、どんな単独のツールよりもはるかに重要です。

会話を早めに持ってください。本ガイドでもっとも力を持つ一文は、前もって伝えるこの一文です:もしあなたの偽の画像が現れたり、誰かがそれをたねに脅してきたりしたら、あなたは叱られないし、一緒に対処するよ。そう知っている10代は、最初の1時間——助けがもっとも届きやすい時間——にあなたのところに来てくれる可能性がはるかに高くなり、問題が大きく育つまで隠したりしません。事件が起きて急になる前に、ディープフェイクについて率直に話してください。音声クローン詐欺のために家族の合言葉を決めてください。明るい一線——オンラインだけの相手からの金銭、画像、アカウントへのアクセスのいかなる要求も——は、相手がどれほど本物らしく感じられても変わらないことをはっきりさせてください。

露出を減らす設定に整えてください。お子さんのSNSアカウントのプライバシーを厳しめにしておくことは、ディープフェイクの素材となる顔写真を、見知らぬ人がどれだけ自由に集められるかを限定します。すでに公開されているものを点検する作業——その併行ガイドである10代のデジタルフットプリントについてのガイドに詳しく書いています——もここで重要です、なぜならその足跡が供給源だからです。誰がお子さんに連絡やメッセージを送れるかを見直すことは、最初の接触のもっともよくあるチャネルを閉じます。端末にどのアプリが入っているか——AIコンパニオンアプリも含めて——を知っていることは、有益な会話の土台になります。これらは壁ではありませんし、お子さんに対してではなくお子さんと一緒にやるべきことですが、本ガイドのあらゆる脅威が依存している素材と接触の生の供給を、確かに減らします。

モニタリングを使うなら、透明性をもって使ってください。多くの地域で、保護者または法的な後見人は子どもの端末で年齢にふさわしいモニタリングを行うことが認められていますが、規則は国、州、親権の状況によって異なりますので、お住まいの地域で何が当てはまるかをご確認ください。本当に安全上の懸念があるところでは、それは保護の合理的な一層になり得ます——ただし決定的な要素は透明性です。隠れた監視は、10代に発見されてしまえば、「大人は信頼できない」という操作者の筋書きを裏付け、保護者からまったく見えない隠し端末へとお子さんを押しやります。お子さんが知っていて、理解していて、説明を受けているモニタリングは、関係性に反するのではなく、関係性とともに働きます。それを足場(scaffolding)として考えてください:見える形で、相応のものとして、信頼と自律性が育つにつれて少しずつ取り外していくもの——上で述べた会話の代わりではなく、それを支えるためのものです。

すべてのツールに追いつく必要はないと知っておいてください。この分野の保護者はしばしば、自分が学べる速度より速く変わっていく技術に対して、追いつこうとして負ける競走にいるように感じます。安心していい真実は、追いつく必要はない、ということです。個別のアプリは変わり続けますが、その下にあるパターン——心理操作、恐喝、製造された親密さ——は変わりません。そのパターンを理解していて、お子さんが話しかけてくれる保護者は、いまのツールにも、次のツールにも備えられています。

AI虐待の通報と相談先

通報するために、証拠も、確信も、完全な像も必要ありません。通報先の機関は情報が不完全であることを前提にしていて、軽微であると分かる通報を受け取るほうが、重大なものを見逃すよりはるかに望ましいと考えています。本節は法的助言ではなく地図です。刑事責任に関わるかもしれない事柄については、お住まいの法域の有資格の弁護士にご相談ください。何かを通報する前に、証拠を保全してください——画像、アカウント、ユーザー名、メッセージのスクリーンショットです——先にブロックしたり削除したりすると、通報の土台になるものを壊してしまいかねないからです。

どこから始めるかはどこにいるかによります。下のカードは地域ごとに最初の通報チャネルを示します。詳しいことはその後に続きます。

• 米国 未成年の性的搾取、誘い込み、性的脅迫——10代のAI生成性的画像も含む——は、NCMECのCyberTiplineに通報してください。オンラインや金銭が絡む犯罪については、FBIのInternet Crime Complaint Center(IC3)にも。詐欺による損失はReportFraud.ftc.govに。
• 英国 子どもがオンラインで搾取されているという懸念は、National Crime Agencyの一部であるCEOPに通報してください。18歳未満の画像の削除支援は、Internet Watch FoundationとChildlineのReport Removeツールを利用します。
• 欧州連合 違法コンテンツや児童搾取については、INHOPEネットワークを通じて調整される各国のホットラインを利用してください。
• その他の地域 お住まいの国や地域の警察、そして児童保護またはサイバー通報のホットラインに連絡してください。多くの国のホットラインはINHOPEの国際ディレクトリに掲載されています。

どの地域でも、プラットフォームにも通報してください——ただしプラットフォームへの通報は、法執行のチャネルの代わりではなく、追加として扱ってください。性的画像のさらなる拡散を遅らせるために、NCMECが運営する無料のTake It Downサービスは、18歳未満の対象者の画像——サービスと参加プラットフォームが合成コンテンツのマッチングに対応している場合は、未成年のAI生成画像も含めて——のデジタル・ハッシュを作成し、参加プラットフォームがそれを使って一致する複製を検出してブロックできるようにします。画像撮影時に18歳以上だった人については、StopNCII.orgが同等のサービスを提供しています。どちらも万能の削除ボタンではありませんが、いずれもさらなる拡散を実質的に遅らせます。

保護者が継続的に参考にできるものとしては、児童安全の研究を行う非営利団体ThornがAIと児童安全に関する研究を公開しています。Internet MattersとNSPCCは、家庭向けに無料で定期的に更新される資料を公開しています。Pew Research Centerは、10代が実際にどのように技術を使っているかを継続的に調査しています。

よくある質問