ソーシャルメディアのアルゴリズムは、お子さんが見るものをどう決めているのか

ソーシャルメディアのアルゴリズムとは実際に何なのか

ソーシャルメディアのアルゴリズムとは、推薦システムのことです。すなわち、どの投稿、動画、アカウントにお子さんが最も反応しそうかを予測し、それらが先頭に来るようにフィードを並べるソフトウェアです。人々がアルゴリズムと言うとき、たいていは「For You」ページやランク付けされたホームフィードの背後にあるエンジンを指しています——何百万もありうる投稿の中から、お子さんが次に実際に目にするひとにぎりを決めているものです。

唯一の親玉アルゴリズムというものは存在しませんし、アプリごとに一つというわけですらありません。Instagram の責任者である Adam Mosseri が説明しているように、プラットフォームの各部分——メインフィード、Stories、Reels、Explore、Search——は、それぞれ独自の目標と信号を持つ独自のランキングシステムを動かしています。ですから、まったく同じアカウントでも、10代の子が穏やかな Explore ページと混沌とした Reels フィードを抱えることがあり、「アルゴリズムを直す」ことが単一のスイッチを意味することはめったにないのです。

どのバージョンにも共通するのは、基本的な動作です。膨大な候補投稿のプールを取り、それぞれにスコアを予測し——あなたがそれを見るか、「いいね」するか、コメントするか、シェアする可能性がどれくらいあるか——最も高いスコアのいくつかを表示します。そして画面が更新されるたびに、直前に起きたことから学びながら、その全工程をもう一度繰り返します。フィードが個人的に感じられるのは、実際にそうであるからです。それは一秒ごとに、お子さん自身の行動から再構築されているのです。

そこで残るのは、保護者にとって本当に重要な二つの問いです。アルゴリズムはうちの子について何を読み取っているのか、そして何を達成しようとしているのか。その正直な答えは、「中毒性がある」というよりも、もっと具体的で——そしてもっと役に立ちます。

アルゴリズムがお子さんについて読み取る信号

アルゴリズムは二種類の信号を読み取ります。お子さんが意図的に行うことと、自分でも気づかずに行っていることです。10代の子が好む短尺動画のフィードでは、後者が保護者の予想以上に重要なことがしばしばあります——ときには「いいね」やフォローそのものよりも重要です。TikTok は自社によるFor You フィードの説明の中で、その入力をユーザーの操作（いいね、シェア、フォロー、コメント）、動画の詳細（キャプション、サウンド、ハッシュタグ）、アカウント設定（言語、国、端末）に分類し、これらが等しく重み付けされているわけではないと率直に述べています。長めの動画を最後まで見ることは、たとえば作り手と同じ国に住んでいることよりも、はるかに大きく数えられるのです。

その二つ目の列こそ、保護者がめったに思い描かない部分です。The Wall Street Journal が2021年に約百個の自動アカウントを使って TikTok のアルゴリズムを調査したところ、最も強力な唯一の信号は視聴時間——あるアカウントがどれくらい長く見入り、一時停止し、再生し直したか——であり、何かに「いいね」したりフォローしたりする必要もなく、受動的に働いていることが分かりました。同じ年に The New York Times が報じた流出した TikTok の社内文書は、予測される「いいね」、コメント、そして——決定的に——再生時間を、各動画ごとの単一のスコアに組み合わせるシステムについて記していました。

滞留時間がこれほど強力なのは、それが正直だからです。お子さんは「自分には価値がない」と感じる動画に決して「いいね」しないかもしれませんが、ゆっくりして二度見れば、フィードはもう答えを得ています。他のプラットフォームも同じように働きます——Instagram は Reels を、あなたが最後まで見る可能性をひとつの要因としてランク付けしますし、こうしたシステムはあなたに似た人々にも頼り、似た視聴者が次に見たものを推薦します。お子さんのためらいが測られているのに、それが数えられていることを本人はまったく知らないのです。

アルゴリズムが実際に最適化しているもの

アルゴリズムが最適化しているのはエンゲージメント——お子さんをアプリに留めておくこと——であって、本人の幸福でも、価値観でも、真実でもありません。その違いがすべての勝負どころです。The New York Times が入手した2021年の TikTok 社内文書は、その目標を会社自身の言葉で記していました。システムは二つの中核指標——「retention」（戻ってくるかどうか）と「time spent」（費やす時間）——に合わせて調整されており、これらはプラットフォームがその上に重ねる安全性と品質の制限の下に横たわる目標なのです。それらを最大化するように作られたフィードは、お子さんに嘘をついているわけではありません。ただ、本人とは違う目的を持っているだけなのです。

ほとんどの場合、「見続けさせるもの」と「本人のためになるもの」は、おおよそ同じ方向を指しています。問題はその二つのあいだの隙間にあり——感情的に強烈なコンテンツはその隙間に住みつきます。感情的に強烈なコンテンツは、確実に注意を勝ち取ります。とりわけ政治的な投稿について、ある大規模な270万件の投稿の研究では、自分の側についての投稿よりも、政治的な外集団についての投稿のほうが約二倍多くシェアされ、はるかに多くの「怒り」の反応を引き出したことが分かりました——そしてエンゲージメントに報いるシステムは、何の悪意もなく、人を動揺させるものなら何でも増幅する傾向を持つのです。

プラットフォームはこのことを何年も前から知っていました。内部告発者の Frances Haugen が2021年に Meta の社内文書を数千件開示したとき、その一群が示していたのは、「meaningful（意味のある）」交流を促進するための2018年の変更が、会社自身の分析によれば、むしろ怒りと分断的なコンテンツを増幅していたこと——そしてそれを指摘した社員たちが、エンゲージメントを損ないかねない修正は通すのが難しいと言われたことでした。ある社内メモは、その副作用を率直にこう表現していました。

誤情報、有害性、暴力的なコンテンツは、再シェアの中で過度に多く見られる。

——2021年の Facebook 社内調査メモ、The Wall Street Journal が報道

これらのいずれも、アルゴリズムがお子さんを傷つけるように設計されているとか、使用時間が長いことが単純に害を引き起こすという意味ではありません。その因果関係は本当に議論の的になっています。アルゴリズム式のフィードを時系列のものに入れ替えた2023年の大規模な実験は、人々が目にするものは変えたものの、その態度を測定できるほどには動かさなかったことを示しましたし、Candice Odgers のような発達研究者は、画面が引き起こす10代の精神的健康の危機についての証拠は「ないもの、小さいもの、まちまちなものの混合」だと注意を促しています。公平な要約はもっと限定的で、それでも行動に移す価値があります。フィードは注意を引き留めるように作られており、有害なものも無害なものと同じくらい簡単に増幅しうるし、各社自身の調査がそれを長く示してきた、ということです。

フィードはどう学習し——そして狭まるのか

フィードは行動からリアルタイムで学習するため、お子さんの興味を映し出すだけではありません——フィードバックループを通じて、それを形づくっていきます。お子さんが見入る動画の一つ一つが、システムに「もっとこういうのを」と伝え、するとシステムはもっとこういうのを提供し、それによって本人を引き留めるものを見つける機会をさらに多く得て、というように続きます。Journal のボット実験では、For You ページが二時間足らずであるアカウントの本当の興味を突き止め、その後、密接に関連したコンテンツの「ウサギの穴」へと、どんどん狭くなる形で送り込んでいけることが分かりました。

ループは広がるよりも狭まる傾向があります。孤独、ダイエット、自己批判についてのコンテンツに、たとえ一度でも一時停止した10代の子は、アルゴリズムに一つの信号を手渡したことになります——そしてアルゴリズムの仕事は信号に従って動くことであって、この信号に従って動くのが賢明かどうかを問うことではありません。アルゴリズムには「これをもっと見たい」と「これから目を離せなかった」の違いがつきません。システムにとって、その二つは同一なのです。

これが、保護者が気づくあの経験の背後にある仕組みです。ある悪い夜に悲しい動画をいくつか見た10代の子が、いまやそれであふれたフィードから抜け出せないように見える、というものです。それは被害妄想ではありませんし、罰でもありません。推薦エンジンが、まさに作られたとおりのことをしているだけなのです——そして、社会的なフィードバックにとりわけ敏感な発達途上の10代の子が、それを動かす信号を供給しているのです。当サイトのピラーガイドでは、アルゴリズムがどう決めるのかと、それが作りうるウサギの穴について、さらに踏み込んで解説しています。

ループが有害に転じるとき

ほとんどの10代の子にとって、ほとんどの場合、これは無害です——料理のクリップやサッカーのハイライトを過剰に提供されたフィードといった程度のものです。それが危険になるのは、ループが固着したコンテンツそのものが有害であり、かつそれを受け取る10代の子がすでに脆弱な状態にあるときです。ここで最も権威ある証拠は、ある啓発キャンペーンからのものではありません。法廷からのものです。2022年、ロンドンの検視官は、14歳のMolly Russell が「うつ病と、オンラインコンテンツの悪影響に苦しむなかでの自傷行為」によって亡くなったと裁定し、エンゲージメントに駆動されたアルゴリズムが、本人が探し求めたわけでもない痛ましい素材を、量を増やしながら推薦していたと認定しました。

啓発団体は、13歳を装ったテストアカウントを使って、それがどれほど速く起こりうるかを測ろうとしてきました。2022年の研究で、Center for Countering Digital Hate が報告したところによれば、新しい「10代」のアカウントには3分足らずで自殺に関するコンテンツが、8分以内に摂食障害に関するコンテンツが提供され、ユーザー名がボディイメージの悩みを匂わせるアカウントは、標準的なものより12倍多く自傷と自殺の推薦を受け取ったといいます。Amnesty International も、2023年の実験で同様に、5〜6時間後にはあるテストフィードのおよそ半分が精神的健康に関連したもので、その多くが有害となりうるものだったことを見いだしました。

これらの数字は注意深く読んでください。これらは、信号を意図的に作り込んだ自動アカウント——悲しいコンテンツに一時停止し、再生し直すアカウント——から得られたものであって、典型的な10代の子から得られたものではありませんし、TikTok はそれらが実際の視聴を反映していないと主張しています。その批判はもっともです。これらの研究が示しているのは、あらゆる10代の子のフィードがどう振る舞うかではありません。間違った信号を与えられたとき、その機械仕掛けが何をなしうるか、ということです。そして、自分の感じ方を映し出すコンテンツでゆっくりする苦しんでいる10代の子は、そうしようとしているわけでもないのに、まさにその信号を送っているのです。

保護者にできること

アルゴリズムをオフにすることはできません——ほとんどのアプリで、EU の外では、ランキングに本当の「オフ」は存在しません——けれども、感じているよりもはるかに大きな影響力をあなたは持っています。目標はフィードを打ち負かすことではありません。それを理解し、偏ったときにリセットし、本人の知らないところで取り締まるのではなくお子さんと一緒に舵を取ることです。監視ではなく足場（scaffolding）だと考えてください。

• 仕組みを説明してあげる。最も保護的なことの一つは、フィードが自分の注意を引き留めるように作られていて、一時停止のたびに学習しているのだと知っている10代の子の存在です。その機械仕掛けが見えている子は、その中に閉じ込めるのがはるかに難しくなります——そしてその会話は、どんな設定よりも重要なのです。
• 偏ったときにフィードをリセットする。TikTok ではFor You フィードを更新して推薦を新たに始められます。Instagram には「Reset suggested content」のオプションがあります。YouTube では、再生履歴を消去して一時停止すると、パーソナライズされたホームページがなくなります。どれも永続的ではなく——フィードは再構築されます——それでも、リセットは悪い渦巻きを断ち切ります。
• 意図的に訓練する。「Not interested」を使い、遠慮なくフォローを外しミュートし、もっと見たくないコンテンツは素早くスクロールして通り過ぎましょう。見入ることが一票なのですから、意図的に見入らないことは本物の手段です——その使い方をお子さんに見せてあげてください。
• フォローのみ、または時系列のフィードを試す。Instagram の Following フィードと YouTube の Subscriptions は投稿をランク付けではなく時系列で表示し、Instagram の Favorites はお子さんが選んだひとにぎりのアカウントにフィードを絞り、TikTok の Following タブは本人が選んだアカウントに限定します——どれも For You より穏やかですが、アプリは既定でアルゴリズム式のフィードを開き直す傾向があります。
• フィルターと10代向けの初期設定を使う。TikTok のキーワードフィルターと Restricted Mode、そして Instagram の Sensitive Content Control は、まるごとのカテゴリーのコンテンツを減らします。Instagram Teen Accounts は、より厳しいコンテンツと連絡先の初期設定を、夜間の通知制限とともに適用しますし、TikTok は18歳未満に1日60分の既定を設定します——TikTok Family Pairing でより確かな制限を設けない限り、これは固い停止というより摩擦にすぎませんが。
• 睡眠を守り、フィードの外の世界を豊かに保つ。アルゴリズムの握力の多くは、単なる機会——夜遅くの果てしないスクロール——にすぎません。寝室から携帯電話を出すこと、そして顔を上げる価値のある暮らしは、どんな単一のトグルよりも大きな働きをします。

そのリストに何が載っていないかに気づいてください。秘密の監視アプリや、お子さんの本当の活動を見えないところへ追いやってしまう突然の禁止です。狙いは、システムを理解し、それが何か恐ろしいものを差し出してきたときにあなたのもとへ来てくれる10代の子です——隠れることを学んでしまった子ではありません。より広い全体像については、ソーシャルメディアと10代の精神的健康についての当サイトのガイドと、保護者にできることについてのピラーガイドをご覧ください。

よくある質問