유해 콘텐츠와 알고리즘: 피드가 전달하는 것으로부터 취약한 십 대를 지키기

둠스크롤링이란 실제로 무엇인가

이 단어는 팬데믹 초기에 등장했습니다. 그때 수많은 어른들이 새벽 두 시에 무서운 뉴스의 흐름을 새로 고치는 일을 멈추지 못하는 자신을 발견했지요. 그것은 대부분의 사람들이 즉시 알아본 어떤 것을 묘사했고, 곧 평범한 대화 속에 가벼운, 다소 자조 섞인 고백으로 자리잡았습니다 — 비스킷 한 봉지를 다 먹어버린 일의 디지털 판본이라 할 만한 것 말입니다. 나쁜 습관으로 분류된, 미루기 어디쯤에 자리한 무언가로요.

그런 프레임은 편안하지만, 문제의 일부이기도 합니다. 그것은 그 행동을 자제력의 작은 실패로 다루며, 그 결과 해법은 의지력으로 추정됩니다: 그저 휴대전화를 내려놓아라. 십 대에게 적용되면 그것은 시간과 가사 분담표를 둘러싼 매일의 말다툼이 되고, 책임을 조용히 아이에게 떠넘기게 됩니다. 그러나 그 진단은 불완전하며, 그것이 함의하는 해법 — 의지력 — 은 실제 메커니즘을 거의 완전히 놓치고 있습니다.

둠스크롤링은 시청자를 더 기분 나쁘게 만드는 지점을 한참 지나서까지 이어지는, 괴롭거나 부정적이거나 감정적으로 격앙된 온라인 콘텐츠의 끊임없는 흐름을 강박적으로, 멈추기 어렵게 소비하는 일입니다. 핵심 단어는 강박적이라는 말입니다. 멈추지 못하는 십 대는 의지가 약한 것이 아닙니다. 그들은 자기 손에 든 제품이 만들어내도록 설계된 바로 그 일을 하고 있는 것입니다. 피드에는 자연스러운 끝이 없고, 마지막 페이지가 없으며, 끝맺음 자막이 없습니다 — 「이제 그만해야 할까?」라는 질문이 명백히 떠오를 순간이 없도록 정확히 그렇게 만들어져 있습니다. 그리고 이것은 십 대 생활의 변두리에 있는 부수적인 행동이 아닙니다. Pew Research Center는 미국 십 대의 거의 절반이 이제 거의 끊임없이 온라인에 있다고 답한다는 사실을 밝혀냈으며 — 이는 10년 전의 거의 두 배에 해당합니다 — 따라서 많은 십 대에게 피드는 하루를 가끔 방문하는 손님이 아니라 배경의 끊임없는 음입니다.

그리고 의지력 프레임이 완전히 숨기는 더 깊은 지점이 있습니다. 해악은 사실 스크롤하는 행위에 있지 않습니다. 그것은 무엇이 스크롤되고 있느냐에 있습니다. 두 명의 십 대가 같은 앱에서 같은 두 시간을 보내면서도 완전히 다른 경험을 할 수 있습니다. 각자에게 서로 다른 피드가 보여지기 때문이고 — 그 피드는 우연으로도, 친구들에 의해서도, 자녀 자신에 의해서도 구성되지 않기 때문입니다. 그것은 어떤 특정한 목표를 최적화하는 알고리즘에 의해 구성됩니다. 이 가이드는 그 알고리즘에 관한 것입니다: 그것이 무엇을 고르고 있는지, 왜 때로는 취약한 십 대에게 잘못된 선택을 하는지, 그리고 부모가 실제로 무엇을 할 수 있는지에 관한 것입니다.

알고리즘은 자녀가 무엇을 볼지 어떻게 결정하는가

인터넷의 역사 대부분 동안 피드는 목록이었습니다. 사람을 팔로우하면 그들이 올린 게시물을 올린 순서대로 보았습니다. 이미 본 것에 도달하면 멈췄습니다. 더 새로운 것이 없기 때문이지요. 그런 설계는 거의 사라졌습니다. 오늘날 십 대들이 시간을 보내는 피드는 추천 알고리즘입니다 — 자녀의 친구가 올린 것을 순서대로 보여주는 것이 아니라, 사실상 무한한 콘텐츠 공급원을 순위 매겨 시스템이 그 특정 십 대의 주의를 다음에 사로잡을 가능성이 가장 높다고 예측하는 것을 내보냅니다.

그 예측은 십 대가 알아채지 못한 채 만들어내는 데이터로부터 구축됩니다. 좋아요, 팔로우, 공유 같은 명백한 신호뿐 아니라, 조용한 신호들 — 스와이프하기 전 클립에 얼마나 머물렀는지, 두 번 보았는지, 속도를 늦췄는지, 소리를 켰는지, 자정에 무엇을 검색했는지, 끝까지 본 것이 무엇이었는지. 현대의 피드는 망설임을 읽습니다. 슬픈 영상에서 추가로 3초간 머문 십 대는 의도하지 않고 시스템에 무언가를 말한 셈이며, 시스템은 그것을 보관해 둡니다.

이 모든 것이 알고리즘이 십 대의 웰빙을 최적화하고 있다면 중요하지 않을 것입니다. 그것은 그렇지 않습니다. 그것은 참여 — 시간, 주의, 세션, 재방문 — 를 최적화합니다. 그것이 플랫폼이 둘러싸여 있고 측정할 수 있는 수치이기 때문입니다. 그리고 여기에 모든 부모가 붙들어야 할 메커니즘이 있습니다: 참여와 웰빙은 같은 것이 아니며, 강한 감정을 불러일으키는 콘텐츠는 유난히 참여를 끌어냅니다. 분노, 두려움, 질투, 충격, 슬픔은 모두 주의를 매우 잘 붙듭니다. 차분하고 균형 잡힌, 안심을 주는 영상은 시청자를 불안하게 만들도록 설계된 클립과 경쟁할 때 형편없이 밀려납니다. 알고리즘은 악의적이지 않습니다 — 해악이라는 개념 자체가 없습니다. 그것은 단지 수십억 번의 세션을 통해 괴로움이 잘 작동한다는 사실을 발견한 최적화 장치일 뿐입니다.

두 가지 특성이 그 효과를 날카롭게 만듭니다. 피드는 무한합니다: 자동 재생과 끝없는 스크롤은 모든 자연스러운 멈춤 지점을 없애므로, 빠져나오려면 마찰 없이 진행되도록 설계된 그 순간에 의지의 행위가 필요합니다. 그리고 피드는 전례 없는 정도로 개인화되어 있습니다: 자녀의 피드는 공통의 피드를 약간 조정한 버전이 아니라, 세션마다 자녀 자신의 행동이 드러내는 방향으로 형성된 그들만의 것입니다. 그래서 어깨너머로 들여다본다고 「그 앱」을 볼 수 있는 것이 아닙니다. 그 앱이라는 것은 없습니다. 그들의 망설임으로 지어진 그들의 피드가 있을 뿐입니다.

이를 부모가 자라난 미디어와 비교해 보면 도움이 됩니다. 텔레비전 채널에는 편성표와 보이는 편집자가 있었고, 신문에는 제호와 집안의 모두가 같은 방식으로 보는 1면이 있었습니다. 부모는 그런 선택을 평가하고, 그것과 다투고, 꺼버릴 수 있었습니다. 피드에도 편집자가 있습니다 — 추천 알고리즘 — 그러나 그 편집자는 보이지 않고, 어떤 부모에게도 책임을 지지 않으며, 자신의 논리를 결코 공표하지 않고, 일반 청중이 아닌 특정한 한 아이에게, 사적으로, 24시간 내내 맞춰져 있습니다. 변화는 십 대가 이제 더 많은 미디어를 소비한다는 것이 아닙니다. 그들이 무엇을 소비할지 결정하는 그것이 훨씬 더 강력해졌고, 부모가 보기에는 훨씬 더 어려워졌다는 것입니다.

소셜 미디어 사용은 그 자체로 청소년에게 본래 유익하거나 해로운 것이 아닙니다. 그 영향은 청소년이 무엇에 노출되고 무엇에 참여하는지에, 그리고 각 청소년 자신의 강점과 취약성에 크게 좌우됩니다.

— American Psychological Association, Health Advisory on Social Media Use in Adolescence

유해 콘텐츠의 범주

「유해 콘텐츠」는 모호한 표현이며, 모호함은 걱정하는 부모에게 도움이 되지 않습니다. 그 범주가 실제로 무엇을 담고 있는지 구체적으로 살펴볼 가치가 있습니다. 아래의 다섯 종류는 각기 다르게 작동하고, 다른 경로로 십 대에게 도달하며, 다른 대응을 요구하기 때문입니다. 이 중 어떤 것도 놀라게 하려는 것이 아닙니다. 알고리즘이 십 대에게 내놓는 것의 대부분은 평범합니다 — 친구, 음악, 농담, 취미, 진정으로 존경하는 크리에이터. 핵심은 피드가 하수구라는 것이 아니라, 평범한 콘텐츠를 전달하는 바로 그 참여 중심의 기계 장치가 취약한 십 대에게는 아래의 콘텐츠도 끈질기게 전달할 수 있다는 점입니다.

자해 및 섭식장애 옹호 콘텐츠

이는 부모를 가장 자주 두렵게 만드는 범주이며, 그럴 만한 이유가 있습니다. 그것은 주로 지침적인 자료가 아닙니다. 자해, 자살에 대한 감정, 또는 섭식장애를 공감할 만한 것으로, 심지어 일종의 소속감으로 — 이해해 주는 공동체가 공유하는 정체성처럼 — 제시하는 콘텐츠입니다. 그것은 또한 관리망을 피해 살아남는 데에도 능숙하여, 관리 시스템이 아직 학습하지 못한 암호화된 해시태그와 완곡어법의 끊임없는 흐름 사이로 떠다닙니다. 결정적으로, 그것은 건강한 십 대에게서 괴로움을 만들어내기보다는 이미 힘들어하는 십 대를 찾아가는 경향이 있습니다. 슬프거나 불안한 십 대가 이 자료에 머무는 것을 알아챈 플랫폼의 추천 시스템은 그 머묾을 관심으로 다루고 더 많은 것을 공급합니다.

폭력적이고 자극적인 콘텐츠

폭력, 사고, 싸움, 학대, 잔혹함의 실제 영상이 널리 유통되며, 충격이 사람들의 시청을 붙들기 때문에 종종 어떠한 맥락도 제거된 채 순수하게 그 이유로 표면화됩니다. 십 대는 그것을 찾으러 갈 필요가 없습니다. 반복 노출의 누적 비용은 단 한 번의 극적인 반응인 경우가 드뭅니다. 그것은 더 조용합니다 — 무엇이 평범한지에 대한 감각이 점차 무뎌지는 것, 그리고 세상이 얼마나 위험해 보이는가에 대한 낮고 지속적인 배경 불안의 음입니다. 부모가 그 클립 자체를 보는 일은 드뭅니다. 어떤 대화가 일어나기 훨씬 전에 보통 스와이프되어 지나가 버리기 때문입니다. 가시화되는 것은 그 잔여물입니다 — 점점 다가가기 어려워지고 최악을 더 빠르게 예상하게 된 십 대의 모습.

극단주의 및 급진화 콘텐츠

혐오, 여성혐오, 극단주의 세계관으로 끌어들이는 자료는 거의 그렇게 표지를 달고 도착하지 않습니다. 그것은 코미디로, 게이밍 문화로, 피트니스로, 세상이 정말 어떻게 돌아가는지에 대한 직설적인 「상식」으로, 표류하는 듯한 십 대를 위한 자기계발 조언의 모습으로 다가옵니다. 어조의 변화는 점진적이며, 이는 아래의 토끼굴 섹션의 주제입니다.

연령에 부적합하고 성적인 콘텐츠

포르노적이고 성애화된 자료는 결코 찾지 않았던 십 대에게 도달합니다 — 추천을 통해, 재게시된 클립을 통해, 단체 채팅의 링크를 통해, 낯선 사람의 메시지를 통해. 원치 않는 노출의 즉각적인 충격을 넘어, 더 꾸준한 우려는 그것이 신체, 성, 동의에 대한 젊은이의 기대를 — 그것을 바라볼 경험이나 대화를 갖기 훨씬 전에 — 조용히 형성할 수 있다는 점입니다.

잘못된 정보와 건강 허위 정보

마지막 범주는 가장 극적이지 않으면서 가장 과소평가되기 쉽습니다. 피드는 건강, 신체, 영양, 과학, 시사에 대한 거짓이거나 왜곡된 주장의 무거운 짐을 운반하며, 그중 가장 설득력 있는 것들은 진짜로 세련되게 만들어지고 전적인 자신감과 함께 전달됩니다. 십 대에게 가장 중대한 갈래는 건강과 신체에 관한 것입니다: 제한적인 식단, 보충제, 극단적인 피트니스, 검증되지 않은 치료법에 대한 자신만만한 「조언」이 권위 있어 보이는 사람에 의해 제시될 때 측정 가능한 해를 끼칠 수 있습니다.

왜 취약한 십 대가 가장 크게 영향받는가

지금까지 설명한 모든 것은 피드를 가진 모든 십 대에게 적용됩니다. 그러나 영향은 고르게 분포되지 않으며, 그 이유를 이해하는 것이 이 가이드에서 가장 중요한 발상입니다. 이유는 어떤 십 대가 더 약해서가 아닙니다. 알고리즘과 취약성이 상호작용하기 때문입니다 — 그들은 루프를 이루고, 그 루프는 십 대가 취약할수록 더 빨리 돕니다.

추천 시스템이 어떻게 작동하는지 떠올려 봅니다: 행동을 관찰하고 주의를 붙드는 것은 무엇이든 증폭합니다. 이제 불안하거나, 기분이 가라앉아 있거나, 우울한 십 대를 생각해 봅니다. 괴로운 콘텐츠는 그들의 주의를 더 오래 붙드는 경향이 있습니다 — 즐겨서가 아니라, 낮은 기분이 주의를 정확히 그런 종류의 자료 쪽으로 좁히기 때문입니다. 십 대는 머뭅니다. 「이것이 도움이 된다」와 「눈을 뗄 수 없다」를 구분하지 못하는 알고리즘은 그 머묾을 선호로 읽고 더 많은 것을 보냅니다. 더 많은 괴로운 콘텐츠는 낮은 기분을 더 깊게 만듭니다. 더 깊은 기분은 더 많은 머묾을 만듭니다. 이것이 엔진입니다: 취약성이 행동을 빚고, 행동이 알고리즘을 훈련시키며, 훈련된 알고리즘은 취약성을 심화시킵니다. 십 대는 평범한 우울한 한 주에 그 루프에 들어가 한 달 뒤에 피드가 자신의 가장 나쁜 시간들 주위로 조용히 재정렬되어 있음을 발견할 수 있습니다.

동일한 메커니즘은 섭식장애 위험이 있는 십 대 — 신체와 음식 관련 콘텐츠에 주의가 끌리고, 그 후 점점 더 그것으로 빽빽해지는 피드를 받게 되는 — 에게도 작동합니다. 그것은 슬픔에 잠겼거나 두려움에 빠진 십 대와 종말의 피드에도 작동합니다. 각 경우에서 알고리즘은 취약성을 표적으로 삼는 것이 아닙니다. 그것은 단지 늘 하는 일을 하고 있을 뿐 — 그리고 그 늘 하는 일이 마침 힘들어하는 십 대에게는 정확히 잘못된 일입니다.

임상의들이 자주 묘사하는 종류의 가상의 사례를 떠올려 봅니다. 불안장애를 가진 열네 살 소녀가 평범한 피트니스와 「하루 동안 내가 먹은 것」 영상을 보기 시작합니다 — 건강한 관심이며, 그녀가 상처받기 위해 찾아간 것이 아닙니다. 그러나 그녀는 절제와 「클린 이팅」에 관한 클립에서 조금 더 오래 머뭅니다. 불안이 통제 쪽으로 주의를 끌기 때문입니다. 그리고 몇 주 안에 피드의 그 구석은 조용히 넓어져 그 자리를 채웁니다. 미국 공중보건국장의 권고는 13세에서 17세 청소년의 46%가 소셜 미디어가 신체 이미지에 대해 더 나쁜 기분을 느끼게 한다고 답한다고 보고합니다. 이미 그러한 걱정에 취약한 십 대에게 알고리즘은 취약성을 만들어내는 것이 아닙니다 — 그것을 찾아내고, 그다음 그것을 먹입니다.

신경다양성을 지닌 십 대 — 자폐 스펙트럼에 있거나, ADHD가 있거나, 관련된 차이를 지닌 — 는 추가적인 방식으로 영향을 받을 수 있습니다. 강렬하고 집중된 관심사로 향하는 경향은 진정한 강점인 경우가 많지만, 동시에 어떤 주제로의 깊은 잠수가 더 깊어지고 다시 올라오기가 더 어려워질 수 있음을 뜻하기도 합니다. 화면에서 떨어지기 어려운 성향은 멈출 지점이 없도록 설계된 피드와 나쁘게 상호작용합니다. 그리고 콘텐츠를 문자 그대로, 신뢰하며 읽는 태도는 자신만만하게 전달되는 잘못된 정보나 극단주의적 자료의 프레임을 영업 행위로 알아보기 어렵게 만들 수 있습니다. 이 중 어느 것도 신경다양성 십 대를 오프라인에 가둬 두어야 한다는 뜻은 아닙니다. 많은 이들에게 온라인 공간은 진정으로 가치 있는 연결과 공동체의 원천입니다. 다만 이는 뒷부분의 큐레이션과 대화가 덜 중요한 것이 아니라 더 중요해진다는 의미입니다.

우리는 전국적인 청소년 정신 건강 위기의 한가운데에 있으며, 저는 소셜 미디어가 그 위기의 중요한 동인이라고 우려합니다. 우리는 소셜 미디어가 아동과 청소년에게 충분히 안전하다고 결론지을 수 없습니다.

— U.S. Surgeon General, Advisory on Social Media and Youth Mental Health

그 진술을 균형 있게 보는 것이 중요합니다. 소셜 미디어와 청소년 정신 건강에 관한 증거는 진정으로 엇갈리며, 진지한 연구자들은 평균적인 영향의 크기에 대해 의견이 다릅니다. 훨씬 덜 논쟁의 여지가 있는 것은 이 섹션이 말하는 지점입니다: 평균은 여기서 가장 중요한 십 대들을 가립니다. 어떤 플랫폼이 일반적이고 잘 지원받는 십 대에게는 거의 중립적이면서도, 소수의 취약한 집단에게는 적극적으로 해로울 수 있습니다 — 그리고 이 가이드는 바로 그 집단을 위해 쓰였습니다.

토끼굴과 급진화

토끼굴은 피드가 넓은 주류 콘텐츠에서 시작해 한 걸음씩, 점차 좁은 틈새의 강도 높고 때로는 극단적인 변형으로 좁혀지는 것입니다. 어느 한 걸음도 놀라울 정도가 아닙니다 — 그것이 바로 이 과정을 효과적으로 만드는 점입니다. 십 대에게는 시스템이 그가 준비되어 있지 않다고 정확히 판단한 충격적인 무언가가 결코 보이지 않습니다. 그들에게는 직전 클립보다 약간 더 날카로운 무언가가 보입니다 — 그리고 그것이 참여로 기록되면, 또다시 약간 더 날카로운 무언가가 보입니다.

외롭고, 자신감이 없으며, 또래보다 뒤처져 있다고 느끼는 십 대 소년에게 이것이 어떻게 보이는지 생각해 봅니다. 그는 몇몇 평범한 피트니스와 자기계발 영상을 봅니다 — 완벽히 건강한 관심사입니다. 알고리즘은 인접한 콘텐츠를 풍부하게 갖고 있으며, 그중 일부는 운동 조언을 더 날카로운 가장자리와 짝지웁니다: 약간의 원망, 왜 인생이 젊은 남자에게 불공평한지에 대한 이론, 누구를 비난할지 설명하는 자신만만한 더 나이 든 목소리. 만약 그 클립들이 그의 주의를 조금이라도 더 잘 붙든다면 — 불만이 담긴 콘텐츠는 종종 그러합니다 — 피드는 그쪽으로 기웁니다. 몇 주 뒤 비율이 바뀝니다. 피트니스는 이제 피드의 소수가 되고, 주변의 세계관은 굳어집니다. 그는 극단주의를 찾아 나선 적이 없습니다. 그는 푸시업을 찾았고, 최적화 장치가 나머지를 했습니다.

동일한 구조가 다른 파이프라인 — 음모론적 사고, 경직된 정치적 극단, 어떤 집단에 대한 경멸을 중심으로 조직된 공동체 — 을 작동시킵니다. 추천 알고리즘이 급진화를 일으키는지, 아니면 주로 이미 그쪽으로 표류하는 십 대를 가속하는지에 대해서는 연구자들 사이에서 여전히 논쟁이 있으며, 솔직한 답은 피드가 기원이라기보다 증폭기에 가깝다는 것입니다. 그러나 증폭만으로도 중요한 차이가 됩니다. 부모를 위한 보호적 통찰은, 극적인 순간이 없기 때문에 부모가 그 극적인 순간을 거의 결코 포착하지 못한다는 점입니다. 부모가 알아챌 수 있는 것은 표류입니다: 새로운 어휘, 의견의 굳어짐, 호기심이 있던 자리에 도착한 경멸, 누군가 온라인에서 이제 자녀에게 세상을 설명해 주고 있다는 느낌. 그것이 대화의 신호입니다 — 차분하고, 호기심 어린, 진정으로 관심을 가지는 — 단지 압수의 신호가 아닙니다. 압수는 대화를 끝내고 세계관은 그대로 남겨둘 뿐입니다.

위험한 바이럴 챌린지

바이럴 챌린지보다 부모의 두려움이나 혼란을 더 많이 일으키는 온라인 안전 주제는 거의 없습니다. 그것은 차분하고 솔직한 다룸이 필요합니다. 공포 그 자체가 해를 일으키기 때문입니다. 불편한 진실은 이것입니다: 뉴스 코너와 학부모 모임을 통해 도는 가장 무서운 「챌린지」 이야기의 큰 비중이 과장되거나, 왜곡되거나, 전적으로 조작된 것입니다. 그것들은 경보가 참여를 이끌어내기 때문에 — 이 가이드의 나머지를 추동하는 바로 그 메커니즘에 의해 — 퍼집니다. 그리고 이 두려움에는 특정한 비용이 따릅니다: 가상의 위험한 챌린지에 대한 자세하고 숨 가쁜 보도는 그 챌린지를 들어본 적도 없던 아이들에게 그것을 소개할 수 있으며, 다른 아이들이 하고 있는 무언가로 틀짓습니다.

그렇다고 위험이 없는 것은 아닙니다. 진정으로 위험한 챌린지는 존재하며, 일부는 실제 부상과 사망을 가져왔습니다 — 보통 질식, 호흡 곤란, 유해 물질 섭취, 또는 신체적 무모함이 관련된 경우입니다. 위험은 실재하지만, 일반적인 공포의 분위기가 시사하는 것보다는 작고 더 구체적입니다. 챌린지를 실제로 위험하게 만드는 두 가지는 직접적인 신체적 위험과, 그것을 촬영해 결과를 게시하려는 강한 사회적 끌림입니다.

유용한 부모의 대응은 단체 채팅에 도착하는 모든 경고를 전달하는 것이 아닙니다 — 그 행동 자체가 증폭 기계의 일부입니다. 그것은 두 가지 더 조용한 일을 하는 것입니다. 첫째, 반응하기 전에 확인하십시오: Common Sense Media와 같은 단체들이 결국 거짓으로 밝혀지는 두려움을 정기적으로 반박하므로, 주장된 챌린지가 스크린샷이 아닌 신뢰할 만한 출처에 의해 확인되었는지 점검하십시오. 둘째, 더 지속적으로, 결코 최신 상태로 유지할 수 없는 금지된 챌린지 목록 대신 자녀에게 단 하나의 이전 가능한 발상을 주십시오: 어떤 것이 바이럴이 되었다는 사실은 그것이 안전하다는 증거가 아닙니다. 이 한 가지 원칙을 진정으로 흡수한 십 대는 내년의 챌린지, 즉 아직 아무도 이름 붙이지 않은 챌린지로부터 보호받습니다 — 올해의 챌린지 목록은 결코 할 수 없는 일입니다.

부모가 볼 수 있는 경고 신호

부모는 피드의 해악이 본질적으로 보이지 않는다고 — 모든 일이 부모가 읽을 수 없는 기기 안에서 일어난다고 — 가정하는 경우가 많습니다. 특정 클립은 시야 밖에 있을 수 있지만, 십 대에게 등을 돌린 피드는 거의 언제나 며칠 또는 몇 주에 걸쳐 행동에서 모습을 드러냅니다. 신호는 이국적이지 않습니다. 그것은 스트레스를 받는 젊은 사람의 평범한 신호입니다 — 다만 변한 것은 이제 그 원인이 추천 알고리즘에 자리 잡고 있는 빈도입니다.

• 피드와 연결된 기분 실제 사건이 아니라 스크롤 세션 뒤에 일관되게 따라오는 불안, 슬픔, 분노, 또는 동요.
• 강박적인 확인 휴대전화를 내려놓는 순간 다시 손을 뻗는 것, 떨어져 있을 때의 괴로움, 분명히 즐겁지 않은데도 멈출 수 없는 스크롤.
• 수면의 잠식 늦은 밤 또는 밤새도록의 사용, 아침의 탈진, 함께 잠자리에 드는 휴대전화 — 피드는 십 대가 피곤할 때 빠져나오기 가장 어렵도록 설계되어 있습니다.
• 어두워지는 세계관 미래, 신체, 다른 사람들, 혹은 어떤 집단 전체에 대한 새로운 비관, 종종 부모와의 대화에서는 나오지 않은 확신으로 표현되는.
• 신체와 음식에 대한 몰두 외모, 체중, 식단, 또는 운동에 대한 새로운 집착, 또는 그러한 종류의 콘텐츠가 공유 화면에 나타나는 것.
• 새로운 어휘나 세계관 온라인의 어떤 출처로부터 통째로 도착한 듯한 은어, 논점, 또는 「세상이 정말 어떻게 돌아가는지에 대한 설명」.
• 물러섬 가족, 친구, 취미, 그리고 피드가 꾸준히 밀어내고 있는 오프라인 세계로부터 멀어지는 것.
• 특정 콘텐츠 이후의 괴로움 온라인에서 본 충격적인 것을 언급하거나 그것에 가시적으로 반응하는 것 — 또는 삶의 온라인 부분에 대해 갑자기, 매끄럽게 침묵하는 것.

그 목록의 어떤 단일 항목도 그 자체로는 무언가의 증거가 아닙니다. 십 대에게는 나쁜 기분, 사생활, 강렬한 새 관심, 그리고 마음을 바꿀 권리가 있습니다. 중요한 것은 군집입니다: 짧은 기간 안에 그중 두세 가지 또는 네 가지가 함께 나타난다면 차분하고 신중한 대응을 받을 만합니다. 그리고 그 대응은 기기가 아니라 관계에서 시작합니다. 화면에서 알아챈 것이 아니라, 젊은이로 시작하십시오 — 어떻게 지내는지, 무엇이 마음에 있었는지, 최근 무엇을 보아왔는지 물어보십시오. 기기로 시작하면 피드가 이미 가르치고 있는 교훈을 가르치게 됩니다: 어른은 관리해야 할 문제이지 활용해야 할 자원이 아니라는 것을.

더 조용한 두 번째 종류의 신호는 알아채도록 스스로를 훈련할 가치가 있습니다: 극적인 사건이 아니라 패턴의 변화. 하루를 들려주던 자녀가 더 이상 그러지 않거나, 평소에는 다루기 쉬웠던 아이가 휴대전화를 내려놓은 뒤 한 시간 동안 일관되게 짜증을 내거나, 자신의 것이었던 관심사가 갑자기 평평해지는 것 — 각각은 비난이 아니라 부드럽고 호기심 어린 질문을 받을 만합니다. 가장 어려운 신호는 아무것도 아닌 것처럼 보이는 신호입니다: 그저 조용해지고 가만해진 십 대. 할 말이 많던 아이의 침묵은 정보입니다.

부모가 할 수 있는 일

부모가 할 수 있는 가장 유용한 단 하나의 전환은 피드를 제한하는 것에 대해 생각하기를 멈추고 피드를 큐레이션하는 것에 대해 생각하기 시작하는 것입니다. 시간 제한은 여전히 자리가 있습니다 — 수면과 숙제를 보호하는 일은 할 가치가 있습니다 — 그러나 시간 제한은 남는 시간 안에서 알고리즘이 무엇을 전달하는지에 대해서는 아무것도 하지 않습니다. 큐레이션은 그 일을 합니다. 목표는 십 대가 진정으로 가치 있게 여기는 것이 더 많고, 조용히 그들에게 해를 끼치는 것이 더 적은 피드이며, 그 대부분은 설정, 신호, 대화로 이룰 수 있습니다.

플랫폼의 자체 통제 기능부터 시작하되, 자녀의 뒤가 아니라 자녀와 함께 하십시오. 대부분의 주요 플랫폼은 이제 민감한 콘텐츠 또는 콘텐츠 선호 설정, 더 엄격한 기본값을 갖춘 십 대 또는 제한된 계정 모드, 시청 기록을 지우고 게시물을 「관심 없음」으로 표시하고 계정을 음소거하거나 언팔로우하는 도구를 제공합니다. 여러 플랫폼은 가족용 또는 부모용 대시보드도 제공합니다. 설정을 조인 후에는 피드를 의도적으로 재훈련시키십시오: 좋지 않은 곳으로 표류한 피드는 스스로 교정되지 않지만 새로운 신호에는 빠르게 반응하므로, 진정으로 좋은 콘텐츠와 적극적으로 상호작용하는 데 보낸 한 세션은 수개월의 해가 반대 방향으로 그것을 가르친 만큼 효과적으로 추천 시스템을 가르칠 수 있습니다. Internet Matters와 같은 단체들은 어떤 단일 기사도 최신으로 유지할 수 없는 현재의 플랫폼별 설정 가이드를 발행합니다.

인터페이스는 자주 바뀌지만, 이름으로 알아둘 가치가 있는 통제 기능은 비교적 안정적입니다. 십 대가 가장 자주 사용할 가능성이 있는 플랫폼에 대한 출발점은 다음과 같습니다:

• YouTube Restricted Mode, 보호자 감독 계정 설정, 그리고 시청 기록을 지우고 일시 정지하는 옵션 — 추천 시스템을 형성하는 가장 강력한 신호 중 하나입니다.
• TikTok Family Pairing, Restricted Mode, 콘텐츠 키워드 필터, 그리고 슬레이트를 비우고 추천을 새로 시작하게 하는 「For You 피드 새로 고침」 옵션.
• Instagram 18세 미만에 더 엄격한 기본값을 적용하는 Teen Accounts, Sensitive Content Control, 그리고 Family Center의 감독 도구.
• Snapchat Family Center, 그리고 Stories와 Spotlight 피드에 표면화되는 것을 제한하는 콘텐츠 통제 기능.

피드가 이미 표류했다면, 집중된 20분 세션으로 슬레이트를 재설정할 수 있습니다 — 처벌이 아니라 정비로서 함께 하는 것이 가장 잘 작동합니다:

1. 주요 앱을 자녀와 나란히 엽니다.
2. 팔로잉과 구독 목록을 검토하고, 기분을 더 나쁘게 만드는 계정을 음소거하거나 언팔로우합니다.
3. 플랫폼이 허용하는 곳마다 시청 및 검색 기록을 지우거나 일시 정지합니다.
4. 원치 않는 게시물 열 개에서 열다섯 개를 「관심 없음」으로 표시하여, 추천 시스템에 명시적 신호를 줍니다.
5. 십 대, 제한된, 또는 민감한 콘텐츠 모드를 켭니다.
6. 더 건강한 신호로 피드를 씨앗 뿌리도록, 자녀가 진정으로 가치 있게 여기는 몇 가지 관심사를 팔로우하거나 검색하게 합니다.
7. 일주일 뒤 자녀의 기분, 수면, 그리고 피드의 어조를 다시 점검합니다.

그러나 설정은 더 작은 절반입니다. 더 큰 절반은 이어지는 대화이며 — 그것의 가장 효과적인 형태는 위험에 대한 강연이 아니라 자녀가 실제로 무엇을 보고 있는지에 대한 진정한, 반복되는 호기심입니다. 자주 올라오는 것을 보여달라고 부탁하십시오. 무엇이 웃긴지, 무엇이 지루한지, 무엇이 마음을 어지럽히는지 물어보십시오. 판단받지 않고 부모와 자기 피드에 대해 이야기할 수 있는 십 대는 무언가가 그들을 두렵게 만든 날을 위해 통하는 선을 열어둡니다 — 그리고 그 열린 선은 어떤 차단된 앱보다 더 값집니다.

대화를 열 때는 심문이 아니라 호기심을 목표로 삼으십시오 — 자녀가 자신의 세계를 해명하게 하는 것이 아니라 보여주도록 초대하는 질문 말입니다. 잘 통하는 몇 가지 시작 구절은 다음과 같습니다:

• 「최근에 피드가 너에게 뭘 주고 있는지 보여줄 수 있어? 내 거랑 얼마나 다른지 궁금해서.」
• 「이 앱은 닫고 나면 가끔 기분이 더 나빠지지 않니?」
• 「네가 원하지 않을 때도 자꾸 돌아오는 주제가 있어?」
• 「피드를 같이 조율해 보자 — 휴대전화를 빼앗으려는 게 아니야.」

각각은 자녀를 자기 피드에 대한 전문가로 대우하며, 이는 사실이기도 하고 경계를 푸는 방식이기도 합니다.

그 대화가 지속되도록 하는 두 가지가 있습니다. 첫째는 규칙만이 아니라 기계 장치를 가르치는 것입니다. 자기 피드가 왜 그렇게 기우는지 — 강한 감정이 최적화 대상이고, 머묾이 표로 읽히며, 시스템은 어떤 클립이 도움이 되었는지 해를 끼쳤는지 전혀 모른다는 점 — 를 이해하는 십 대는 어떤 차단 목록도 제공할 수 없는 일종의 면역을 얻습니다. 그들은 피드가 자신에게 작용하는 것을 알아채기 시작하며, 알아챔이 방어의 대부분입니다. 둘째는 본을 보이는 것입니다. 어른들도 저녁 식사 자리에서 휴대전화를 내려놓고, 자신을 짜증나게 한 클립에 대해서도 이야기하며, 피드에 한 시간을 잃은 일을 인정하는 가정은 본을 통해 가르치는 것입니다. 십 대에게만 적용되는 규칙은 통제로 읽히며, 통제는 이 가이드가 자녀와 부모에게 필요한 가시성 사이에 자리 잡는다고 거듭 경고하는 바로 그것입니다.

일부 부모는 진정한 우려가 있은 뒤 한동안 더 직접적인 가시성을 원할 것이라 결정할 것입니다. 많은 지역에서 부모나 법적 보호자는 미성년자의 기기에 연령에 적합한 모니터링을 사용할 수 있으며 — 규칙은 국가, 주, 양육 상황에 따라 다르므로 거주 지역에 적용되는 규정을 확인하십시오 — 그것을 하는지 여부보다 어떻게 하는지가 더 중요합니다. 은밀한 감시는 십 대가 발견하는 순간 어른은 믿을 수 없음을 확인시키고 부모가 볼 수 없는 기기로 우회하는 법을 가르칩니다. 투명하고 연령에 적합한 모니터링은 — 자녀가 그 도구가 거기 있음을 알고, 그것이 무엇을 하는지 알며, 진정으로 심각한 일이 있었기 때문에 그것이 존재함을 아는 — 관계에 맞서기보다 관계와 함께 작동합니다. 그것을 비계처럼 생각하십시오: 눈에 보이고, 일시적이며, 그것이 보호하고 있던 자율성을 자녀가 되찾을 때 의도적으로 내려지는 것 말입니다.

신고와 자료

자녀가 진정으로 유해한 콘텐츠를 마주쳤을 때는 그것을 신고하는 데 들이는 몇 분의 가치가 있습니다. 모든 플랫폼의 앱 내 신고 도구를 사용하십시오 — 그것은 제거에 이르는 가장 빠른 경로이며 플랫폼 자체의 시스템을 훈련시킵니다. 미성년자를 성적으로 착취하는 콘텐츠는 다르고 더 심각합니다: 미국에서는 NCMEC CyberTipline에, 영국에서는 Internet Watch Foundation에 신고하십시오. 자녀가 위기에 있다면, 미국에서는 988 Suicide & Crisis Lifeline, 영국에서는 Childline에 연락하십시오. 다른 곳에서는 해당 국가의 위기 핫라인에 연락하십시오. 배경 지식과 최신 플랫폼 안내를 위해, 아래 단체들이 무료이며 정기적으로 갱신되는 자료를 발행합니다.

• 근거 자료 — 소셜 미디어와 청소년 정신 건강에 관한 미국 공중보건국장 권고, 그리고 청소년 소셜 미디어 사용에 관한 APA 건강 권고.
• 플랫폼 설정 — Internet Matters와 Common Sense Media, 두 곳 모두 현재의 플랫폼별 부모 통제 및 콘텐츠 설정 가이드를 유지합니다.
• 십 대가 플랫폼을 실제로 어떻게 사용하는지 — 십 대, 소셜 미디어, 기술에 관한 Pew Research Center의 지속적인 작업.
• 위기 지원 — 미국의 988 Suicide & Crisis Lifeline과 영국의 Childline.

자주 묻는 질문