소셜 미디어 알고리즘은 자녀가 무엇을 볼지 어떻게 결정하는가

소셜 미디어 알고리즘이란 실제로 무엇인가

소셜 미디어 알고리즘은 추천 시스템입니다. 자녀가 어떤 게시물, 동영상, 또는 계정에 반응할 가능성이 가장 높은지 예측하고, 그것을 맨 앞에 두도록 피드를 정렬하는 소프트웨어입니다. 사람들이 그 알고리즘이라고 말할 때, 보통은 「For You」 페이지나 순위가 매겨진 홈 피드 뒤에 있는 엔진을 가리킵니다 — 수백만 개의 가능한 게시물 가운데, 자녀가 다음에 실제로 보게 될 한 줌을 결정하는 그것입니다.

단 하나의 마스터 알고리즘이 있는 것도 아니고, 앱마다 하나씩 있는 것조차 아닙니다. Instagram의 수장 Adam Mosseri가 설명한 바처럼, 플랫폼의 각 부분 — 메인 피드, Stories, Reels, Explore, Search — 은 저마다의 목표와 신호를 가진 자체 순위 시스템을 돌립니다. 그래서 십 대는 바로 그 같은 계정에서 차분한 Explore 페이지와 혼란스러운 Reels 피드를 동시에 가질 수 있고, 「알고리즘 고치기」가 단 하나의 스위치를 뜻하는 경우는 드뭅니다.

모든 버전이 공유하는 것은 그 기본 동작입니다. 거대한 후보 게시물 풀을 가져와, 각각에 점수를 예측하고 — 당신이 그것을 시청하거나, 좋아요를 누르거나, 댓글을 달거나, 공유할 가능성이 얼마나 되는지 — 점수가 가장 높은 몇 개를 보여 줍니다. 그런 다음 화면이 새로고침될 때마다 방금 일어난 일에서 배우며 그 전부를 다시 수행합니다. 피드가 개인적으로 느껴지는 까닭은 그것이 정말로 개인적이기 때문입니다. 그것은 초 단위로, 자녀 자신의 행동으로부터 다시 만들어집니다.

그러면 부모에게 실제로 중요한 두 가지 질문이 남습니다. 알고리즘은 내 자녀에 대해 무엇을 읽고 있는가, 그리고 그것은 무엇을 이루려 하는가. 솔직한 답은 「중독성이 있다」보다 더 구체적이고 — 더 쓸모 있습니다.

알고리즘이 자녀에 대해 읽는 신호

알고리즘은 두 종류의 신호를 읽습니다. 자녀가 일부러 하는 것들, 그리고 자녀가 하고 있다는 사실조차 깨닫지 못하는 것들입니다. 십 대가 선호하는 짧은 동영상 피드에서는 두 번째 종류가 흔히 부모가 예상하는 것보다 더 중요합니다 — 때로는 좋아요와 팔로우 그 자체보다도 더 그렇습니다. TikTok은 For You 피드에 대한 자체 설명에서 그 입력을 사용자 상호작용(좋아요, 공유, 팔로우, 댓글), 동영상 세부정보(캡션, 사운드, 해시태그), 그리고 계정 설정(언어, 국가, 기기)으로 묶고 — 이것들에 같은 가중치가 매겨지지 않는다고 분명히 말합니다. 긴 동영상을 끝까지 보는 것은, 가령 제작자와 같은 국가에 산다는 것보다 훨씬 더 큰 비중을 차지합니다.

그 두 번째 열이 부모가 좀처럼 떠올리지 못하는 부분입니다. The Wall Street Journal이 약 백 개의 자동화된 계정을 써서 2021년에 TikTok의 알고리즘을 조사했을 때, 가장 강력한 단일 신호는 시청 시간 — 한 계정이 얼마나 오래 머물고, 멈추고, 다시 보았는지 — 이었으며, 무엇을 좋아요 누르거나 팔로우할 필요 없이 수동적으로 작동했음을 밝혀냈습니다. 같은 해 The New York Times가 보도한 유출된 TikTok 내부 문서는, 그 시스템이 예측된 좋아요, 댓글, 그리고 — 결정적으로 — 재생 시간을 각 동영상에 대한 하나의 점수로 결합한다고 설명했습니다.

이것이 머문 시간이 그토록 강력한 이유입니다. 그것은 정직합니다. 자녀는 무가치하다고 느끼는 것에 관한 동영상에 결코 좋아요를 누르지 않을지 모르지만, 속도를 늦추고 그것을 두 번 본다면 피드는 답을 얻은 것입니다. 다른 플랫폼도 같은 방식으로 작동합니다 — Instagram은 당신이 Reel을 끝까지 볼 가능성을 부분적인 근거로 순위를 매기고, 그 시스템들은 또한 당신과 비슷한 사람들에게 기대어, 비슷한 시청자들이 다음에 무엇을 보았는지를 추천합니다. 자녀의 망설임이 측정되고 있는데도, 그들은 그것이 셈해진다는 것을 전혀 모릅니다.

알고리즘이 실제로 최적화하는 것

알고리즘이 최적화하는 것은 참여 — 자녀를 앱에 머물게 하는 것 — 이지, 그들의 행복이나 가치관이나 진실이 아닙니다. 그 구분이 모든 것을 가릅니다. The New York Times가 입수한 2021년 TikTok 내부 문서는 그 목표를 회사 자신의 표현으로 설명했습니다. 그 시스템은 두 핵심 지표, 즉 「retention」(당신이 다시 돌아오는지)과 「time spent」 — 플랫폼이 그 위에 겹겹이 얹는 안전 및 품질 한계 아래에 놓인 목표들 — 에 맞춰 조율되어 있었습니다. 그 두 가지를 극대화하도록 만들어진 피드는 자녀에게 거짓말을 하는 것이 아닙니다. 단지 자녀와는 다른 목적을 지녔을 뿐입니다.

대부분의 경우 「무엇이 계속 보게 하는가」와 「무엇이 당신에게 좋은가」는 대체로 같은 방향을 가리킵니다. 문제는 그 둘 사이의 간극이며 — 감정적으로 격렬한 콘텐츠가 바로 그 간극 안에 삽니다. 감정적으로 격렬한 콘텐츠는 어김없이 주의를 사로잡습니다. 특히 정치 게시물에서, 270만 개의 게시물을 다룬 한 대규모 연구는 정치적 외집단에 관한 게시물이 자기 진영에 관한 게시물보다 약 두 배 더 자주 공유되었고, 훨씬 더 많은 「angry」 반응을 끌어냈음을 밝혀냈습니다 — 그리고 참여를 보상하는 시스템은, 아무런 악의 없이도, 사람을 동요시키는 것이라면 무엇이든 증폭시키는 경향이 있습니다.

플랫폼들은 이를 수년간 알고 있었습니다. 내부 고발자 Frances Haugen이 2021년에 수천 건의 Meta 내부 문서를 공개했을 때, 그 가운데 한 묶음은 「의미 있는」 상호작용을 촉진하려던 2018년의 변경이 도리어, 회사 자신의 분석에서, 분노와 분열적 콘텐츠를 증폭시켰음을 보여 주었습니다 — 그리고 이를 지적한 직원들은 참여를 떨어뜨릴 수 있는 수정안은 받아들여지기 어렵다는 말을 들었습니다. 한 내부 메모는 그 부작용을 가감 없이 적었습니다:

허위정보, 유해성, 그리고 폭력적 콘텐츠는 재공유물 사이에서 지나칠 정도로 흔하다.

— 2021년 Facebook 내부 연구 메모, The Wall Street Journal 보도

이 가운데 어느 것도 알고리즘이 자녀를 해치도록 설계되었다거나, 더 많이 쓰면 곧장 해악으로 이어진다는 뜻은 아닙니다. 그 연결은 진정으로 논쟁 중입니다. 알고리즘 피드를 시간 순 피드로 바꿔 본 2023년의 대규모 실험들은 사람들이 보는 것은 바꾸었지만 그들의 태도는 측정 가능한 수준으로 바꾸지는 못했고, Candice Odgers 같은 발달 연구자들은 화면이 부추긴 십 대 정신건강 위기에 대한 증거가 「아니다, 작다, 그리고 엇갈린다가 뒤섞인 것」이라고 신중을 기합니다. 공정한 요약은 더 좁지만, 여전히 행동할 가치가 있습니다. 피드는 주의를 붙들도록 만들어졌고, 해로운 것을 해롭지 않은 것만큼이나 쉽게 증폭시킬 수 있으며, 회사들 자신의 연구가 오랫동안 그것을 보여 주었다는 것입니다.

피드는 어떻게 배우고 — 좁아지는가

실시간으로 행동에서 배우기 때문에, 피드는 자녀의 관심사를 단지 반영하는 데 그치지 않습니다 — 피드백 고리를 통해 그것을 빚어냅니다. 자녀가 머무는 모든 동영상은 시스템에게 「이런 걸 더」라고 말하므로, 시스템은 이런 걸 더 내보내고, 그러면 무엇이 그들을 붙드는지 찾아낼 기회를 더 많이 얻으며, 그렇게 계속됩니다. Journal의 봇 실험은 For You 페이지가 두 시간도 안 되어 한 계정의 진짜 관심사를 짚어 낸 다음, 그것을 밀접하게 관련된 콘텐츠의 점점 더 좁은 「토끼굴」로 몰아넣을 수 있었음을 밝혀냈습니다.

그 고리는 넓어지기보다 좁아지는 경향이 있습니다. 외로움, 다이어트, 또는 자기비판에 관한 콘텐츠에 단 한 번이라도 멈춘 십 대는 알고리즘에게 신호를 건넨 것이며 — 그리고 알고리즘의 일은 신호에 따라 행동하는 것이지, 이 신호에 따라 행동하는 것이 현명한지 묻는 것이 아닙니다. 알고리즘은 「나는 이걸 더 원해」와 「나는 이것에서 눈을 뗄 수 없었어」를 구분하지 못합니다. 시스템에게 그 둘은 동일합니다.

이것이 부모들이 알아채는 경험 뒤에 있는 작동 원리입니다. 어느 힘든 밤에 슬픈 동영상 몇 개를 본 십 대가, 이제는 그런 것으로 가득한 피드에서 도무지 벗어나지 못하는 듯한 경험 말입니다. 그것은 피해망상도 아니고 벌도 아닙니다. 그것은 만들어진 대로 정확히 일하고 있는 추천 엔진이며 — 사회적 피드백에 특히 민감한, 성장 중인 십 대가 그것이 돌아가는 신호를 공급합니다. 우리의 필러 가이드는 알고리즘이 어떻게 결정하는지와 그것이 만들어 낼 수 있는 토끼굴을 더 깊이 다룹니다.

그 고리가 해로워질 때

대부분의 십 대에게 대부분의 경우, 이것은 해롭지 않습니다 — 요리 영상이나 축구 하이라이트가 과도하게 내보내진 피드 정도입니다. 그것이 위험해지는 때는 그 고리가 붙잡는 콘텐츠 자체가 해로울 때, 그리고 그것을 받는 십 대가 이미 취약할 때입니다. 여기서 가장 권위 있는 증거는 어느 옹호 캠페인에서 나온 것이 아니라 — 법정에서 나온 것입니다. 2022년 런던의 한 검시관은 14세 Molly Russell이 「우울증과 온라인 콘텐츠의 부정적 영향을 겪던 중의 자해 행위」로 사망했다고 판단했고, 참여 중심 알고리즘이 그녀가 찾아 나선 적 없는 참혹한 자료를 점점 더 많은 분량으로 추천했음을 확인했습니다.

캠페인 단체들은 13세를 가장한 테스트 계정을 써서 그것이 얼마나 빠르게 일어날 수 있는지 측정해 보려 했습니다. 2022년 연구에서 Center for Countering Digital Hate는 새로 만든 「십 대」 계정이 3분도 안 되어 자살 콘텐츠를, 8분 안에 섭식장애 콘텐츠를 받았으며, 사용자명이 신체 이미지에 대한 고민을 암시한 계정은 일반 계정보다 자해 및 자살 추천을 열두 배 더 많이 받았다고 보고했습니다. Amnesty International도 2023년 실험에서, 다섯에서 여섯 시간이 지나자 한 테스트 피드의 대략 절반이 정신건강 관련 콘텐츠였고, 그 상당 부분이 잠재적으로 해로웠음을 비슷하게 발견했습니다.

그 숫자들을 신중하게 읽으십시오. 그것들은 신호를 일부러 조작한 — 슬픈 콘텐츠에 멈추고 그것을 다시 본 — 자동화된 계정에서 나온 것이지, 전형적인 십 대에게서 나온 것이 아니며, TikTok은 그것이 실제 시청을 반영하지 않는다고 주장합니다. 그 비판은 타당합니다. 그 연구들이 보여 주는 것은 모든 십 대의 피드가 어떻게 작동하는지가 아닙니다. 그것은 잘못된 신호가 주어졌을 때 그 기계가 무엇을 할 수 있는지입니다. 그리고 힘들어하는 십 대가 자기 감정을 비추는 콘텐츠에 속도를 늦추는 것은, 그러려 하지 않으면서도 바로 그 신호를 보내는 일입니다.

당신이 할 수 있는 일

알고리즘을 끌 수는 없습니다 — 대부분의 앱에서, EU 밖에서는, 순위 매김에 대한 진정한 「끄기」란 없습니다 — 하지만 당신은 느껴지는 것보다 훨씬 더 큰 영향력을 지니고 있습니다. 목표는 피드를 이기는 것이 아닙니다. 그것을 이해하고, 치우치면 재설정하며, 자녀 등 뒤에서 단속하는 대신 자녀와 함께 그것을 이끌어 가는 것입니다. 감시가 아니라 비계라고 생각하십시오.

• 작동 방식을 설명하십시오. 가장 보호가 되는 일 중 하나는, 피드가 자기 주의를 붙들도록 만들어졌고 모든 멈춤에서 배운다는 것을 아는 십 대입니다. 그 기계를 들여다볼 수 있는 십 대는 그 안에 가두기가 훨씬 더 어렵습니다 — 그리고 그 대화는 어떤 설정보다 더 중요합니다.
• 치우치면 피드를 재설정하십시오. TikTok에서는 For You 피드를 새로고침해 추천을 처음부터 다시 시작할 수 있고, Instagram에는 「Reset suggested content」 옵션이 있으며, YouTube에서는 시청 기록을 지우고 일시중지하면 개인화된 홈페이지가 사라집니다. 어느 것도 영구적이지 않습니다 — 피드는 다시 쌓입니다 — 하지만 재설정은 나쁜 소용돌이를 끊어 줍니다.
• 일부러 훈련시키십시오. 「Not interested」를 쓰고, 망설이지 말고 팔로우를 끊고 음소거하며, 더 보고 싶지 않은 콘텐츠는 빠르게 지나치십시오. 머무는 것이 한 표이므로, 일부러 머물지 않는 것은 진짜 도구입니다 — 자녀에게 그것을 쓰는 법을 보여 주십시오.
• 팔로우 전용 또는 시간 순 피드를 시도해 보십시오. Instagram의 Following 피드와 YouTube의 Subscriptions는 순위가 매겨진 대신 시간 순으로 게시물을 보여 주고, Instagram의 Favorites는 자녀가 고른 소수의 계정으로 피드를 좁히며, TikTok의 Following 탭은 그들이 고른 계정으로 한정합니다 — 모두 For You보다 차분하지만, 앱들은 기본적으로 알고리즘 피드로 다시 열리는 경향이 있습니다.
• 필터와 십 대 기본 설정을 쓰십시오. TikTok의 키워드 필터와 Restricted Mode, 그리고 Instagram의 Sensitive Content Control은 콘텐츠 범주 전체를 줄여 줍니다. Instagram Teen Accounts는 야간 알림 제한과 함께 더 엄격한 콘텐츠 및 연락 기본값을 적용하고, TikTok은 18세 미만에게 하루 60분 기본값을 설정합니다 — TikTok Family Pairing을 통해 더 단단한 제한을 걸지 않는 한, 단호한 차단이라기보다 마찰에 가깝습니다.
• 잠을 보호하고, 피드 밖의 세계를 풍요롭게 유지하십시오. 알고리즘이 쥔 힘의 상당 부분은 그저 기회입니다 — 늦은 밤의 끝없는 스크롤. 침실에서 폰을 치우는 것, 그리고 고개를 들 만한 가치가 있는 삶은 그 어떤 단일 토글보다 더 많은 일을 합니다.

그 목록에 없는 것을 눈여겨보십시오. 은밀한 모니터링 앱, 또는 자녀의 실제 활동을 시야 밖으로 밀어내는 갑작스러운 금지 말입니다. 목표는 시스템을 이해하고, 그것이 무언가 무서운 것을 내밀 때 부모를 찾아오는 십 대이지 — 숨기는 법을 배운 십 대가 아닙니다. 더 넓은 그림을 위해서는 소셜 미디어와 십 대 정신건강에 대한 우리 가이드와 부모가 할 수 있는 일에 관한 필러 가이드를 참고하십시오.

자주 묻는 질문