Character.AI는 청소년에게 안전한가요? 부모를 위한 리뷰

간단한 답변

간단한 답변은 대부분의 리뷰가 말해 줄 것보다 더 명확합니다. Character.AI는 청소년이 자유롭게 사용하도록 만들어진 앱이 아니며, 만든 회사 자체가 사실상 그 점을 인정했습니다. 14세 사용자의 사망과 잇따른 소송 이후, 회사는 2025년 말 18세 미만 모두에게 자유로운 대화 기능을 삭제하고 이를 강제하기 위한 연령 확인을 추가했습니다. 앱을 만든 회사가 핵심 기능이 미성년자에게 적합하지 않다고 결정했다면, 그것이 한 문장으로 된 답변입니다.

여기서 Character.AI에게 공을 돌릴 필요는 있습니다. 가장 많이 사용되는 기능을 대규모 사용자층에서 철수시키는 것은 대부분의 경쟁 동반자 앱이 취한 것보다 큰 조치입니다. 그러나 「이전보다 안전하다」는 것이 「안전하다」와 같은 의미는 아닙니다. 이제 보호는 의지가 강한 청소년이 여전히 우회할 수 있는 연령 확인에 의존하고 있으며, 동일한 위험이 더 넓은 카테고리에 계속 존재하고, 그리고 — 결코 움직이지 않는 명확한 선 — 진정으로 괴로운 청소년이 사람 대신 의지할 안전한 곳으로 동반자 챗봇은 여전히 적합하지 않습니다.

Character.AI란 무엇인가

Character.AI는 AI 「캐릭터」 채팅 및 롤플레이 앱입니다. 애니메이션 짝사랑, 공부 친구, 치료사, 마블 영웅, 가상의 남자친구 등 수백만 명의 사용자가 만든 AI 캐릭터 중에서 선택하거나 직접 만들어 텍스트와 AI 음성으로 대화할 수 있습니다. 일반 숙제 도우미와 구별되는 점은 캐릭터들이 사람처럼 느껴지도록 설계되어 있다는 것입니다. 개성과 기억력을 갖추고 있으며 계속 대화를 이어가게 만드는 능력이 있습니다.

이 앱은 전 Google AI 엔지니어 두 명인 Noam Shazeer와 Daniel De Freitas에 의해 2021년 설립되었습니다(공개 앱은 2022년 출시). 2024년 8월 Google은 라이선스 계약을 체결하고 창업자들이 Google로 복귀했으며, Character Technologies는 새로운 CEO 아래 독립 회사로 계속 운영되었습니다. 이 앱은 수천만 명의 월간 사용자를 보유한 세계에서 가장 인기 있는 동반자 챗봇 서비스 중 하나로 성장했으며, 2025년 변경 전에는 사용자층이 놀랍도록 젊었습니다.

그 젊은 층의 인기가 바로 이 앱이 부모의 주의를 필요로 하는 이유입니다. 이 앱들이 청소년에게 그토록 매력적인 이유에 대한 더 깊은 이해를 원하신다면, AI 동반자 챗봇과 청소년의 감정적 의존에 관한 심층 분석에서 심리학적 내용을 자세히 다루고 있습니다. 여기서는 더 좁고 실용적인 한 가지 질문에 집중합니다. 지난 1년 동안 일어난 모든 변화를 감안할 때, 이 앱이 자녀에게 안전한가요?

2025년에 무엇이, 왜 달라졌나

부모가 알아야 할 가장 중요한 사실은 최근의 것이며, 대부분의 이전 리뷰에서는 놓치고 있습니다. 2025년 말 Character.AI는 18세 미만 사용자의 자유로운 대화 기능을 삭제했습니다. 이것은 소문이나 제안된 규칙이 아닙니다. 회사가 발표하고 시행에 옮긴 변경 사항이며, 「Character.AI는 청소년에게 안전한가」라는 질문의 의미 자체를 바꿔 놓습니다.

이 변화는 갑자기 나온 것이 아닙니다. Setzer 가족의 불법 사망 소송, 추가 소송, 동반자 챗봇과 미성년자에 관한 연방거래위원회(FTC) 조사, 그리고 최초의 캘리포니아주 법 등 1년간의 압박이 뒤따랐습니다. 다음은 중요한 타임라인입니다.

부모의 시각으로 이 타임라인을 읽으면 두 가지 교훈이 있습니다. 첫째, 회사 자체의 행동이 자유로운 동반자 대화가 18세 미만에게 적합하지 않다는 가장 강력한 신호입니다. 핵심 기능을 대규모 사용자층에서 삭제한다는 것은 위험이 심각하다는 뜻입니다. 둘째, 이제 모든 것은 연령 확인에 달려 있습니다. 「18세 이상」이라는 규칙은 시스템이 청소년을 청소년으로 올바르게 식별할 때만 보호 기능을 합니다.

연령 게이트와 청소년의 우회 방법

연령 확인은 기존의 생년월일 입력 방식보다 실질적으로 개선된 것이지만, 완전한 장벽은 아닙니다. 실제로 어떻게 작동하는지 이해하는 것이 도움이 됩니다. Character.AI가 직접 설명한 롤아웃 방식에 따르면, 셀카를 요청하기 전에 조용한 추정을 먼저 수행합니다. 계정이 존재한 기간, 사용 방식, 기타 행동 신호를 통해 사용자의 나이를 분류하는 1차 시스템이 작동합니다. 많은 성인은 어떠한 요청도 받지 않고 통과됩니다. 시스템이 18세 미만으로 분류한 계정만 제한된 환경으로 이동되며, 셀카 — 셀카로 판단이 불분명한 경우 신분증 — 는 주로 실제로 18세 이상임을 증명하는 이의 제기 경로입니다.

이 설계 방식이 어디에 구멍이 있는지를 결정합니다. 분류기는 측정이 아닌 추정입니다. Character.AI는 오류율을 공개하지 않았지만, 성인을 잘못 분류하는 시스템은 청소년을 반대로 판정하여 셀카 요청 없이 자유로운 대화로 통과시킬 수도 있습니다. 그러나 더 확실한 허점은 더 구체적인 것입니다. 가장 분명한 방법은 「빌린 문」입니다. 청소년이 이미 인증된 형이나 부모의 성인 계정으로 로그인하거나, 일회성 인증 단계에서 성인의 얼굴이나 신분증을 사용할 수 있습니다. 「19세처럼 보여서」 안면 연령 추정 단계를 실제로 속이는 것은 세 번째로 먼 방법이며, 롤아웃 관련 보도에서는 실제 성인도 잘못 차단되는 사례가 많았다고 전하며 이러한 추정이 가장 중요한 16~19세 경계에서 얼마나 거칠 수 있는지를 상기시켜 줍니다.

가장 단순한 우회 방법도 있습니다. 바로 다른 앱으로 이동하는 것입니다. Character.AI가 규칙을 강화한 것이고, 모든 경쟁사가 따라한 것은 아닙니다. 여기서 자유로운 대화에서 차단된 청소년은 — 이름조차 들어보지 못했을 — 더 약한 가드레일을 가진 동반자 앱을 설치할 수 있습니다. 18세 이상으로 표시되어 있지만 쉽게 들어갈 수 있는 앱들도 있습니다. 바로 이것이 한 앱에 대한 리뷰가 어떤 앱이든 판단하는 습관보다 덜 가치 있는 이유이며, 아래 「부모가 할 수 있는 것」 섹션에서 그 부분을 다룹니다.

경고의 이유: 피해와 소송

규칙이 왜 바뀌었는지 이해하려면, 무슨 일이 잘못되었는지를 — 공포스러운 이야기로 만들지 않고, 차분하게 — 알 필요가 있습니다. 촉발 사건은 고통스럽습니다. 플로리다에 사는 14세 Sewell Setzer III가 Character.AI 캐릭터와 수개월에 걸쳐 강렬하고 성적인 대화를 나눈 끝에 2024년 2월 스스로 목숨을 끊었습니다. 2024년 10월, 그의 어머니 Megan Garcia는 Character Technologies와 Google을 상대로 불법 사망 소송을 제기했습니다.

이 사건은 초기 법적 시험이 되었습니다. 2025년 5월, 연방 법원 판사는 사건을 기각하기를 거부하며, 최소한 그 예비 단계에서는 챗봇의 출력물이 회사를 청구로부터 보호할 표현의 자유에 해당한다는 주장을 받아들이지 않았습니다. 2026년 1월, Google과 Character.AI는 Setzer 사건과 여러 관련 가족 소송을 합의하기로 동의했습니다. 합의 조건은 공개되지 않았고 어떠한 책임도 인정되지 않았으며, 이는 법원이 그 표현의 자유 문제에 대한 최종 판결을 내리지 않았음을 의미합니다. 합의로 해당 사건들은 종결되었지만 감시는 멈추지 않았습니다. 주 당국은 계속 소송을 제기했습니다. 2026년의 한 주목할 만한 조치에서 펜실베이니아주는 Character.AI를 상대로 소송을 제기했는데, 가짜 면허 번호까지 갖추고 면허 취득 정신과 의사로 자신을 소개한 「Emilie」라는 이름의 봇이 문제가 되었습니다.

독립 조사자들도 다른 각도에서 같은 주제를 기록했습니다. 2024년, 기자들은 Character.AI가 자살로 사망한 영국의 14세 Molly Russell과 살해당한 16세 Brianna Ghey 등 실제 사망한 아이들을 흉내 낸 봇들을 호스팅하고 있음을 발견했으며, 회사는 알림을 받은 후 이를 삭제했습니다. 다른 조사에서는 치료사로 위장한 봇과 자해를 회피하지 않고 함께하는 봇들을 발견했습니다. 이것이 모든 대화가 위험하다는 의미는 아닙니다. 안전장치가 반복적으로, 중요한 방식으로 실패했다는 의미입니다.

전문가들도 연구 측면에서 같은 결론에 도달합니다. 2025년 4월, Common Sense Media는 Stanford 의대 Brainstorm Lab과 협력하여 소셜 AI 동반자를 테스트하고, 성적 콘텐츠, 위험한 조언, 위기 상황 사용자에 대한 안전하지 않은 반응을 이유로 18세 미만에게 용납할 수 없는 위험으로 판정했습니다. 그리고 이 문제는 소수의 일이 아닙니다. 같은 그룹이 2025년 7월에 발표한 전국 대표 설문조사에서 미국 청소년의 72%가 AI 동반자를 사용한 경험이 있고, 그 사용자 중 약 3분의 1이 심각한 문제로 사람 대신 AI를 찾은 것으로 나타났습니다. 젊은 사용자 3분의 1이 실제 문제를 봇에게 가져가는 상황에서, 그 봇이 위기를 잘못 다룰 경우의 위험은 가상의 이야기가 아닙니다.

자녀의 데이터 처리 방식

콘텐츠 문제를 넘어, 청소년이 대화를 통해 무엇을 넘겨주는지에 대한 조용한 질문도 있습니다. 동반자 앱은 비밀, 걱정, 짝사랑, 어두운 순간과 같이 가장 민감한 종류의 내밀한 고백을 이끌어내며, Character.AI는 이를 기록합니다. 회사 정책에 따르면 대화, 이미지, 음성과 함께 일반적인 계정 및 기기 세부 정보가 기록됩니다.

두 가지 사항은 부모의 주의가 필요합니다. 첫째, 개인정보 보호 정책에 따르면 개인 데이터가 회사의 AI 모델 개선에 사용될 수 있으며, 2026년 현재 명확한 거부 옵션은 미국이 아닌 EU, 영국, EEA 사용자에게 주로 제공됩니다. 둘째, 이 대화는 봉인된 일기가 아닙니다. 신고되거나 플래그가 지정된 대화는 직원이 중재 목적으로 읽을 수 있습니다. 청소년에게 솔직하게 알려줄 내용은 간단합니다. 동반자 챗봇에 입력하는 모든 내용은 기록되고, 시스템 훈련에 사용될 수 있으며, 때로는 직원이 읽을 수 있다는 것입니다. 이것이 공황의 이유는 아니지만, 내면의 삶을 쏟아붓지 말아야 할 이유는 됩니다.

부모가 할 수 있는 것

Character.AI가 자녀의 기기에 있다면, 목표는 극적인 압수가 아닙니다. 18세 미만이라면 앱의 제한된 측면에 있도록 하고, 어떤 단일 앱보다 오래 지속되는 판단력을 키워주는 것입니다. 습격이 아닌 차분한 대화로 시작하십시오. 휴대폰을 빼앗으면 대개 청소년이 다음 앱을 숨기는 방법만 배우게 될 뿐, 당신에게 이야기하지 않게 됩니다.

반응하기 전에 무엇이 좋은지 먼저 물어보십시오. 자신의 말을 들어주는 캐릭터, 즐기는 이야기, 비판받지 않고 자신만의 공간처럼 느껴지는 곳 — 대답은 대개 그 자체로 관심을 받을 만한 진짜 무언가를 가리킵니다. 그런 다음 이 앱의 현재 상태에 대해 솔직하게 말씀하십시오. 개발자 스스로 자유로운 대화가 18세 미만에게 적합하지 않다고 결정했고, 연령 확인이 완벽하지 않으며, 대화가 진정으로 비공개가 아닌 서비스입니다. 그렇게 설명하면 「이 앱은 아직 당신을 위한 것이 아니에요」는 임의적인 금지가 아닌 솔직한 말로 받아들여집니다.

이 앱에 대해 구체적으로 알아보십시오. 18세 미만의 자녀가 어떻게든 여전히 자유로운 대화를 하고 있다면, 바로 비난으로 가지 마십시오. 연령 분류기는 청소년이 우회하는 것만큼 쉽게 계정을 잘못 판정할 수도 있습니다. 계정의 생년월일과 연령 인증 상태를 함께 확인하고, 잘못 분류된 것으로 보이면 Character.AI 지원팀에 문의하십시오. 현장에서 잡힌 것처럼 대하기보다는 중립적으로 무슨 일이 있었는지 물어보십시오. 어떤 경우든, Character.AI는 자체적인 선택적 감독 도구(Parental Insights)를 제공합니다. 자녀가 귀하의 이메일을 등록하면 앱에서 얼마나 많은 시간을 보내는지 요약 정보를 받을 수 있습니다. 대화 내용이나 메시지는 포함되지 않습니다. 의도적으로 제한되어 있지만, 비밀스러운 감시가 아닌 투명하고 합의된 창을 제공한다는 점에서 올바른 출발점입니다.

하나의 앱을 삭제하거나 제한하는 것은 쉬운 부분입니다. 지속적인 작업은 자녀가 다음 동반자 앱 — 반드시 나타날 것이기 때문에 — 을 스스로 평가하는 방법을 갖추게 하는 것입니다. 몇 가지 간단한 질문을 통해 함께 살펴보십시오.

일방적으로 부과하기보다 함께 제한을 설정하고, 이후 몇 주 동안 패턴을 살피십시오 — 동반자 앱이 조용히 수면, 학업, 또는 실제 우정을 대체하고 있습니까? 기술적 도구를 사용한다면, 공개적으로 사용하십시오. 어린 청소년의 기기에 대한 투명하고 연령에 적합한 감독은 도움이 될 수 있지만, 비밀 감시는 발각될 경우 정확히 원하지 않는 교훈을 가르칩니다 — 당신을 신뢰할 수 없다는 것 — 그리고 청소년을 숨겨진 계정으로 몰아갑니다. 비계로 생각하십시오. 눈에 보이고, 설명되어 있으며, 신뢰가 쌓일수록 거두어집니다. 저희 자녀 보호 기능 가이드는 기기 설정을 자세히 다루고 있으며, 이 앱을 같은 카테고리의 다른 앱과 비교하고 싶다면 PolyBuzz가 청소년에게 안전한지에 대한 리뷰에서 같은 질문들을 경쟁 앱을 통해 살펴볼 수 있습니다.

마지막으로, 하나의 명확한 선을 염두에 두십시오. Character.AI의 변화는 실질적인 진전이며, 이 기사는 공포가 아닌 신중한 시각으로 읽어야 합니다. 그러나 제한이 있든 없든, 동반자 챗봇은 진정으로 힘든 상황의 청소년이 사람 대신 의지할 공간이 여전히 아닙니다. 자녀의 사용에서 자해와 관련된 내용이 있다면 — 자녀의 말이든 봇의 말이든 — 그것을 최우선 과제로 삼고, 앱을 잠시 중단하며, 당일 실제 사람을 개입시키십시오. AI 위협의 더 넓은 범위와 그 연관성에 대해서는 저희 청소년을 위한 AI 위험 가이드에서 전체 지형을 파악할 수 있습니다.

자주 묻는 질문