AI 음성 복제 사기: 가짜 「가족 응급 상황」 전화

가짜 응급 상황 전화의 해부

가짜 가족 응급 상황 전화는 네 박자로 이뤄진 대본입니다. 고통에 빠진 자녀와 똑같이 들리는 목소리, 전화를 넘겨받는 낯선 사람, 지금 당장 행동하고 아무에게도 말하지 말라는 극심한 압박, 그리고 되돌릴 수 없는 결제 수단입니다. 그 밖의 모든 것 — 교통사고, 체포, 납치 — 은 이 네 가지 수(手) 주위를 꾸미는 무대 장치일 뿐입니다.

그 과정은 이렇습니다. 휴대폰이 울리는데, 발신자 표시가 위조될 수 있기 때문에 때로는 낯익은 번호로 뜹니다. 자녀의 목소리가 들립니다 — 울면서, 겁에 질려, 빠르게 말합니다. 「엄마, 나 큰일 났어.」 무언가 물어볼 틈도 없이 어른이 전화를 넘겨받습니다. 사고가 났다고 말하는 경찰관, 보석금이 필요하다는 변호사, 또는 아무에게도 전화하지 말라고 하는 납치범입니다. 그런 다음 요구가 옵니다 — 수천 달러를, 지금 당장, 전신 송금, 기프트 카드, 암호화폐로, 또는 이미 당신 집으로 오고 있는 수거책을 통해서요.

가장 잘 기록된 사례는 Jennifer DeStefano의 것입니다. 2023년 1월 20일, 이 애리조나의 어머니는 전화를 받고 15세 딸이 흐느끼는 소리를 들었습니다 — 「엄마, 나 큰일 났어」 — 그런 뒤 한 남자가 그 아이를 납치했다고 주장하며 100만 달러를 요구했다가 현금 5만 달러로 낮췄습니다. 근처 사람들이 그녀의 남편에게 연락해 딸이 스키 여행 중 안전하다는 것을 확인하면서, 그 사기는 약 4분 만에 무너졌습니다. 잃은 돈은 없었고, DeStefano는 나중에 미국 상원에서 선서 하에 그 이야기를 증언했습니다.

이제 우리는 「보는 것이 믿는 것」이라거나 「내 두 귀로 직접 들었다」는 말을 더는 믿을 수 없습니다.

— Jennifer DeStefano, 상원 법사위원회 인권·법 소위원회 증언, 2023년 6월 13일

모든 가족이 그 4분을 얻는 것은 아닙니다. 2025년 7월, 플로리다의 한 어머니는 딸이 교통사고를 설명하는 것과 똑같이 들리는 전화와 뒤이은 가짜 국선변호인의 전화를 받은 뒤 현금 1만 5,000달러를 수거책에게 건넸습니다. 그 가족은 목소리가 소셜 미디어 영상에서 복제되었다고 믿으며, 돈은 회수되지 않았습니다. 막아 낸 사례들도 그만큼 교훈적입니다. 필라델피아의 한 변호사는 며느리에게 먼저 전화를 걸어 9,000달러의 암호화폐 결제를 막았다고 상원에서 증언했고, 캘리포니아의 한 부부는 아버지가 아들이 붙잡혀 있다던 유치장에 전화를 걸어 그의 수감 기록이 없음을 확인한 덕분에 1만 5,000달러를 지켰습니다. 모든 구조에서, 누군가가 확인했습니다.

솔직한 단서 하나. 대부분의 개별 사례에서는 AI가 쓰였다고 법의학적으로 확인하는 사람은 아무도 없습니다 — 확신의 근거는 공황 속에 있던 피해자의 귀뿐입니다. 크게 기소된 몇몇 「가족 응급 상황」 조직은 소프트웨어가 아니라 사람 성대모사꾼을 썼습니다. 당신의 가족에게는 아무런 차이가 없습니다. 복제된 목소리에 맞서는 방어와 재능 있는 성대모사꾼에 맞서는 방어는 정확히 똑같고, 그것은 더 열심히 듣는 것이 아닙니다.

그 규모는 더 이상 일화가 아닙니다. FBI의 2025년 인터넷 범죄 보고서는 보고서 역사상 처음으로 AI 기반 사기를 따로 떼어 냈습니다. 신고 22,364건에 신고된 손실은 약 8억 9,300만 달러였고, 사랑하는 사람을 흉내 내는 음성 복제 「위급」 전화가 500만 달러 넘게 차지했습니다 — 이는 FBI 스스로 과소 집계라고 밝힌 수치인데, 피해자들이 흔히 AI가 관여했는지 알지 못하기 때문입니다. McAfee의 7개국 조사에서는 성인 네 명 중 한 명이 AI 음성 사기를 겪었거나 겪은 사람을 안다고 답했으며 — 표적이 된 사람의 77%가 돈을 잃었습니다.

왜 자녀의 목소리가 원재료인가

이제 목소리를 복제하는 데 음성 몇 초면 되고, 전형적인 십대의 목소리는 이미 수십 군데에서 공개되어 있기 때문입니다 — 말하는 영상, 스토리, 라이브 방송, 게임 채팅에서요. McAfee의 연구진은 한 무료 온라인 도구가 85% 일치하는 음성을 만들어 내는 데 단 3~4초의 녹음만 필요로 했음을 확인했습니다. Microsoft의 VALL-E 연구 모델은 3초 샘플로 복제하는 것을 시연했습니다. 상업용 도구가 요구하는 것도 그보다 조금 많을 뿐입니다 — 깨끗한 음성 약 1분이면 되며, 월 몇 달러짜리 구독으로 이용할 수 있습니다.

안전장치는 허술합니다. Consumer Reports가 2025년 3월 소비자용 음성 복제 제품 여섯 개를 평가했을 때, 그중 넷은 목소리를 복제할 권리가 있다고 주장하기 위해 체크박스에 표시하는 것 외에 아무것도 요구하지 않았음을 확인했습니다 — 화자가 실제로 동의했는지에 대한 기술적 확인은 전혀 없었습니다. 다시 말해, 자녀의 목소리 클립을 가진 사람은 누구든 사실상 그것을 복제할 수 있습니다.

그리고 그런 클립은 어디에나 있습니다. Pew Research Center의 2025년 조사에 따르면 미국 십대의 약 열 명 중 아홉 명이 YouTube를, 약 열 명 중 여섯 명이 TikTok과 Instagram을 사용합니다 — 그리고 말하는 영상, 스토리, 라이브 방송, 팟캐스트 출연, 공개 그룹 채팅의 음성 메모, 잘라낸 게임 파티 대화 하나하나가 잠재적 샘플입니다. 여기에 어른들이 잊는 하나를 더하십시오. 자녀 본인의 목소리로 녹음되어 어떤 발신자에게든 자동으로 재생되는 음성 사서함 인사말입니다. 기술 교육자 Sinéad Bovell이 DeStefano 사건 이후 말했듯, 대부분의 사람은 이미 온라인 어딘가에 녹음되어 있습니다 — 「특히 25세 미만이라면요.」

그래서 FBI의 지침은 공급 측면을 겨냥합니다. 생성형 AI 사기에 관한 2024년 12월 공익 안내에서, FBI는 가족들에게 「자신의 이미지나 음성이 담긴 온라인 콘텐츠를 제한하고, 소셜 미디어 계정을 비공개로 설정하며, 팔로워를 아는 사람으로 제한하라」고 권고합니다. 모든 클립을 지울 수는 없고, 공개 창작 계정을 가진 십대에게는 공개를 유지할 만한 타당한 이유가 있을 수 있습니다. 그러나 대부분의 가족은 표적을 상당히 줄일 수 있습니다.

• 기본을 비공개 계정으로 — 자녀가 공개 청중을 필요로 하지 않는 TikTok, Instagram, YouTube에서는요. 그리고 팔로워를 실제로 아는 사람으로 정리하십시오.
• 오래된 공개 음성을 함께 점검하십시오 — 자녀가 잊고 있는 초기 영상, 방송, 공개 음성 메모도 여전히 수확될 수 있습니다.
• 직접 녹음한 음성 사서함 인사말을 통신사 기본 기계음으로 바꾸십시오 — 개인화된 인사말은 깨끗하고 자동으로 재생되는 샘플을 넘겨준다고 보안 연구자들은 지적합니다.
• 조용히 받는 습관을 가르치십시오: 모르는 번호의 전화에서는 발신자가 먼저 말하게 하고 되도록 적게 말하게 하십시오 — 일부 사기꾼은 샘플을 수확하려고 대답을 녹음합니다.

이 가운데 어느 것도 자녀를 인터넷에서 숨기려는 것이 아닙니다. 그들의 목소리 중 무엇이 공개되어 있는지 알고 의도적으로 결정하는 일입니다. 더 어린 십대의 경우, 일부 부모는 그 점검을, 무엇을 어디에 올리는지에 대한 더 폭넓고 공개적으로 논의되는 연령에 맞는 모니터링에 녹여 냅니다 — 감시가 아니라 비계처럼 투명하게 이뤄질 때, 그것은 노출이라는 문제를 일회성 설교가 아니라 계속 이어지는 가족 대화로 바꿔 놓습니다.

귀를 — 또는 발신자 표시를 — 믿을 수 없는 이유

통제된 연구에서, 사람은 복제된 음성을 진짜 음성과 안정적으로 구별하지 못합니다 — 그리고 복제를 잡아내려고 만들어진 소프트웨어는 그보다 더 못합니다. 2023년 PLOS ONE에 발표된 University College London 연구는 청취자가 딥페이크 음성을 잡아낸 것이 73%에 불과했으며, 훈련이 별 도움이 되지 않았음을 확인했습니다. 2025년에 이르러 그 격차는 무너졌습니다. UC Berkeley 연구진은 사람이 AI 음성을 정확히 가려낸 것이 약 60%에 그쳤음을 — 그리고 진짜 목소리와 그 자신의 복제본을 나란히 놓고 비교했을 때는 둘을 서로 다른 화자라고 판단한 경우가 단 20%였음을 확인했습니다. 2025년 말에 보고된 Queen Mary University of London 연구는 청취자가 상업용 음성 복제본을 진짜 사람 목소리와 이제 통계적으로 전혀 구별하지 못한다고 결론지었습니다.

이제 실제 전화가 그러하듯 판을 불리하게 쌓아 보십시오. 압축된 전화 음질, 배경 소음, 울먹이는 목소리, 그리고 아드레날린이 밀려든 부모입니다. 조용한 실험실의 차분한 자원자들이 네 번 중 한 번 틀린다면, 화요일 오후 5시에 겁에 질린 부모가 기계를 청력으로 이길 수는 없습니다. 탐지 소프트웨어도 구원이 되지 못합니다 — 실제 환경의 음성 딥페이크를 다룬 2025년 벤치마크는 최고의 오픈소스 탐지기조차 실험실 밖에서는 측정된 성능이 거의 절반으로 떨어진다는 것을 확인했습니다.

전화번호도 닻이 되지 못합니다. 발신자 표시 위조는 사기꾼이 그 전화를 당신이 아는 번호에서 온 것처럼 — 자녀 본인의 번호를 포함해 — 보이게 합니다. 그러니 공황에 빠진 뇌가 가장 먼저 붙잡는 두 신호, 곧 목소리와 번호가, 바로 사기꾼이 위조할 수 있는 그 두 가지입니다.

법은, 느리게, 멀리서, 이 문제를 다루고 있습니다. FCC는 2024년 2월 로보콜에 쓰인 AI 생성 음성이 Telephone Consumer Protection Act상 「인위적인」 것이라고 판정했습니다. 테네시주의 ELVIS Act는 개인에게 자신의 목소리가 무단 복제되는 것에 대해 법적 청구권을 부여했습니다. 연방 NO FAKES Act는 2026년 6월 상원 위원회를 통과했지만 아직 법이 아닙니다. 그 어느 것도 울리는 전화를 도중에 멈추지는 못합니다. 이런 전화의 상당수는 미국의 실질적 단속이 미치지 못하는 해외에서 걸려 오고, 크게 보도된 벌금조차 납부되지 않은 채 남아 있습니다. 이것이 이 글이 딛고 선 하나의 결론으로 이어집니다. 복제본을 탐지하려는 시도를 멈추고 — 사람을 확인하십시오. 검증 규칙은 당신의 가족이 온전히 통제할 수 있는 유일한 방어이며, 전화선 너머의 목소리가 AI든, 성대모사꾼이든, 진짜 당신의 자녀든 상관없이 작동합니다.

가족 안전 암호를 정하세요 — 자녀를 위해서가 아니라 자녀와 함께

가족 안전 암호를 정하려면, 추측할 수 없는 한 단어나 문구를 함께 고르고, 위기 상황에서 전화하는 사람은 누구든 그것을 대야 한다는 데 합의하고, 1년에 두어 번 연습하십시오. 이것은 이제 공식 지침입니다. 생성형 AI 사기에 관한 FBI의 조언은 「신원을 확인할 수 있도록 가족과 함께 비밀 단어나 문구를 만들라」는 것이며 — 가상 납치 전화에 관한 2025년 경고에서도 거의 그대로 반복되었습니다.

그 암호를 소리 내어 말할 수 있는 비밀번호처럼 설계하십시오. National Cybersecurity Alliance와 보안 연구자들은 같은 설계 규칙으로 수렴합니다. 조사로 알아낼 수 있는 것은 안 됩니다 — 반려동물 이름, 생일, 거리 이름, 응원 팀, 또는 캡션이나 소개란에 한 번이라도 등장한 것은 안 됩니다. 오직 직접 만나서, 또는 신뢰하는 채널로만 공유하고, 어디에도 절대 게시하지 마십시오. 보안 전문가들은 한 단어보다 짧은 네 단어 이상의 문구가 낫고, 겁에 질린 아이가 긴장 속에서도 기억할 만큼 쉬워야 한다고 덧붙입니다. 식탁을 벗어난 적 없는 사적인 농담 — 「보라색 팬케이크가 내 숙제를 먹었어」 — 이 알맞은 형태입니다.

규칙 하나가 보호의 대부분을 감당합니다. 암호는 발신자가 대야 합니다 — 당신이 먼저 말해서는 안 됩니다. Identity Theft Resource Center의 CEO Eva Velasquez는 사기꾼이 너무 놀라 기억이 안 난다고 주장하며 당신이 대신 말하도록(「그 팬케이크 얘기 맞지?」) 미끼를 던져 감정을 악용한다고 경고합니다 — 그 순간 암호는 타 버립니다. 자녀처럼 들리는 목소리가 암호를 대지 못하면, 전화를 끊고 그들의 진짜 번호로 거십시오. 그것이 규칙의 전부이며, 진짜 자녀에게는 아무런 대가도 들지 않습니다. 그들은 암호를 알고 있으니까요.

이제 어떤 보안 기관도 대신 해 주지 않을 부분입니다. 열다섯 살짜리가 이 일을 진지하게 받아들이게 만드는 것이죠. 이것을 아이의 안전이 아니라 가족의 기반 설비로 제시하십시오 — 오직 그들에 관한 일이 아니기 때문입니다. 같은 대화는 이런 식으로 들립니다. 「이제 사기꾼은 TikTok 클립 하나로 누구의 목소리든 위조할 수 있어 — 내 목소리까지도. 혹시 내가 돈을 애원하는 것처럼 들리는 전화를 받게 되면, 네가 확인할 방법을 갖고 있으면 좋겠어. 그래서 양방향으로 작동하는 암호가 필요해. 네가 골라.」 십대에게 암호를 고르게 하는 것은 두 가지를 동시에 해냅니다. 또 하나의 부모 규칙이 아니라 그 규칙의 주인이라는 느낌을 주고, 위협 모델을 조용히 가르쳐 줍니다. 대부분의 십대는 보호받는 대신 부모를 보호할 기회를 제안받으면, 그 일을 맡습니다.

저는 암호라는 발상이 마음에 듭니다. 단순하고, 전화를 받는 사람이 물어볼 정신만 차리고 있다면 무력화하기가 쉽지 않기 때문입니다.

— Hany Farid, UC Berkeley 디지털 포렌식 연구자, Scientific American, 2024년 5월

같은 인터뷰에서 Farid가 덧붙인 단서는 가족들이 건너뛰는 단계입니다. 비밀번호와 달리 안전 암호는 거의 쓰이지 않아서 잊힌다는 것입니다. 그것을 연습하십시오 — 여섯 달에 한 번쯤 저녁 식사 자리에서 불쑥 물어보고, 모두가 얼마나 빨리 대는지 시간을 재고, 자녀가 당신에게 불시 훈련을 걸게 하십시오. 1년에 두 번, 2분이면, 중요한 순간에 그 반사 반응이 존재합니다.

자녀가 그 전화를 받을 때 — 그리고 할머니가 받을 때

같은 사기가 거꾸로 진행될 수도 있습니다. 당신처럼 들리는 공황에 빠진 목소리가 자녀를 겨냥하는 것이죠. 증거에 관해 정확히 말하자면 — 지금까지 문서로 기록된 미국 사례는 자녀 목소리로 부모에게 거는 방향이며, 복제된 부모의 목소리가 십대에게 쓰인 확인된 사건은 찾지 못했습니다. 그러나 FBI의 경고 표현은 방향을 가리지 않으며(「가까운 친척을 사칭」), 보안 업체들은 아이가 전화에 이의를 제기할 수 있도록 자녀와 암호를 공유하라고 명시적으로 권고하고, 자녀의 전화번호는 흔히 당신 것보다 찾기 쉽습니다. 그들에게 이를 갖춰 주는 데는 아무 비용도 들지 않으며, 이미 그들이 지닌 규칙을 씁니다.

당신이 배운 것과 같은 방식으로 그 훈련을 가르치십시오. 신호는 소리가 아니라 상황에 있습니다. 긴급성, 비밀 유지, 그리고 돈이 한 통의 전화 안에 함께 도착하는 것입니다. 대응은 기계적입니다 — 전화를 끊고, 저장된 엄마나 아빠의 번호로 걸고, 그것이 안 되면 문자를 보내고, 다른 부모, 형제자매, 또는 부모의 직장을 시도하고 — 어떤 어른에게도 전혀 닿을 수 없다면 911에 전화하십시오. 그리고 그들에게 건네줄 규칙 하나. 비밀 유지를 요구하는 발신자는 — 전화를 끊지 말고 아무에게도 말하지 마, 숨어, 휴대폰을 꺼 — 당신을 도우려는 것이 아닙니다. 그 조합 자체가 신호입니다 — 아동 안전 교육자들은 이를 분명하게 말합니다. 아무에게도 연락하지 말라는 요구가 곧 사기입니다. 이것이 중요한 이유는 십대가 직접 표적이 되어 왔기 때문입니다. 널리 보도된 한 「사이버 납치」에서 — 음성 복제는 전혀 없이 그저 전화로 강압한 것인데 — 사기꾼들은 17세 교환학생을 텐트에 고립시킨 채 그의 부모에게서 8만 달러를 뜯어냈습니다.

그런 다음 전화를 한 통 더 하십시오 — 조부모에게요. 「손주가 곤경에 빠졌다」는 전화 사기는 AI보다 수십 년 앞서며, 수확된 자녀의 클립은 그 사기가 가장 취약했던 바로 그 지점, 곧 목소리를 한 단계 끌어올립니다. Washington Post는 결과의 양쪽에 선 가족들을 기록했습니다 — 기민한 은행 지점장에게 제지당한 할머니, 그리고 아들의 것으로 들리는 목소리를 들은 뒤 비트코인으로 2만 1,000캐나다 달러를 잃은 또 다른 가족입니다. 경찰서들은 이제 부모와 조부모에게 걸려 오는 가짜 사고·납치 전화에서 아이들의 복제된 목소리에 관한 여러 신고를 접수하고 있습니다. 조부모에게는 위협 모델이 필요하지 않습니다 — 두 문장이 필요할 뿐입니다. 「우리 중 누군가가 곤경에 빠진 것처럼 들리는 전화가 오면, 가족 암호를 물어봐. 그런 다음 전화를 끊고, 발신자가 뭐라고 하든 우리 평소 번호로 다시 걸어.」

전화가 오면 — 그리고 이미 돈이 나갔다면

의심스러운 전화가 오면 무엇보다 먼저 확인하십시오. 이미 돈이 움직였다면 그 무엇보다 속도가 중요합니다. 통화 중이라면, FTC의 조언은 단호합니다. 목소리를 믿지 마십시오.

• 아무것도 흘리지 마십시오. 이름이나 관계를 확인해 주지 마십시오 — 「어느 손주? Tommy?」라는 말은 사기꾼에게 대본을 쥐여 줍니다.
• 안전 암호를 물어보고 침묵이 이어지게 두십시오. 머뭇거림, 얼버무림, 또는 「너무 놀라서요」가 곧 당신의 답입니다.
• 전화를 끊고 다시 거십시오 — 저장해 둔 번호로, 방금 걸려 온 번호로는 절대 하지 마십시오. 그 번호는 위조될 수 있습니다. 연락이 안 되나요? 문자, 다른 가족, 또는 진짜 당사자만이 답할 수 있는 질문을 시도하십시오.
• 그들이 안전한지 확인할 수 없나요? 다른 전화기로 911이나 지역 경찰에 전화해 그 통화에 대해 알리십시오 — 있을지 모를 납치나 사고를 확인하는 것이야말로 그들이 존재하는 이유입니다.
• 결제 수단을 판결로 여기십시오: 전신 송금, 기프트 카드, 암호화폐, 결제 앱, 또는 집으로 오는 수거책은 사기를 뜻합니다 — 진짜 경찰서, 병원, 법원은 걸려 온 응급 전화로 그런 방식의 지불을 요구하지 않습니다.

이미 돈이 나갔다면, 이 순서로 움직이십시오. 기프트 카드: 발행사에 즉시 전화하고, 카드와 영수증을 보관하십시오 — 일부 발행사는 아직 쓰이지 않은 카드를 환불해 줄 수 있습니다. 전신 송금: 송금 회사와 은행에 곧바로 전화해 그 이체를 사기로 신고하고 취소를 요청하십시오. 암호화폐는 대개 되찾을 수 없지만 — 그래도 신고하십시오. 그런 다음 FBI에 ic3.gov로 신고하고 — 신고서에 AI 음성 복제가 관여했다고 밝히십시오. FBI의 AI 사기 통계는 피해자가 그렇게 표시한 사례만 집계하기 때문입니다 — FTC에는 ReportFraud.ftc.gov로, 그리고 지역 경찰에도 신고하십시오. 모든 신고는 FBI 스스로 과소 집계라고 말하는 범죄의 공적 실태를 더 선명하게 만들어 줍니다.

마지막으로, 가족에게 남는 여파를 살피십시오. 돈을 낸 부모나 조부모는 어수룩한 사람이 아닙니다 — 그들은 자녀의 목소리를 들었고, 그 목소리는 우리가 그들이 쓰지 않았다고 탓하는 바로 그 판단력을 우회하도록 설계되어 있었습니다. 그리고 수확된 음성이 자녀의 공개 영상에서 나온 것이라 해도, 그것 또한 자녀의 잘못이 아닙니다. 잘못은 체크박스 하나로 누구의 목소리든 복제하는 도구에 있습니다. 탓하지 않고 상황을 정리하고, 규칙을 갱신하고, 그 시도를 문손잡이를 하나하나 돌려 보는 도둑을 대하듯 여기십시오. 불안하지만, 알려 주는 바가 있고, 이겨 낼 수 있는 일이라고요. 합성 미디어가 십대에게 어떻게 이르는지 — 가짜 이미지와 영상까지 포함해 — 더 넓은 지도를 보려면, 딥페이크란 무엇인가와 십대를 위한 AI 위험 가이드를 참고하십시오.

자주 묻는 질문