딥페이크란 무엇인가? AI가 사진, 영상, 목소리를 위조하는 방식

딥페이크란 실제로 무엇인가

대부분의 부모는 이 단어를 헤드라인에서 처음 접합니다. 그런 말을 한 적 없는 유명인, 거기 선 적 없는 정치인, 결코 자기 것이 아닌 몸에 올라간 같은 반 아이의 얼굴. 헤드라인은 실제이지만, 거기에는 빈틈이 남습니다. 부모가 실제로 쓸 수 있는 실용적 정의가 없는 것입니다. 그것이 없으면 이상한 사진은 모두 무해해 보이거나 불길해 보이며, 어느 쪽 추측도 자녀에게 도움이 되지 않습니다.

딥페이크(두 단어로 딥 페이크라고 쓰기도 합니다)는 실제 인물이 결코 하지 않은 행동이나 말을 그럴듯하게 보여주도록 인공지능이 만들어 내거나 변형한 합성 미디어, 즉 이미지나 영상, 또는 음성 클립을 말합니다. 브리태니커 백과사전은 이를 “현실에 존재하지 않는 것이나 결코 일어난 적 없는 사건을 묘사하는” 합성 미디어로 정의합니다. 이 단어 자체는 그것을 구동하는 AI 기법인 딥러닝과 페이크를 합친 혼성어이며 — 이 단어는 지금 그것이 영향을 미치는 청소년들보다도 어립니다.

이 용어는 2017년 말, 한 레딧 사용자가 “r/deepfakes”라는 서브레딧을 만들고 그곳에 얼굴을 교체한 영상을 올리기 시작하면서 등장했고, 이로써 이 범주 전체에 이름이 붙었습니다. 채 10년도 되지 않아 그것은 인터넷의 외진 구석에서 학교 복도의 문제로 옮겨 왔습니다. 그 속도가 중요합니다. 자녀가 함께 살아가는 기술은 부모가 그에 관해 들어 온 대부분의 조언보다 더 새롭습니다.

이제 하나의 명칭이 세 가지 서로 다른 것에 걸쳐 있습니다. 다른 몸에 합성된 얼굴, 짧은 녹음에서 복제된 목소리, 그리고 가장 느슨한 끝자락에서는 그 누구의 것도 아닌 얼굴입니다. 엄밀히 말하면 딥페이크는 실제 인물을 흉내 내거나 변형합니다. 완전히 지어낸 얼굴은 가까운 사촌으로, 가짜 프로필과 사기에서 같은 방식으로 쓰이는 합성 미디어입니다. 이들을 하나로 묶는 것은 어떻게 만들어졌느냐가 아니라 무엇을 이루어 내느냐입니다. 즉, 믿길 만큼 진짜 같은 결과입니다. 청소년을 위한 AI 위험을 다루는 기둥 안내는 각각을 오래된 위험이 증폭된 형태로 다룹니다. 이 안내는 딥페이크 그 자체에 머무릅니다. 그것이 무엇이고, 어떻게 만들어지며, 왜 갑자기 어디에나 있게 되었는가에 말입니다.

딥페이크는 실제로 어떻게 만들어지는가

자녀를 그것으로부터 보호하기 위해 만드는 법을 알 필요는 없습니다 — 그리고 이 안내는 만드는 법을 설명하지 않을 것입니다. 그러나 큰 틀의 작동 원리를 이해하는 부모는 훨씬 속이기 어렵고, 회의적인 청소년에게 위험을 설명하는 데도 훨씬 능합니다. 거의 모든 딥페이크의 중심에는 하나의 단순한 발상이 있습니다. AI 모델에게 얼굴이나 목소리의 실제 사례를 충분히 보여 주면, 그것은 그럴듯한 새 것을 만들어 내는 법을 배운다는 것입니다.

가장 잘 알려진 방법은 생성적 적대 신경망, 즉 GAN으로, 2010년대 중반에 등장했을 때 이 기술의 전환점이 되었습니다. 두 AI 모델이 사실상 위조자와 검사관의 게임처럼 서로 맞붙는데, 위조자는 검사관이 더 이상 잡아내지 못할 때까지 계속 나아집니다.

딥페이크는 흔히 생성적 적대 신경망(GAN)을 사용해 만들어지며, 여기서는 서로 다른 두 AI 딥러닝 모델이 일종의 추측 게임 속에서 함께 작동합니다. 한 모델은 실제 이미지나 영상의 가능한 한 최선의 복제본을 만들어 내고, 다른 모델은 그 복제본이 가짜인지 탐지하며, 오류를 발견하면 원본과의 차이를 보고합니다.

— 브리태니커 백과사전, “딥페이크”

더 새로운 시스템은 — 이제 이미지·영상 도구에서 흔히 쓰이는 — 확산 모델을 사용하는데, 이는 무작위 잡음에서 시작해 그것을 한 단계씩 다듬어 설명에 들어맞는 이미지로 만들어 갑니다. 얼굴 교체 영상은 다시 또 다른 도구에 의존하는 경향이 있는데, MIT 슬론이 “변분 오토인코더”라 부르는 신경망으로, 얼굴을 압축된 패턴으로 줄였다가 다른 사람의 머리 위에 재구성하도록 훈련됩니다. 목소리는 한 사람이 말하는 방식을 흉내 낼 수 있을 때까지 모델에 실제 녹음을 먹여 복제합니다. 세부는 다르지만 원리는 다르지 않습니다. 기계에 실제의 무언가를 충분히 보여 주면, 그것은 가짜의 무언가를 제조해 낼 것입니다.

기술적 세부는 어떤 부모도 따라잡을 수 없을 만큼 빠르게 움직입니다 — 그리고 따라잡을 필요도 없습니다. 무해한 사진 필터와 숙제 도우미를 구동하는 바로 그 모델 계열이 학대 또한 구동하며, 바로 그래서 이 기술은 차단하기가 그토록 어렵고, 그래서 유용한 질문은 “어떻게 금지할 것인가”가 아니라 “우리가 보고 있는 것을 어떻게 검증할 것인가”입니다.

실제로 마주치게 될 세 가지 형태

부모에게 유용한 분류는 기술적인 것이 아닙니다. 그것은 무엇이 도착하느냐에 관한 것입니다 — 자녀의 휴대전화로, 부모 자신의 음성 사서함으로, 또는 단체 채팅방으로 말입니다. 세 가지 형태가 거의 모든 것을 아우릅니다.

경계는 흐려집니다. 하나의 가짜 프로필이 합성된 얼굴에 복제된 목소리를, 그리고 “증거”로 제시되는 얼굴 교체 클립을 결합할 수도 있습니다. 그 마지막 형태가 바로 AI가 고전적인 캣피싱을 재구성하는 방식입니다 — 기둥 안내는 AI로 만든 캣피싱 인격을 상세히 다룹니다. 그러나 형태에 이름을 붙이는 것이 자녀가 받은 구체적인 것을 판단하는 첫걸음입니다.

왜 갑자기 값싸고 빠르고 쉬워졌는가

컴퓨팅 역사의 대부분 동안, 얼굴을 그럴듯하게 위조하는 데는 스튜디오와 예산, 그리고 전문가가 필요했습니다. 두 가지가 그것을 바꾸었습니다. 첫 번째는 이미 설명한 기술적 도약, 즉 2010년대 중반에 등장한 생성 기법입니다. 두 번째는 유통이었습니다. 무료로 내려받을 수 있는 도구와 서비스들이 비전문가의 진입 장벽을 꾸준히 낮춘 것입니다. 한때 스튜디오와 전문가를 필요로 했던 일이 훨씬 더 접근하기 쉬워졌습니다.

부모에게 가장 중요한 변화는 속도가 아니라 원재료입니다. 딥페이크는 이제 시작점으로 사적이거나 약점이 될 만한 이미지를 더는 필요로 하지 않습니다. 필요한 것은 얼굴이 담긴 평범한 사진뿐입니다 — 졸업 앨범이나 팀 명단, 친구의 게시물, 공개 프로필, 또는 오래된 계정에 이미 들어 있는 그런 종류 말입니다. FBI는 악의적 행위자들이 “보통 어떤 개인의 소셜 미디어 계정이나 공개된 인터넷에서 가져오거나 피해자에게서 요청해 받은 사진이나 영상”을 가져다 그 사람이 결코 하지 않은 무언가로 바꾼다고 경고합니다. 그 원재료는 어느 청소년이든 온라인에 남기는 평범한 디지털 발자국이며 — 그래서 더 작고 더 사적인 발자국이 몇 안 되는 현실적 보호 중 하나입니다. 게시한 것이 결코 청소년의 잘못이었기 때문이 아니라 말입니다.

숫자가 그 확산을 따라갑니다. 딥페이크에 대한 최초의 실제 집계인 딥트레이스의 2019년 보고서는 온라인의 딥페이크 영상 14,678건을 셈했는데, 이는 일곱 달 전 수치의 거의 두 배였고, 그중 96%가 동의 없는 음란물이었습니다. 2023년에 이르러 신원 확인 기업 섬섭은 단 한 해 동안 자사가 탐지한 딥페이크가 열 배로 늘었다고 보고했습니다. 두 집계는 서로 다른 것을 측정합니다 — 온라인의 영상 대 신원 확인 과정에서 잡힌 가짜 — 그러나 같은 방향을 가리킵니다. 불과 몇 년 만에 합성 미디어는 신기한 구경거리에서 대규모 문제로 변했습니다.

청소년은 실제로 어디에서 딥페이크와 마주치는가

자녀가 보는 AI로 변형된 미디어의 대부분은 무해합니다 — 얼굴 필터, 장난 더빙, 나이를 어려 보이게 하는 효과 같은 것들입니다 — 그리고 그 모두를 위협으로 취급하면 부모는 신뢰만 잃을 뿐입니다. 해악은 바로 그 합성 미디어 기법이 사칭하거나 모욕하거나 사취하거나 강요하는 데 쓰일 때 시작되며, 그것은 알아볼 수 있는 몇 개의 문을 통해 청소년에게 닿습니다.

• 사기 전화와 메시지 복제된 목소리가 “가족 비상” 전화를 구동합니다. FTC는 경고합니다. 사기꾼에게 필요한 것은 “짧은 음성 클립…뿐이며, 이는 온라인에 게시된 콘텐츠에서 얻을 수 있다”라고 말입니다. 수화기 너머의 목소리는 친척의 것일 수도 — 또는 부모를 속이기 위해 복제된 자녀의 것일 수도 있습니다.
• 가짜 친밀한 이미지 평범한 사진이 노골적인 가짜로 바뀐 것입니다. 이는 실제 학교들을 덮쳤습니다. 2023년 말 뉴저지의 한 고등학교 학생이 같은 반 친구들의 나체 이미지를 위조하는 데 AI를 사용한 혐의로 고발되었고 — 피해 소녀 중 한 명은 자신이 표적이 된 서른 명 이상 중 하나였다고 말했습니다. 그런 사진 속의 아이는 잘못한 것이 없습니다. 그것을 만든 사람이 잘못한 것입니다. 기둥 안내는 딥페이크 누드와 “누디파이” 앱을 온전히 다룹니다.
• 성착취 협박 더 이상 실제 사진을 필요로 하지 않는 협박입니다. FBI는 미성년자를 포함한 피해자들이 흔히 “자신의 이미지가 복제되고 조작되어 유포된 사실을, 다른 누군가가 알려 줄 때까지 모르고 있었다”라고 보고합니다. AI 기반 성착취 협박을 참고하십시오.
• 괴롭힘 가짜 클립, 가짜 “증빙”, 그리고 모욕적인 이미지가 한 학년에 돌아다니는 것입니다 — 합성된 “증거”로 더 그럴듯해진 또래 괴롭힘입니다. 이는 사이버 괴롭힘 안에 정확히 자리합니다.
• 가짜 사람 캣피싱 프로필 뒤에 있는 합성된 얼굴과 인격으로, 낯선 사람을 그럴듯한 청소년처럼 보이게 합니다. 온라인 속 사람이 실재하는지 확인하는 우리의 안내는 여전히 적용됩니다 — 다만 이제 더 힘껏 작동해야 할 뿐입니다.

그 규모는 실재하지만 잘못 읽기 쉽습니다. 2024년 전미 실종·착취 아동 센터는 생성형 AI가 연루된 신고가 1,325% 증가한 것을 기록했고, 2024년과 2025년에 걸쳐 AI로 생성된 아동 성 학대 자료의 직접 피해자 275명 이상을 확인했는데 — 가해자는 흔히 이미 그 아이의 삶 속에 있던 사람이었습니다. 2025년의 원자료 총계는 그보다 훨씬 더 커 보이지만, NCMEC는 그 양의 대부분이 단일 신고 출처에서 나온 것이며 조치를 취하기에 충분한 세부가 없었다고 경고합니다. 이런 사례들은 읽기 힘듭니다. 그러나 그것들은 또한 견뎌 낼 수 있는 일이며, 대응 방법도 잘 확립되어 있습니다.

자녀가 표적이 된 적이 없어도 왜 이것이 중요한가

모든 청소년에게, 표적이 되었든 아니든 닿는 더 조용한 결과가 있습니다. 여러 세대 동안 “내 두 눈으로 똑똑히 봤다”라는 말은 논쟁의 끝이었습니다. 딥페이크는 그 시대를 끝냅니다. 어떤 이미지든 가짜일 수 있게 되면 두 가지가 동시에 일어납니다. 거짓이 믿기 더 쉬워지고 — 그리고 더 해롭게도 — 진실이 부정되기 더 쉬워집니다.

역설적이게도, 자신의 실제 말과 행동에 대한 책임을 회피하려는 거짓말쟁이들은 대중이 딥페이크가 제기하는 위협에 대해 더 잘 알게 될수록 오히려 더 신뢰받게 될 것이다.

— Bobby Chesney 및 Danielle Citron, “Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security,” California Law Review (2019)

법학자들은 이것을 거짓말쟁이의 배당금이라 부릅니다. 일단 가짜가 존재한다는 것을 모두가 알게 되면, 진짜 영상도 “아마 AI일 것”이라며 일축될 수 있습니다. 청소년에게 이는 진짜 괴롭힘 스크린숏이 조작된 것으로 묵살되거나, 진심 어린 사과가 부정되는 일을 뜻할 수 있습니다. 딥페이크의 해악은 가짜 그 자체만이 아닙니다 — 그것은 진짜인 모든 것에 드리우는 의심입니다. 전체 논의는 California Law Review에서 읽을 수 있습니다.

본능적으로는 가짜를 가려내는 법을 배우려 합니다. 전형적인 단서들 — 어색한 손, 이상한 치아, 어긋나는 조명, 부자연스러운 깜빡임 — 을 알아 두는 것은 가치가 있지만, 그것은 점점 무뎌지는 기술입니다. MIT의 미디어 랩은 “단 하나의 명확한 징후는 없다”라고 단호히 말하며, 2025년에 연구진이 실제 세계의 가짜를 상대로 탐지 도구를 시험했을 때 그 정확도는 가파르게 떨어졌습니다 — 기술이 계속 발전하는 가운데서도 말입니다. 오류를 가려내는 것은 여전히 유용하지만, 더는 충분하지 않습니다.

그래서 목표가 바뀝니다 — 가짜를 가려내는 데서 출처를 검증하는 쪽으로 말입니다. 그것은 한 가정이 길러 낼 수 있는 습관이며, 날카로운 눈에 의존하지 않습니다.

이 가운데 어느 것도 자녀가 자기 휴대전화를 두려워하게 만들 필요는 없으며, 부모가 법의학 분석가가 되어야 할 필요도 없습니다. 필요한 것은 공유된 규칙 하나 — 반응하기 전에 검증하라 — 와 그것을 본보기로 보일 만큼 차분한 부모입니다. 이 안내의 나머지는 위험을 하나씩 짚어 갑니다. 가짜 친밀한 이미지가 어떻게 만들어지고 대응되는지, AI 성착취 협박이 어떻게 작동하는지, 음성 복제 사기가 어떻게 가정에 닿는지, 그리고 AI가 캣피싱을 어떻게 재구성하는지를 말입니다. 그 작동 원리를 한 번 이해하고 나면, 그 각각은 더 이상 수수께끼가 아니라 계획이 있는 문제가 됩니다.

자주 묻는 질문