Apa Itu Deepfake? Bagaimana AI Memalsukan Foto, Video, dan Suara

Apa sebenarnya deepfake itu

Kebanyakan orang tua pertama kali bertemu kata ini di sebuah judul berita — selebritas yang tidak pernah mengatakan hal itu, politikus yang tidak pernah berdiri di sana, wajah teman sekelas pada tubuh yang bukan miliknya. Judul-judul itu nyata, tetapi mereka meninggalkan sebuah celah: definisi kerja yang benar-benar bisa dipakai orang tua. Tanpa itu, setiap foto ganjil tampak entah tidak berbahaya entah jahat, dan tidak satu pun dari dua tebakan itu membantu remaja Anda.

Sebuah deepfake (juga ditulis sebagai dua kata, deep fake) adalah sepotong media sintetis — sebuah gambar, video, atau klip audio — yang dibuat atau diubah oleh kecerdasan buatan sehingga secara meyakinkan menampilkan orang sungguhan melakukan atau mengatakan sesuatu yang tidak pernah mereka lakukan. Encyclopædia Britannica mendefinisikannya sebagai media sintetis “that portray something that does not exist in reality or events that have never occurred.” Kata itu sendiri merupakan paduan dari deep learning, teknik AI yang menggerakkannya, dan fake — dan kata itu lebih muda daripada para remaja yang kini terkena dampaknya.

Istilah ini muncul pada akhir 2017, ketika seorang pengguna Reddit membuat subreddit bernama “r/deepfakes” dan mulai mengunggah video tukar wajah di sana, sehingga memberi nama bagi seluruh kategori ini. Dalam kurang dari satu dekade ia telah berpindah dari sudut tersembunyi internet menjadi masalah di koridor sekolah. Kecepatan itu penting: teknologi yang dihidupi remaja Anda lebih baru daripada kebanyakan nasihat yang sudah didengar orang tua tentangnya.

Satu label kini terbentang melintasi tiga hal yang berbeda — wajah yang ditempelkan ke tubuh lain, suara yang dikloning dari rekaman singkat, dan, di tepinya yang paling longgar, wajah yang bukan milik siapa pun. Secara ketat, deepfake meniru atau mengubah orang yang sungguhan; wajah yang sepenuhnya direka adalah sepupu dekat — media sintetis yang dipakai dengan cara yang sama, dalam profil palsu dan penipuan. Yang menyatukan mereka bukanlah bagaimana mereka dibangun melainkan apa yang mereka capai: hasil yang cukup autentik untuk dipercaya. Panduan pilar tentang risiko AI bagi remaja memperlakukan masing-masing sebagai versi yang diperkuat dari bahaya yang lebih lama; panduan ini tetap pada deepfake itu sendiri — apa itu, bagaimana ia dibuat, dan mengapa ia tiba-tiba ada di mana-mana.

Bagaimana deepfake sebenarnya dibuat

Anda tidak perlu tahu cara membuatnya untuk melindungi remaja Anda darinya — dan panduan ini tidak akan menjelaskan caranya. Tetapi orang tua yang memahami mekanisme garis besarnya jauh lebih sulit dibohongi, dan jauh lebih mampu menjelaskan risiko itu kepada remaja yang skeptis. Di pusat hampir setiap deepfake ada satu gagasan sederhana: tunjukkan kepada model AI cukup banyak contoh asli sebuah wajah atau suara, dan ia belajar menghasilkan contoh baru yang meyakinkan.

Metode yang paling terkenal adalah generative adversarial network, atau GAN — titik balik dalam teknologi ini ketika ia muncul pada pertengahan dekade 2010-an. Dua model AI diadu satu sama lain dalam sesuatu yang pada dasarnya adalah permainan pemalsu-dan-pemeriksa, dan sang pemalsu terus membaik sampai sang pemeriksa tidak lagi bisa menangkapnya.

Deepfakes are often produced using generative adversarial networks (GANs), in which two different AI deep-learning models work together in a guessing game. One of the models creates the best possible replica of a real image or video and the other detects whether the replica is fake and, if it detects an error, reports on the differences between it and the original.

— Encyclopædia Britannica, “Deepfake”

Sistem yang lebih baru memakai diffusion model — kini lazim dalam perkakas gambar dan video — yang dimulai dari derau acak dan menyempurnakannya, langkah demi langkah, menjadi gambar yang cocok dengan sebuah deskripsi. Video tukar wajah cenderung bergantung pada perkakas yang berbeda lagi — sebuah jaringan yang MIT Sloan gambarkan sebagai “variational auto-encoder,” yang dilatih untuk memampatkan sebuah wajah menjadi pola yang ringkas dan membangunnya kembali pada kepala orang lain. Sebuah suara dikloning dengan memberi model rekaman asli sampai ia bisa meniru cara seseorang berbicara. Detailnya berbeda; prinsipnya tidak. Tunjukkan kepada mesin cukup banyak sesuatu yang asli, dan ia akan memproduksi sesuatu yang palsu.

Detail teknisnya bergerak lebih cepat daripada yang bisa diikuti orang tua mana pun — dan ia tidak perlu diikuti. Keluarga model yang sama yang menggerakkan filter foto tak berbahaya dan pembantu pekerjaan rumah juga menggerakkan penyalahgunaannya, dan justru itulah sebabnya teknologi ini begitu sulit ditutup rapat, serta mengapa pertanyaan yang berguna bukanlah “bagaimana saya melarangnya” melainkan “bagaimana kita memverifikasi apa yang sedang kita lihat.”

Tiga bentuk yang akan benar-benar Anda jumpai

Bagi orang tua, taksonomi yang berguna bukanlah yang teknis. Ia tentang apa yang tiba — di ponsel remaja Anda, di kotak pesan suara Anda sendiri, atau di sebuah obrolan grup. Tiga bentuk mencakup hampir segalanya.

Batas-batasnya mengabur: sebuah profil palsu mungkin memadukan wajah sintetis dengan suara yang dikloning dan klip tukar wajah yang ditawarkan sebagai “bukti.” Bentuk terakhir itulah cara AI membangun kembali catfish klasik — pilar membahas persona catfish buatan AI secara terperinci. Tetapi menamai bentuknya adalah langkah pertama dalam menilai hal spesifik yang telah dikirimkan kepada remaja Anda.

Mengapa ia tiba-tiba menjadi murah, cepat, dan mudah

Sepanjang sebagian besar sejarah komputasi, memalsukan sebuah wajah secara meyakinkan membutuhkan sebuah studio, sebuah anggaran, dan seorang spesialis. Dua hal mengubah itu. Yang pertama adalah lompatan teknis yang sudah dijelaskan — metode generatif yang muncul pada pertengahan dekade 2010-an. Yang kedua adalah distribusi: perkakas dan layanan gratis yang dapat diunduh yang secara mantap menurunkan ambang bagi non-pakar. Apa yang dulu memerlukan studio dan spesialis kini menjadi jauh lebih mudah diakses.

Perubahan yang paling penting bagi orang tua bukanlah kecepatan melainkan bahan mentah. Sebuah deepfake tidak lagi memerlukan gambar pribadi atau yang memberatkan untuk memulainya. Ia hanya memerlukan foto biasa sebuah wajah — jenis yang sudah ada di buku tahunan, daftar tim, unggahan teman, profil publik, atau akun lama. FBI memperingatkan bahwa pelaku jahat mengambil “photos or videos — typically captured from an individual’s social media account, open internet, or requested from the victim” — dan mengubahnya menjadi sesuatu yang tidak pernah dilakukan orang itu. Bahan mentahnya adalah jejak biasa yang ditinggalkan setiap remaja secara daring — itulah sebabnya jejak yang lebih kecil dan lebih privat adalah salah satu dari sedikit perlindungan praktis, bukan karena mengunggah pernah menjadi kesalahan remaja itu.

Angka-angka mengikuti penyebarannya. Sensus deepfake sungguhan yang pertama, laporan Deeptrace tahun 2019, menghitung 14.678 video deepfake daring — hampir dua kali lipat angka tujuh bulan sebelumnya, dan 96% di antaranya adalah pornografi tanpa persetujuan. Pada 2023 perusahaan verifikasi identitas Sumsub melaporkan kenaikan sepuluh kali lipat pada deepfake yang dideteksinya dalam satu tahun. Kedua penghitungan itu mengukur hal yang berbeda — video daring versus pemalsuan yang tertangkap dalam pemeriksaan identitas — tetapi keduanya mengarah ke arah yang sama: dalam hanya beberapa tahun, media sintetis telah berubah dari keingintahuan menjadi masalah berskala massal.

Di mana remaja benar-benar menjumpai deepfake

Sebagian besar media yang diubah AI yang dilihat remaja Anda tidak berbahaya — filter wajah, sulih suara lelucon, efek pengubah usia — dan memperlakukan semua itu sebagai ancaman hanya akan merugikan kredibilitas Anda. Bahaya dimulai ketika teknik media sintetis yang sama dipakai untuk menyamar, mempermalukan, menipu, atau memaksa, dan ia menjangkau remaja melalui segelintir pintu yang bisa dikenali.

• Panggilan dan pesan tipuan Suara yang dikloning menggerakkan panggilan “darurat keluarga.” FTC memperingatkan bahwa seorang penipu hanya butuh “a short audio clip … which he could get from content posted online.” Suara di seberang sambungan bisa jadi suara seorang kerabat — atau suara remaja Anda, yang dikloning untuk mengelabui Anda.
• Gambar intim palsu Foto biasa yang diubah menjadi pemalsuan eksplisit. Ini telah menimpa sekolah-sekolah sungguhan: pada akhir 2023 seorang siswa di sebuah SMA New Jersey dituduh menggunakan AI untuk memalsukan gambar bugil teman-teman sekelasnya — salah satu anak perempuan mengatakan ia termasuk di antara lebih dari tiga puluh yang menjadi sasaran. Anak dalam foto semacam itu tidak melakukan kesalahan apa pun; orang yang membuatnyalah yang salah. Pilar membahas gambar bugil deepfake dan aplikasi “nudify” secara lengkap.
• Sextortion Pemerasan yang tidak lagi memerlukan gambar sungguhan. FBI melaporkan bahwa korban, termasuk anak di bawah umur, sering kali “unaware their images were copied, manipulated, and circulated until it was brought to their attention by someone else.” Lihat sextortion yang digerakkan AI.
• Perundungan Klip palsu, “bukti” palsu, dan gambar memalukan yang diedarkan di kalangan satu angkatan — pelecehan oleh teman sebaya yang dibuat lebih meyakinkan oleh “bukti” sintetis. Ini berada tepat di dalam perundungan siber.
• Orang palsu Wajah dan persona sintetis di balik profil catfish, membuat orang asing tampak seperti remaja yang meyakinkan. Panduan kami untuk memeriksa apakah seseorang di dunia maya itu nyata tetap berlaku — ia hanya harus bekerja lebih keras sekarang.

Skalanya nyata tetapi mudah disalahbaca. Pada 2024 National Center for Missing & Exploited Children mencatat kenaikan 1.325% pada laporan yang melibatkan AI generatif, dan sepanjang 2024 dan 2025 ia mengidentifikasi lebih dari 275 korban langsung dari materi pelecehan seksual anak yang dihasilkan AI — sering kali dilecehkan oleh seseorang yang sudah ada dalam kehidupan anak itu. Total mentah tahun 2025 tampak jauh lebih besar lagi, tetapi NCMEC mengingatkan bahwa sebagian besar volume itu berasal dari satu sumber pelaporan dan kurang detail untuk ditindaklanjuti. Kasus-kasus ini sulit untuk dibaca. Namun mereka juga dapat dilewati, dan responsnya sudah mapan.

Mengapa hal ini penting, bahkan jika remaja Anda tidak pernah jadi sasaran

Ada konsekuensi yang lebih senyap yang menyentuh setiap remaja, jadi sasaran atau tidak. Selama berbagai generasi, “saya melihatnya dengan mata kepala sendiri” adalah akhir dari sebuah perdebatan. Deepfake mengakhiri era itu. Ketika gambar apa pun bisa palsu, dua hal terjadi sekaligus: hal-hal palsu menjadi lebih mudah dipercaya, dan — yang lebih merusak — hal-hal yang benar menjadi lebih mudah disangkal.

Ironically, liars aiming to dodge responsibility for their real words and actions will become more credible as the public becomes more educated about the threats posed by deep fakes.

— Bobby Chesney & Danielle Citron, “Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security,” California Law Review (2019)

Para ahli hukum menyebut ini sebagai dividen pembohong: begitu semua orang tahu pemalsuan itu ada, sebuah video sungguhan bisa dikesampingkan sebagai “mungkin AI.” Bagi seorang remaja itu bisa berarti tangkapan layar perundungan yang asli ditampik sebagai rekaan, atau permintaan maaf yang sungguhan diingkari. Kerugian deepfake bukan hanya pemalsuannya itu sendiri — melainkan keraguan yang ia tebarkan atas segala sesuatu yang nyata. Anda bisa membaca argumen selengkapnya di California Law Review.

Naluri kita adalah belajar mengenali pemalsuan. Ada gunanya mengetahui tanda-tanda klasik — tangan yang aneh, gigi yang ganjil, pencahayaan yang tidak cocok, kedipan yang tidak wajar — tetapi itu keahlian yang kian memudar. Media Lab MIT terus terang menyatakan bahwa “tidak ada satu pun tanda yang pasti,” dan ketika para peneliti menguji perkakas deteksi terhadap pemalsuan dunia nyata pada 2025, akurasinya menurun tajam — bahkan saat teknologinya terus membaik. Mengenali kesalahan masih berguna, tetapi tidak lagi cukup.

Jadi tujuannya bergeser — dari mengenali pemalsuan menjadi memverifikasi sumbernya. Itu adalah kebiasaan yang bisa dibangun sebuah keluarga, dan ia tidak bergantung pada mata yang tajam.

Tidak satu pun dari ini menuntut remaja Anda untuk takut pada ponsel mereka, dan tidak satu pun dari ini menuntut Anda untuk menjadi seorang analis forensik. Ia menuntut sebuah aturan bersama — verifikasi sebelum Anda bereaksi — dan orang tua yang cukup tenang untuk meneladaninya. Sisa panduan ini berlanjut risiko demi risiko: bagaimana gambar intim palsu dibuat dan ditangani, bagaimana sextortion AI bekerja, bagaimana penipuan kloning suara menjangkau keluarga Anda, dan bagaimana AI membangun kembali catfish. Pahami mesinnya sekali saja, dan masing-masing dari itu berhenti menjadi misteri dan berubah menjadi masalah yang ada rencananya.

Pertanyaan yang sering diajukan