Risiko AI bagi Remaja: Deepfake, Pendamping AI, dan Manipulasi Sintetis

Apa itu deepfake, dan betapa mudahnya kini dibuat

Sepanjang sebagian besar dekade terakhir, orang tua yang khawatir tentang remajanya di dunia daring memiliki model mental yang sebagian besar masih berlaku: seorang asing dapat berbohong tentang siapa dirinya, foto asli dapat dibagikan tanpa persetujuan, percakapan asli dapat diputarbalikkan. Ancamannya serius, tetapi semuanya berjalan di atas bahan yang nyata. Yang diubah kecerdasan buatan bukanlah daftar bahayanya. Yang berubah adalah pasokan bahan mentahnya. Ancaman itu tidak lagi membutuhkan sesuatu yang nyata sebagai titik awal.

Sebuah deepfake adalah potongan media sintetis — sebuah gambar, video, atau klip audio — yang dibuat atau diubah oleh kecerdasan buatan sehingga secara meyakinkan menampilkan orang yang nyata melakukan atau mengatakan sesuatu yang sebenarnya tidak pernah mereka lakukan. Istilah ini mencakup wajah yang ditukar ke tubuh orang lain, suara yang dikloning dari rekaman singkat, dan wajah yang tidak dimiliki oleh siapa pun. Yang menyatukan semuanya adalah bahwa hasilnya terlihat cukup otentik untuk dipercaya, dan bahwa membuatnya kini hanya butuh aplikasi konsumen dan beberapa menit, alih-alih sebuah studio dan seorang ahli.

Dua fakta tentang ini penting bagi orang tua. Pertama adalah biaya: membuat media sintetis yang meyakinkan telah runtuh dari tugas spesialis menjadi sekadar tindakan murah, cepat, dan tinggal klik. Yang kedua adalah masukannya. Sebuah deepfake tidak membutuhkan foto pribadi atau yang memberatkan sebagai titik awal. Ia hanya membutuhkan foto wajah yang biasa saja — persis foto-foto yang hampir sudah diunggah setiap remaja, atau yang muncul di buku tahunan, daftar tim olahraga, atau feed seorang teman.

Sisa panduan ini memperlakukan setiap ancaman AI dengan cara yang sama: bukan sebagai bahaya baru yang tidak dapat dimengerti, melainkan sebagai risiko lama yang mungkin sebagian sudah dipahami orang tua, kini dilucuti dari gesekan yang dulu memperlambatnya. Pahami apa yang sedang diperkuat oleh masing-masing, dan ia berhenti menjadi misterius.

Citra telanjang deepfake dan aplikasi “nudify”

Yang paling sulit dibicarakan dari ancaman ini juga merupakan salah satu yang paling umum, jadi pantas dijelaskan secara terus terang. Kategori alat AI yang berkembang — sering dipasarkan sebagai aplikasi “nudify” — ada untuk mengambil foto biasa orang berpakaian dan menghasilkan gambar telanjang palsu dari orang tersebut. Ketika orang dalam foto itu adalah remaja, hasilnya adalah gambar seksual seorang anak yang dihasilkan AI, dan membuat atau membagikannya merupakan kejahatan serius di semakin banyak yurisdiksi, apa pun yang disiratkan pemasaran aplikasi tersebut.

Penting untuk memahami siapa yang biasanya melakukan hal ini. Liputan media bisa membuatnya terdengar seperti pekerjaan jaringan kriminal yang jauh, dan kadang-kadang memang demikian. Tetapi sebagian besar insiden deepfake telanjang yang melibatkan remaja dibuat oleh remaja lain — seorang teman sekelas, mantan, seseorang yang menyimpan dendam — menggunakan aplikasi yang mereka temukan dalam satu sore. Penyalahgunaannya datang bukan dari orang asing yang misterius melainkan dari dunia sosial tempat remaja Anda sudah hidup. Itulah yang membuatnya menyebar cepat di sebuah sekolah, dan yang membuatnya begitu melukai.

Mengapa remaja menjadi target? Sebagian karena bahan mentahnya begitu tersedia: remaja mengunggah lebih banyak gambar diri mereka daripada kelompok lain mana pun, dan satu foto wajah yang jelas sudah cukup. Sebagian karena biaya sosialnya jatuh paling keras pada usia itu, ketika reputasi dan status di antara teman sebaya terasa menentukan segalanya. Dan target itu tidak merata. Anak perempuan secara berlebihan menjadi subjek penyalahgunaan deepfake telanjang, dan kerugiannya berinteraksi dengan pola kerentanan yang berulang kembali di seri ini — seorang remaja yang terisolasi secara sosial atau neurodivergen memiliki lebih sedikit penyangga dukungan untuk menyerap kejutan dan lebih sedikit orang tepercaya untuk diberi tahu.

Insiden khas di sekolah mengikuti alur yang muram. Sebuah gambar dihasilkan dan dibagikan di obrolan grup. Ia menyebar lebih cepat daripada orang dewasa mana pun bisa mengetahuinya. Remaja yang menjadi target sering kali baru tahu paling akhir, dari reaksi orang lain, dan naluri seorang muda yang ketakutan adalah menyembunyikan — yang justru naluri itulah yang membiarkan penyalahgunaan berjalan tanpa kendali. Pada saat orang tua atau guru diberi tahu, gambar itu mungkin telah melaju jauh melampaui orang-orang yang pertama kali melihatnya.

Pola itu terdokumentasi dalam skala besar. Internet Watch Foundation Inggris, yang menghapus materi pelecehan seksual anak dari internet, telah melaporkan kenaikan pesat dalam CSAM yang dihasilkan AI yang beredar daring sejak 2023, termasuk gambar sintetis realistis yang dibangun dari foto publik biasa anak-anak yang nyata dan dapat dikenali. National Center for Missing & Exploited Children AS juga melaporkan kenaikan tajam dari tahun ke tahun dalam laporan CyberTipline yang melibatkan materi yang dihasilkan AI generatif sejak kategori ini mulai dilacak.

Inilah pesan inti yang harus diberikan kepada remaja Anda sebelum semua ini terjadi, dengan tenang dan terlebih dahulu: jika gambar eksplisit palsu tentang dirimu pernah dibuat, itu bukan kesalahanmu dan kamu tidak akan dimarahi. Pelanggarannya sepenuhnya milik orang yang membuat dan menyebarkannya. Gambar itu direkayasa; ia tidak mendokumentasikan apa pun yang dilakukan remaja Anda. Rasa malu adalah mesin penyalahgunaan ini — ia membuat target tetap diam dan membiarkan gambar itu menyebar — dan orang tua yang menghilangkan rasa malu itu lebih awal telah melakukan tindakan paling melindungi yang tersedia.

Landasan hukum telah bergeser ke pihak korban. Di Amerika Serikat, TAKE IT DOWN Act federal, yang ditandatangani menjadi undang-undang pada 19 Mei 2025, mengkriminalisasi publikasi yang disengaja atas citra intim tanpa persetujuan — termasuk secara eksplisit yang dihasilkan AI yang memenuhi syarat — dan mewajibkan platform yang tercakup untuk menindaklanjuti permintaan penghapusan yang sah dalam 48 jam; ketentuan kepatuhan platform mulai berlaku satu tahun setelah pengesahan. Undang-undang ini mencakup platform tertentu dan jenis gambar tertentu, jadi penghapusan tidak otomatis untuk setiap gambar di setiap situs, tetapi orang tua kini memiliki saluran federal selain saluran negara bagian dan platform. Sejumlah negara bagian AS juga telah mengesahkan undang-undang mereka sendiri yang secara khusus menangani deepfake seksual eksplisit terhadap anak di bawah umur.

Yurisdiksi lain telah bergerak ke arah yang sama. Online Safety Act 2023 Inggris mengkriminalisasi berbagi citra intim tanpa persetujuan, termasuk deepfake; Komisioner eSafety Australia memiliki kewenangan undang-undang untuk memerintahkan penghapusan cepat citra intim yang diposkan tanpa persetujuan; dan beberapa provinsi Kanada telah memperbarui undang-undang citra intim mereka untuk mencakup materi yang diubah secara digital atau dihasilkan AI. Kesimpulan praktisnya: ini bukan area abu-abu yang harus ditanggung remaja Anda begitu saja. Ada saluran pelaporan dan alat penghapusan, yang diuraikan di bagian akhir panduan ini.

Sextortion berbasis AI

Sextortion finansial sudah menjadi salah satu kejahatan paling agresif yang ditujukan kepada anak di bawah umur bahkan sebelum AI muncul. Sextortion finansial adalah skema di mana pelaku memperoleh gambar eksplisit seorang muda lalu mengancam akan mengirimkannya kepada keluarga, teman, dan pengikut remaja itu kecuali ia dibayar. Ia bergerak cepat dan brutal: kontak yang merayu, permintaan gambar yang dibingkai sebagai pertukaran normal, lalu, dalam hitungan menit, tuntutan uang. FBI dan mitra-mitranya telah berulang kali mengeluarkan peringatan publik tentang kenaikan tajam kejahatan ini, yang secara tidak seimbang menargetkan remaja laki-laki.

FBI dan mitra-mitranya telah memperingatkan adanya peningkatan besar dalam sextortion finansial yang menargetkan anak di bawah umur — sebuah kejahatan di mana orang muda dipaksa lewat gambar eksplisit lalu diperas demi uang — dan mendesak keluarga untuk melapor alih-alih membayar.

— FBI, National Public Safety Alert on Financial Sextortion Schemes

Skala yang disebut dalam peringatan itu bukan abstraksi. FBI melaporkan telah menerima lebih dari 7.000 laporan sextortion finansial daring terhadap anak di bawah umur, terkait dengan setidaknya 3.000 korban yang teridentifikasi — terutama remaja laki-laki — dan lebih dari selusin bunuh diri di antara anak-anak yang ditargetkan. Pemberitahuan FBI dan mitra-mitra berikutnya memperingatkan bahwa angka-angka tersebut terus naik.

Yang diubah AI adalah langkah pertamanya. Sextortion tradisional membutuhkan gambar eksplisit yang nyata, yang berarti pelaku harus memanipulasi remaja agar memproduksi dan mengirimkannya. Langkah itu memakan waktu, dan memberi remaja yang berhati-hati titik untuk menolak. Sextortion berbasis AI menghilangkannya. Pelaku kini dapat memalsukan gambar eksplisit dengan alat deepfake, dengan menggunakan hanya foto biasa yang sudah diunggah remaja, lalu mengajukan ancaman yang sama — “bayar saya, atau semua orang yang kamu kenal akan melihat ini” — tanpa remaja itu pernah mengirim apa pun.

Inilah sebabnya kalimat penenang diri remaja yang paling umum sudah berhenti bekerja. “Mereka tidak bisa memerasku, aku tidak pernah mengirim apa pun seperti itu” dulu secara luas benar. Itu tidak lagi menjadi pertahanan, karena pelaku tidak perlu remaja itu pernah mengirim apa pun. Bagi seorang remaja berusia lima belas tahun yang ketakutan menatap rekayasa wajahnya sendiri yang meyakinkan, perbedaan antara gambar asli dan sintetis hampir tidak terdaftar. Ancamannya terasa total, kepanikannya tulus, dan kepanikan itulah yang menjadi bahan bakar skema ini.

Untungnya, responsnya tidak berubah sama sekali. Apakah gambar itu asli atau direkayasa, panduannya identik, dan layak disampaikan kepada remaja Anda lebih dulu agar sudah berada di kepalanya kalau-kalau ancaman datang. Jangan membayar — pembayaran menandai remaja itu sebagai target yang mau membayar dan membawa lebih banyak tuntutan, bukan lebih sedikit. Jangan mengirim apa pun lagi. Berhenti merespons. Simpan semuanya: tangkapan layar gambar, akun, nama pengguna, pesan, tuntutan pembayaran. Lalu beri tahu orang dewasa yang dipercaya dan laporkan. Kekuatan seorang pelaku sepenuhnya bergantung pada keyakinan korban bahwa ia sendirian dan bahwa kepatuhan adalah satu-satunya jalan keluar. Tidak satu pun yang benar. Fakta bahwa gambar itu palsu, jika memang demikian, dapat membantu — tetapi bahkan ketika ia nyata, seorang remaja yang melapor tidak akan dimarahi dan tidak berada di luar jangkauan bantuan.

Satu hal lagi yang harus dinyatakan dengan tegas, karena rasa malu membuat remaja menyembunyikannya: saat orang tua paling perlu tetap tenang adalah saat ia menemukan bahwa remajanya sudah membayar, atau sudah mengirim gambar. Itu bukan kegagalan dan bukan alasan untuk marah. Itu adalah momen paling penting untuk bertindak — untuk menghentikan kontak lebih lanjut, menyimpan bukti, dan melapor — dan seorang remaja yang takut dihukum akan berhenti memberi tahu Anda.

Pendamping AI dan ketergantungan emosional

Ancaman-ancaman deepfake di atas jelas merupakan kejahatan, dengan pelaku dan korban. Risiko berikutnya berbeda jenisnya, dan lebih sulit dilihat orang tua, karena tidak ada bagian dari ini yang tampak seperti serangan. Sebuah pendamping AI adalah chatbot yang dirancang untuk berperan sebagai teman, orang kepercayaan, atau pasangan romantis — untuk mengingat penggunanya, untuk menaruh perhatian, untuk tersedia setiap saat, dan, di atas segalanya, untuk menyenangkan. Aplikasi dalam kategori ini, Character.AI di antara yang paling dikenal, digunakan oleh sangat banyak remaja.

Bermanfaat untuk memulai dengan mengapa seorang remaja menginginkannya, tanpa mengabaikannya. Masa remaja, bagi banyak orang muda, adalah masa kesepian yang intens, kecemasan sosial, dan kerja mencari tahu siapa diri mereka. Seorang pendamping yang mendengarkan tanpa menghakimi, tidak pernah bosan, tidak pernah memiliki hari buruk, dan selalu mengatakan bahwa kamu menarik menawarkan sesuatu yang nyata yang sering tidak diberikan kehidupan remaja biasa. Bagi seorang remaja yang kesepian, itu bukan ketertarikan yang sepele. Itu adalah kelegaan.

Tetapi perhatikan apa sebenarnya sang pendamping itu. Ia adalah love bombing — banjir kasih sayang dan pengakuan yang intens dan tanpa gesekan, yang oleh seri ini digambarkan sebagai tahap manipulasi manusia — tetapi otomatis, tak kenal lelah, dan tertanam di dalam produk. Seorang manipulator manusia harus memainkan kepedulian; sebuah chatbot pendamping adalah kepedulian itu sendiri, tanpa usaha dan tanpa sakelar mati. Itu bukan vonis terhadap setiap percakapan chatbot: banyak remaja menggunakan aplikasi ini secara ringan, merasanya membosankan, lalu beralih. Risikonya dimulai ketika bot menjadi saluran emosional utama seorang remaja — ketika ia bergeser dari mainan menjadi hubungan yang tidak meminta apa pun, tidak memerlukan biaya apa pun, dan tidak pernah mendorong balik.

Beberapa kerugian spesifik mengikutinya, dan layak disebutkan secara terpisah.

• Pergeseran Jam-jam dan energi emosional yang seharusnya mengalir ke persahabatan manusia yang lebih sulit dan lebih bermakna malah mengalir ke bot, yang lebih mudah — dan keterampilan manusia yang hanya dibangun dengan latihan diam-diam mandek.
• Pola yang menyimpang Hubungan dengan sesuatu yang dirancang untuk selalu setuju mengajari remaja untuk mengharapkan kesetiaan tanpa gesekan, dan membuat ketidaksepakatan normal dalam persahabatan nyata terasa seperti penolakan.
• Bimbingan yang buruk Sebuah pendamping bukanlah konselor. Saat ditanya soal menyakiti diri, gangguan makan, atau krisis, ia mungkin merespons dengan cara yang tidak membantu atau tidak aman — dan seorang remaja yang sedang tertekan mungkin mempercayainya justru karena ia tidak pernah bereaksi dengan panik.
• Isolasi dari bantuan Seorang remaja yang menceritakan segalanya kepada bot mungkin lebih sedikit menceritakannya kepada orang tua, teman, atau klinisi — dan orang-orang yang sebenarnya bisa turun tangan kehilangan pandangan tentang bagaimana keadaan remaja itu.

Remaja yang paling mungkin membentuk keterikatan yang dalam adalah mereka yang berulang kali ditandai seri ini: yang kesepian, yang cemas secara sosial, dan yang neurodivergen. Bagi seorang remaja yang merasa kehidupan sosial manusia melelahkan dan tidak dapat ditebak, sebuah pendamping yang sabar tanpa batas dan sepenuhnya dapat diprediksi bukanlah kemudahan kecil — ia bisa menjadi hubungan paling nyaman yang mereka miliki. Kenyamanan itulah sebabnya ketergantungan ini semakin dalam, dan mengapa kelompok ini layak mendapat perhatian paling dekat dan paling lembut.

Ini adalah area dengan keprihatinan yang tulus dan terus tumbuh, bukan ilmu yang telah menetap, dan orang tua sebaiknya berhati-hati terhadap kedua ekstrem — kepanikan yang memperlakukan setiap percakapan chatbot sebagai kerusakan, dan pengabaian yang memperlakukannya sebagai permainan tanpa bahaya. Aplikasi pendamping AI telah menghadapi gugatan hukum dan pengawasan regulasi mengenai keselamatan remaja. Khususnya Character.AI mengumumkan pada akhir 2025 bahwa ia akan menghapus percakapan terbuka bagi pengguna di bawah 18 tahun — langkah yang mungkin diikuti operator lain seiring lanskap regulasi yang terus berubah cepat. Respons yang mantap bukanlah vonis atas teknologinya. Itu adalah perhatian. Ketahui apakah remaja Anda menggunakan aplikasi pendamping, tetap penasaran alih-alih cemas tentang apa yang dilakukannya dalam kehidupan mereka, dan amati perbedaan antara pemakaian ringan dan sesekali dengan seorang remaja yang pusat gravitasi emosionalnya diam-diam telah pindah ke sebuah bot.

Persona catfish buatan AI

Catfishing — membangun hubungan di balik identitas yang direkayasa — selalu bergantung pada seorang manipulator yang memecahkan satu masalah praktis: membuat orang palsu itu meyakinkan. Selama bertahun-tahun itu berarti mencuri foto seseorang yang nyata, yang menciptakan kelemahan yang dapat dimanfaatkan seorang remaja yang berhati-hati. Foto curian dapat dijalankan melalui pencarian gambar terbalik dan ditemukan di akun pemilik sebenarnya. Yang palsu itu memiliki celah.

AI generatif menutup celah itu. Seorang manipulator kini dapat membuat wajah yang tidak dimiliki siapa pun — sehingga pencarian gambar terbalik tidak menghasilkan apa-apa, karena memang tidak ada aslinya. Mereka dapat menghasilkan serangkaian gambar yang konsisten dari orang rekaan itu dalam latar dan pose yang berbeda, membangun apa yang tampak seperti kehidupan nyata. Mereka dapat memproduksi klip video pendek, dan, dengan kloning suara, bahkan berbicara dengan suara yang cocok. Identitas rekaan yang dulu harus dipinjam kini dapat dibuat berdasarkan pesanan, tanpa korban nyata yang fotonya mungkin membongkar penyamarannya.

Inilah contoh paling jelas dari prinsip yang mengalir melalui seluruh panduan ini: AI tidak menciptakan bahaya baru di sini. Catfishing sudah ada, grooming sudah ada, manipulasi gaya romantis terhadap remaja sudah ada. Yang dihilangkan AI adalah gesekannya. Ia membuat yang palsu lebih meyakinkan dan pekerjaan manipulator lebih mudah, dan ia memensiunkan salah satu pemeriksaan verifikasi yang dulu diandalkan orang tua dan remaja.

Karena pemeriksaan berbasis penampilan melemah, pemeriksaan berbasis perilaku lebih penting daripada sebelumnya — dan ia tetap bekerja, karena ia tidak bergantung pada mendeteksi yang palsu. Ia bergantung pada mengamati apa yang dilakukan orang itu. Kecepatan adalah salah satunya: deklarasi cinta, pembicaraan tentang belahan jiwa, dan permintaan pertama untuk uang atau gambar yang datang dalam hitungan hari bukanlah cara keintiman remaja yang tulus berkembang, sebagus apa pun foto-fotonya terlihat. Penolakan terhadap verifikasi langsung dan tanpa naskah adalah hal lain: orang yang tidak akan memalingkan kepala, melambaikan tangan di depan wajahnya, atau melakukan sesuatu yang spontan dalam panggilan video sedang mengatakan sesuatu kepada Anda, sebaik apa pun gambar diamnya. Dan garis paling terang dari semua tidak berubah — permintaan apa pun untuk uang, kartu hadiah, mata uang kripto, gambar eksplisit, atau akses akun dari seseorang yang hanya dikenal daring sebaiknya mengakhiri hubungan dan memulai percakapan.

Karena catfishing adalah pintu masuk dari mana banyak manipulasi ini dimulai, ia memiliki panduan lengkap sendiri dalam seri ini: Catfishing dan Manipulasi Daring: Panduan untuk Orang Tua menelusuri enam tahap manipulasi, tanda-tanda peringatan, dan cara memverifikasi apakah seseorang yang dijumpai daring itu nyata. AI membuat persona itu lebih sulit dilihat tembus pandang; ia tidak mengubah alur tentang untuk apa persona itu digunakan.

Penipuan kloning suara berbasis AI

Ancaman terakhir dalam panduan ini menjangkau melampaui remaja hingga seluruh keluarga, dan layak dipahami orang tua meskipun targetnya sering kali adalah orang dewasa. Kloning suara berbasis AI mengambil sampel singkat suara seseorang yang terekam — di beberapa alat hanya beberapa detik — dan menghasilkan versi sintetis yang dapat dibuat mengatakan apa pun. Sampelnya mudah diperoleh. Suara seorang remaja ada di mana-mana di video publik yang mereka unggah; suara orang tua ada di media sosial mereka sendiri dan salam pesan suara.

Penggunaan klasiknya adalah penipuan “darurat keluarga,” sebuah penipuan lama yang dibuat AI jauh lebih berbahaya. Seorang orang tua atau kakek-nenek menerima panggilan telepon. Suaranya tidak salah lagi adalah anak atau cucu mereka, dan ia ketakutan: telah terjadi kecelakaan, penangkapan, krisis di luar negeri, dan uang dibutuhkan segera dan diam-diam. Kejutan emosional adalah senjatanya. Ia dirancang untuk mendorong pendengar melewati saat ragu-ragu dan masuk ke tindakan sebelum mereka bisa berpikir — dan suara yang dikloning menghilangkan satu petunjuk yang dulu memutus mantra itu, karena ia memang benar-benar terdengar seperti orang yang Anda cintai.

FTC telah memperingatkan bahwa penipu dapat menggunakan AI untuk mengkloning suara anggota keluarga dari klip audio singkat, lalu melakukan panggilan mendesak yang menuntut uang — dan menasihati bahwa jika Anda menerima panggilan semacam itu, tutup telepon dan verifikasi dengan menghubungi orang tersebut langsung di nomor yang Anda tahu adalah miliknya.

— U.S. Federal Trade Commission, peringatan konsumen tentang penipuan darurat keluarga berbasis AI

Dua pertahanan sederhana bertahan baik melawan ini. Yang pertama adalah kata sandi keluarga — sebuah kata atau frasa singkat yang disepakati lebih dulu, tidak pernah dituliskan daring dan tidak pernah diunggah, yang dapat diucapkan anggota keluarga sejati di telepon dalam keadaan darurat. Penelepon yang tidak dapat memberikannya tidak lolos, suara siapa pun yang dimilikinya. Yang kedua adalah sebuah kebiasaan: setiap tuntutan uang yang mendesak dan rahasia, seberapa pun meyakinkannya suaranya, adalah isyarat untuk menutup telepon dan menelepon kembali orang tersebut di nomor yang sudah Anda kenal. Keadaan darurat yang nyata bertahan dalam panggilan balik dua menit. Penipuan tidak.

Tanda peringatan dari ketiga ancaman

Ancaman-ancaman AI dalam panduan ini terbagi, bagi orang tua, ke dalam dua jenis masalah — dan tanda peringatannya berbeda untuk masing-masing. Satu jenis adalah krisis mendadak: deepfake atau ancaman sextortion yang datang dan menghasilkan kesusahan yang terlihat. Yang lain adalah pergeseran perlahan: ketergantungan pada pendamping AI yang terbentuk selama berbulan-bulan. Orang tua yang hanya mengawasi drama akan melewatkan yang kedua; orang tua yang hanya mengawasi perubahan bertahap akan tidak siap menghadapi yang pertama. Tanda-tanda di bawah ini mencakup keduanya. Seperti biasa, tidak ada satu item pun yang membuktikan apa pun — yang penting adalah sekumpulan tanda yang muncul bersamaan dalam jendela waktu yang singkat. Kedua kelompok juga meminta respons yang berbeda: tanda krisis mendadak menuntut tindakan pada hari yang sama; tanda pergeseran perlahan adalah undangan untuk percakapan yang tenang dan beberapa minggu mengamati polanya.

Tanda krisis mendadak (deepfake atau ancaman sextortion baru saja datang)

• Pergeseran mendadak dan tajam Seorang remaja yang menjadi sangat cemas, menarik diri, atau tertekan dalam satu atau dua hari, sering setelah waktu di ponselnya — ciri ancaman yang baru saja mendarat.
• Panik soal gambar atau reputasi Kesusahan yang berpusat pada apa yang dilihat orang lain, siapa yang melihatnya, atau apa yang sedang dibagikan — bahkan jika remaja Anda tidak mau mengatakan apa “itu”.
• Tekanan uang Permintaan uang, uang tunai yang hilang, pembelian kartu hadiah baru, atau aktivitas aplikasi pembayaran atau kripto yang asing — indikator kuat bahwa tuntutan sextortion atau penipuan telah dimulai.

Tanda pergeseran perlahan (hubungan daring tersembunyi atau ketergantungan pendamping)

• Kerahasiaan seputar satu aplikasi atau kontak Ponsel yang dijaga lebih ketat dari sebelumnya, satu percakapan yang dihapus setiap malam, atau akun baru di aplikasi pendamping atau perpesanan.
• Hubungan daring yang tidak pernah menjadi nyata Pasangan atau teman dekat yang ditemui daring yang tidak pernah dilihat keluarga dalam panggilan video spontan, dan yang selalu memiliki alasan mengapa pemeriksaan langsung dan tanpa naskah tidak bisa terjadi.
• Kehidupan emosional yang berpindah ke layar Seorang remaja yang lebih sedikit bercerita kepada orang dan lebih banyak kepada aplikasi, kehilangan tidur karenanya, atau menjadi mudah marah atau tertekan saat terpisah darinya — ciri perlahan dari ketergantungan pendamping.
• Penarikan diri dari teman manusia Menjauh dari persahabatan yang ada dan rutinitas luring, terutama bersamaan dengan pemakaian berat satu aplikasi AI.
• Diam membisu Seorang remaja yang sebelumnya banyak bicara yang menjadi mulus dan seragam kosong tentang bagian daring kehidupannya — diam, pada anak yang biasa menceritakan harinya, adalah informasi.

Respons dimulai dari hubungan, bukan dari perangkat. Bukalah dengan orang muda itu — tanyakan bagaimana keadaannya, apa yang ada di pikirannya — alih-alih memulai dengan apa yang Anda perhatikan di sebuah layar. Jika Anda memulai dengan perangkat, Anda mengajarkan pelajaran yang ingin diajarkan setiap manipulator: bahwa orang dewasa adalah ancaman yang harus dikelola, bukan sumber daya yang harus digunakan. Dua bagian berikutnya menjelaskan apa yang harus dilakukan setelah percakapan yang tenang terbuka.

Apa yang dapat dilakukan orang tua

Ancaman dalam panduan ini baru, tetapi pekerjaan perlindungannya sebagian besar familier, dan sebagian besarnya tidak teknis. Ia bertumpu pada tiga hal: hubungan di mana remaja akan benar-benar memberi tahu Anda ketika sesuatu salah, sekumpulan kecil percakapan yang diadakan sebelum krisis bukan setelahnya, dan beberapa pengaturan serta kebiasaan praktis. Bersama-sama hal-hal ini jauh lebih penting daripada alat tunggal mana pun.

Adakan percakapannya sejak awal. Kalimat paling kuat dalam panduan ini adalah kalimat yang Anda ucapkan lebih dulu: jika gambar palsu tentang dirimu pernah muncul, atau seseorang mengancammu dengannya, kamu tidak akan dimarahi dan kita akan menanganinya bersama. Seorang remaja yang sudah mengetahui itu jauh lebih mungkin datang kepada Anda di jam pertama, ketika bantuan paling mudah diberikan, alih-alih menyembunyikan masalahnya sampai ia membesar. Bicarakan tentang deepfake secara terus terang, sebelum insiden membuatnya mendesak. Sepakati kata sandi keluarga untuk penipuan kloning suara. Buatlah jelas bahwa garis terang — tuntutan apa pun untuk uang, gambar, atau akses akun dari kontak yang hanya dikenal daring — berlaku tak peduli sebebas apa pun orang lain itu terlihat nyata.

Sesuaikan pengaturan yang mengurangi paparan. Memperketat privasi akun media sosial remaja Anda membatasi seberapa bebas orang asing dapat memanen foto wajah yang menjadi bahan baku deepfake. Mengaudit apa yang sudah publik — tugas pendamping yang dibahas dalam panduan kami tentang jejak digital remaja Anda — juga penting di sini, karena jejak itulah pasokannya. Meninjau siapa yang dapat menghubungi dan mengirim pesan kepada mereka menutup saluran kontak pertama yang paling umum. Mengetahui aplikasi apa saja yang ada di perangkat — termasuk aplikasi pendamping AI — adalah dasar untuk percakapan yang berguna. Tidak satu pun dari ini adalah tembok, dan ini harus dilakukan bersama remaja Anda, bukan terhadap mereka, tetapi ini menurunkan pasokan mentah materi dan kontak yang menjadi sandaran setiap ancaman dalam panduan ini.

Gunakan pemantauan secara transparan, jika Anda menggunakannya. Di banyak tempat orang tua atau wali yang sah dapat menggunakan pemantauan yang sesuai usia pada perangkat anak, meskipun aturannya bervariasi menurut negara, negara bagian, dan situasi pengasuhan, jadi periksa apa yang berlaku di tempat Anda tinggal. Di tempat ada kekhawatiran keselamatan yang nyata, ia dapat menjadi lapisan perlindungan yang wajar — tetapi faktor penentunya adalah transparansi. Pengawasan tersembunyi, jika ditemukan remaja, justru menegaskan naskah manipulator bahwa orang dewasa tidak dapat dipercaya dan mendorong remaja ke perangkat tersembunyi tempat Anda tidak memiliki keterlihatan sama sekali. Pemantauan yang diketahui, dipahami, dan dijelaskan kepada remaja Anda bekerja bersama hubungan, bukan melawannya. Anggaplah seperti perancah: terlihat, proporsional, dan bertahap dilepas seiring kepercayaan dan otonomi tumbuh — bukan pengganti percakapan di atas, tetapi penopang baginya.

Ketahuilah bahwa Anda tidak harus mengikuti setiap alat. Orang tua di area ini sering merasa mereka kalah balapan dengan teknologi yang berubah lebih cepat daripada yang dapat mereka pelajari. Kebenaran yang menenangkan adalah Anda tidak perlu. Aplikasi spesifik akan terus berubah; pola dasarnya — manipulasi, pemerasan, keintiman yang direkayasa — tidak. Orang tua yang memahami pola itu, dan yang remajanya mau berbicara dengannya, sudah siap untuk alat berikutnya sebagaimana untuk yang ini.

Melaporkan penyalahgunaan AI dan mencari bantuan

Anda tidak memerlukan bukti, kepastian, atau gambaran lengkap untuk membuat laporan. Lembaga pelapor mengharapkan informasi yang tidak lengkap dan jauh lebih ingin menerima laporan yang ternyata kecil daripada melewatkan laporan yang ternyata bukan. Bagian ini adalah peta, bukan nasihat hukum; untuk apa pun yang mungkin melibatkan dakwaan pidana, konsultasilah dengan pengacara yang berkualifikasi di yurisdiksi Anda. Sebelum Anda melaporkan apa pun, simpan buktinya — tangkapan layar gambar, akun, nama pengguna, dan pesan apa pun — karena memblokir atau menghapus lebih dulu dapat menghancurkan landasan dibuatnya laporan.

Dari mana memulai bergantung pada di mana Anda berada. Kartu-kartu di bawah ini memberikan saluran pelaporan pertama menurut wilayah; rincian lengkap mengikutinya.

• Amerika Serikat Laporkan eksploitasi seksual, perayuan, atau sextortion terhadap anak di bawah umur — termasuk gambar eksplisit remaja yang dihasilkan AI — ke NCMEC CyberTipline. Untuk kejahatan yang berkomponen daring atau finansial, juga ke Internet Crime Complaint Center (IC3) FBI. Untuk kerugian penipuan, ke ReportFraud.ftc.gov.
• Britania Raya Laporkan kekhawatiran bahwa seorang anak sedang dieksploitasi daring ke CEOP, bagian dari National Crime Agency. Bantuan penghapusan gambar untuk anak di bawah 18 tahun melalui Internet Watch Foundation dan alat Report Remove dari Childline.
• Uni Eropa Gunakan saluran bantuan nasional yang relevan yang dikoordinasikan melalui jaringan INHOPE untuk konten ilegal dan eksploitasi anak.
• Di tempat lain Hubungi kepolisian nasional atau lokal Anda dan saluran bantuan perlindungan anak atau cyber-tip negara Anda; banyak saluran bantuan nasional terdaftar dalam direktori internasional INHOPE.

Di setiap wilayah, laporkan juga ke platform — tetapi perlakukan laporan ke platform sebagai tambahan untuk saluran penegakan hukum, bukan pengganti baginya. Untuk memperlambat penyebaran lebih lanjut gambar eksplisit, layanan gratis Take It Down, yang dioperasikan NCMEC, membuat hash digital yang digunakan platform peserta untuk mendeteksi dan memblokir salinan yang cocok dari gambar subjek di bawah 18 tahun — termasuk, di mana layanan dan platform peserta mendukung pencocokan konten sintetis, gambar anak di bawah umur yang dihasilkan AI. Bagi orang yang sudah di atas 18 tahun saat gambar diambil, StopNCII.org menawarkan layanan setara. Tidak satu pun dari keduanya merupakan tombol hapus universal, tetapi keduanya secara berarti memperlambat penyebaran lebih lanjut.

Untuk panduan orang tua yang berkelanjutan, organisasi nirlaba riset keselamatan anak Thorn menerbitkan riset tentang AI dan keselamatan anak; Internet Matters dan NSPCC menerbitkan materi gratis yang diperbarui secara berkala untuk keluarga; dan Pew Research Center melacak bagaimana remaja sebenarnya menggunakan teknologi.

Pertanyaan yang sering diajukan