Gençler için Yapay Zekâ Riskleri: Deepfake'ler, YZ Yoldaşları ve Sentetik Manipülasyon

Deepfake'ler nedir ve nasıl bu kadar kolaylaştılar

Son on yılın büyük bölümünde, gencinin internet hayatı için kaygılanan bir ebeveynin elinde çoğunlukla işe yarayan zihinsel bir model vardı: bir yabancı kim olduğu konusunda yalan söyleyebilirdi, gerçek bir fotoğraf rıza dışı paylaşılabilirdi, gerçek bir konuşma çarpıtılabilirdi. Tehditler ciddiydi, ama gerçek malzemenin üzerinde yürüyorlardı. Yapay zekânın değiştirdiği şey tehlikelerin listesi değil. Ham madde arzıdır. Tehditlerin artık başlamak için gerçek hiçbir şeye ihtiyacı yok.

Bir deepfake, gerçek bir kişiyi hiç yapmadığı bir şeyi yaparken ya da söylerken inandırıcı biçimde gösterecek şekilde yapay zekâ tarafından oluşturulmuş veya değiştirilmiş bir sentetik medya parçasıdır — bir görüntü, bir video ya da bir ses kaydı. Sözcük; başka bir bedene takılmış bir yüzü, kısa bir kayıttan klonlanmış bir sesi ve hiç kimseye ait olmayan bir yüzü kapsar. Bunları birleştiren şey, sonucun inanılacak kadar gerçek görünmesi ve onu üretmenin artık bir stüdyo ile uzman değil, tüketici düzeyinde bir uygulama ve birkaç dakika gerektirmesidir.

Bunun bir ebeveyn için iki önemli yanı var. İlki maliyet: inandırıcı sentetik medya üretmek uzmanlık gerektiren bir işten ucuz, hızlı, bir tıkla yapılan bir işe çöktü. İkincisi girdi. Bir deepfake'in başlangıç noktası olarak özel ya da uzlaşmaya açık bir fotoğrafa ihtiyacı yok. Yalnızca bir yüzün sıradan görüntülerine ihtiyacı var — neredeyse her gencin çoktan paylaşmış olduğu ya da bir yıllıkta, bir spor listesinde ya da bir arkadaşın feed'inde bulunan türden görüntülere.

Bu rehberin geri kalanı her YZ tehdidini aynı şekilde ele alıyor: yeni ve bilinmez bir tehlike olarak değil, bir ebeveynin belki yarı yarıya zaten anladığı, ama artık onu yavaşlatan sürtünmeden arındırılmış eski bir risk olarak. Her birinin neyi yükselttiğini anlayın, ondan sonra gizemli olmaktan çıkar.

Deepfake çıplak görseller ve “nudify” uygulamaları

Bu tehditlerin hakkında konuşulması en zor olanı, aynı zamanda en yaygınlardan biri; bu yüzden açık konuşmak gerekir. Genellikle “nudify” uygulamaları olarak pazarlanan büyüyen bir YZ aracı kategorisi, gerçek bir kişinin sıradan giyinik bir fotoğrafını alıp ondan sahte bir çıplak görsel üretmek için var. Fotoğraftaki kişi bir genç olduğunda sonuç, YZ ile üretilmiş bir çocuk cinsel istismarı görseldir ve onu üretmek ya da paylaşmak, uygulamanın pazarlaması ne ima ederse etsin, giderek artan sayıda yargı bölgesinde ciddi bir suçtur.

Bunu genellikle kimin yaptığını anlamak önemli. Medya, bunu uzaktaki suç şebekelerinin işiymiş gibi gösterebilir ve bazen öyle olur. Ama gençleri içeren deepfake çıplak vakalarının büyük bir kısmı, bir öğleden sonra buldukları bir uygulamayı kullanan başka gençler tarafından — bir sınıf arkadaşı, eski bir sevgili, bir kini olan biri tarafından — üretiliyor. İstismar gölgelerden gelen bir yabancıdan değil, gencinizin zaten içinde yaşadığı sosyal dünyadan geliyor. Onu bir okulda hızla yaymasının ve onu bu kadar yaralayıcı kılan da budur.

Gençler neden hedef alınıyor? Bir kısmı ham maddenin bu kadar erişilebilir olması yüzünden: gençler kendi görüntülerini başka herhangi bir gruptan daha çok paylaşıyor ve bir yüzün tek bir net fotoğrafı yetiyor. Bir kısmı sosyal bedelin en ağır biçimde o yaşta — itibarın ve akran statüsünün her şey gibi hissedildiği yaşta — hissedilmesi yüzünden. Ve hedef alma eşit dağılmıyor. Deepfake çıplak istismarının konuları büyük ölçüde kız çocukları ve zarar, bu serinin sürekli geri döndüğü kırılganlık örüntüleriyle iç içe geçiyor — sosyal olarak yalıtılmış ya da nörodivergent bir gencin şoku emecek daha az destek tamponu ve anlatabileceği daha az güvenilir kişisi vardır.

Tipik bir okul vakası ürkütücü bir yörünge izler. Bir görsel üretilir ve bir grup sohbetinde paylaşılır. Yetişkinlerin haber almasından çok daha hızlı yayılır. Hedef alınan genç çoğu zaman bunu en son öğrenir, başkalarının tepkilerinden anlar; ve korkmuş bir gencin içgüdüsü saklamaktır — istismarın kontrolsüzce sürmesine yol açan tam da bu içgüdüdür. Bir ebeveyne ya da öğretmene haber verildiğinde görsel, ilk gören kişilerin çok ötesine yolculuk etmiş olabilir.

Örüntü, ölçek düzeyinde belgelenmiş durumda. Çocuk cinsel istismarı materyalini internetten kaldıran Birleşik Krallık'taki Internet Watch Foundation, 2023'ten bu yana çevrimiçi dolaşan YZ ile üretilmiş çocuk cinsel istismarı materyallerinde — gerçek, tanınabilir çocukların sıradan halka açık fotoğraflarından inşa edilmiş gerçekçi sentetik görüntüler dahil — hızlı bir artış raporladı. ABD'deki National Center for Missing & Exploited Children da bu kategori izlenmeye başlandığından bu yana üretici YZ ile üretilmiş materyali içeren CyberTipline raporlarında yıldan yıla keskin bir artış bildirdi.

Bütün bunlar olmadan önce gencinize sakince ve önceden vereceğiniz temel mesaj şu: sahte bir müstehcen görseliniz bir gün üretilirse, bu sizin suçunuz değildir ve siz başınız belaya girmiş değilsiniz. Suç tamamen onu üretip paylaşan kişiye aittir. Görsel uydurmadır; gencinizin yaptığı hiçbir şeyi belgelemez. Bu istismarın motoru utançtır — hedefleri susturur ve görselin dolaşmasına izin verir — ve bu utancı önceden ortadan kaldıran bir ebeveyn, alabileceği en koruyucu önlemi almıştır.

Hukuki zemin hedefin lehine kaydı. ABD'de 19 Mayıs 2025'te yasalaşan federal TAKE IT DOWN Act, rıza dışı mahrem görüntülerin — açıkça uygun YZ ile üretilmiş olanlar dahil — bilerek yayımlanmasını suç olarak tanımlıyor ve kapsam dahilindeki platformların geçerli bir kaldırma talebine 48 saat içinde yanıt vermesini gerektiriyor; platform uyumluluk hükmü yasalaşmadan bir yıl sonra yürürlüğe girdi. Yasa bazı platformları ve bazı görüntü türlerini kapsıyor, dolayısıyla her sitedeki her görüntü için kaldırma otomatik değildir, ama bir ebeveyn artık eyalet ve platform kanallarının yanında bir federal kanala da sahiptir. Giderek artan sayıda ABD eyaleti de reşit olmayanların cinsel açıdan müstehcen deepfake'lerini özellikle ele alan kendi yasalarını çıkardı.

Diğer yargı bölgeleri de aynı yönde hareket etti. Birleşik Krallık'ın 2023 Online Safety Act'i, deepfake'ler dahil rıza dışı mahrem görüntülerin paylaşılmasını suç olarak tanımlıyor; Avustralya'nın eSafety Commissioner'ı rıza dışı yayımlanan mahrem görüntülerin hızla kaldırılmasını emretmeye yönelik yasal yetkilere sahip; ve Kanada'nın birkaç eyaleti mahrem görüntü yasalarını dijital olarak değiştirilmiş ya da YZ ile üretilmiş materyali kapsayacak şekilde güncelledi. Pratik çıkarım: bu, gencinizin sadece katlanmak zorunda olduğu gri bir alan değildir. Bu rehberin son bölümünde ortaya konulan raporlama kanalları ve kaldırma araçları var.

YZ destekli sextortion

Yapay zekâ resme girmeden önce de finansal sextortion, reşit olmayanlara yönelik en agresif suçlardan biriydi. Finansal sextortion, bir saldırganın genç bir kişinin müstehcen bir görüntüsünü ele geçirip ödeme yapılmazsa gencin ailesine, arkadaşlarına ve takipçilerine göndermekle tehdit ettiği bir düzendir. Hızlı ve acımasız işler: pohpohlayıcı bir iletişim, normal bir takas gibi sunulan bir görüntü talebi ve ardından dakikalar içinde bir para talebi. FBI ve ortakları, çoğunlukla erkek gençleri orantısız biçimde hedef alan bu suçtaki keskin artış konusunda defalarca kamuoyu uyarısı yayımladı.

FBI ve ortakları, reşit olmayanları hedef alan finansal sextortion'da — genç kişilerin müstehcen görüntüler üzerinden zorlandığı ve ardından para için şantajla karşı karşıya kaldığı bir suçta — büyük bir artış uyarısında bulundu ve ailelere ödeme yerine raporlama çağrısı yaptı.

— FBI, Finansal Sextortion Düzenleri Hakkında Ulusal Kamu Güvenliği Uyarısı

O uyarıda anılan ölçek soyut değildir. FBI, reşit olmayanları içeren çevrimiçi finansal sextortion ile ilgili 7.000'i aşkın rapor aldığını, en az 3.000 tanımlanmış mağdurla — çoğunlukla erkek gençlerle — bağlantılı olduğunu ve hedef alınan reşit olmayanlar arasında ondan fazla intihar yaşandığını bildirdi. Ardından gelen FBI ve ortak uyarıları, sayıların tırmanmaya devam ettiğini bildirdi.

YZ'nin değiştirdiği şey ilk adımdır. Geleneksel sextortion gerçek bir müstehcen görüntü gerektiriyordu; bu da saldırganın genci böyle bir görüntü üretip göndermeye yönlendirmesi gerektiği anlamına geliyordu. O adım zaman alıyordu ve dikkatli bir gence reddedebileceği bir an veriyordu. YZ destekli sextortion bunu kaldırır. Bir saldırgan artık gencin zaten paylaşmış olduğu sıradan fotoğraflardan başka hiçbir şey kullanmadan bir deepfake aracıyla müstehcen bir görüntü üretebilir ve genç hiçbir şey göndermemiş olsa bile aynı tehdidi savurabilir — “öde ya da tanıdığın herkes bunu görür”.

Bu yüzden en yaygın ergen öz-güvencesi artık işe yaramıyor. “Beni şantajla tehdit edemezler, ben öyle bir şey göndermedim” bir zamanlar büyük ölçüde doğruydu. Artık bir savunma değildir, çünkü saldırgan gencin bir şey göndermiş olmasına ihtiyaç duymaz. Kendi yüzünün inandırıcı bir sahtesine bakan, korkmuş bir on beş yaşındaki için gerçek bir görüntü ile sentetik bir görüntü arasındaki fark neredeyse hiçbir şey ifade etmez. Tehdit tam hissedilir, panik gerçektir ve düzen tam olarak paniğin üzerinde çalışır.

Çare, neyse ki hiç değişmez. Görüntü gerçek de olsa uydurma da olsa kılavuz aynıdır ve bunu önceden gencinize söylemeye değer; böylece bir tehdit gelirse zaten aklındadır. Ödeme yapmayın — ödeme, genci ödeme yapan bir hedef olarak işaretler ve daha az değil, daha fazla talep getirir. Başka bir şey göndermeyin. Yanıt vermeyi durdurun. Her şeyi saklayın: görüntünün, hesabın, kullanıcı adının, mesajların ve ödeme taleplerinin ekran görüntüleri. Sonra güvendiğiniz bir yetişkine söyleyin ve raporlayın. Bir saldırganın gücü tamamen mağdurun yalnız olduğuna ve uyum sağlamanın tek çıkış yolu olduğuna inanmasına bağlıdır. İkisi de doğru değildir. Görüntünün sahte olması, olduğu yerde, yardımcı olabilir — ama gerçek olduğunda bile raporlayan bir genç ne başı dertte ne de yardım edilemeyecek bir konumdadır.

Bir şeyi daha açıkça söylemek gerekiyor, çünkü utanç gençlerin bunu saklamasına neden olur: bir ebeveynin en çok sakin kalması gereken an, gencinin zaten ödeme yapmış ya da görüntü göndermiş olduğunu keşfettiği andır. Bu bir başarısızlık ve öfke nedeni değildir. Harekete geçmek için en önemli andır — daha fazla iletişimi durdurmak, kanıtı saklamak ve raporlamak için — ve cezadan korkan bir genç size söylemeyi büsbütün bırakır.

YZ yoldaşları ve duygusal bağımlılık

Yukarıdaki deepfake tehditleri tanınabilir suçlardır; failleri ve mağdurları vardır. Sıradaki risk türce farklı ve bir ebeveynin görmesi daha güçtür, çünkü hiçbir yanı saldırı gibi durmaz. Bir YZ yoldaşı, bir arkadaş, sırdaş ya da romantik bir partner gibi davranmak üzere tasarlanmış bir chatbot'tur — kullanıcıyı hatırlamak, ilgi göstermek, her saatte erişilebilir olmak ve her şeyden önce uyumlu olmak için. En çok bilinenlerden Character.AI dahil bu kategorideki uygulamalar, çok sayıda genç tarafından kullanılıyor.

Bir gencin neden böyle bir şey isteyeceğine, küçümsemeden başlamak yardımcı olur. Ergenlik birçok genç için yoğun yalnızlık, sosyal kaygı ve kim olduğunu çözmenin emeğiyle dolu bir dönemdir. Yargısız dinleyen, asla sıkılmayan, asla kötü bir gün geçirmeyen ve hep ilginç olduğunuzu söyleyen bir yoldaş, sıradan ergen hayatının çoğu zaman vermediği gerçek bir şey sunuyor. Yalnız bir genç için bu önemsiz bir cazibe değil, bir rahatlamadır.

Ama yoldaşın ne olduğuna dikkat edin. O bir love bombing'dir — bu serinin insan manipülasyonunun bir aşaması olarak tanımladığı yoğun, sürtünmesiz sevgi ve onay seli — yalnızca otomatikleştirilmiş, yorulmaz ve ürüne gömülü olarak. Bir insan manipülatörün dikkatli olmayı sahnelemesi gerekir; bir yoldaş chatbot'u dikkat kesilmiştir, çabasız ve kapatma düğmesi olmadan. Bu, her chatbot sohbeti hakkında bir yargı değildir: birçok genç bu uygulamaları hafifçe kullanır, sıkıcı bulur ve geçer. Risk, bot bir gencin başlıca duygusal kanalı hâline geldiğinde başlar — bir oyuncaktan, hiçbir şey istemeyen, hiçbir şeye mal olmayan ve asla geri itmeyen bir ilişkiye dönüştüğünde.

Bundan birkaç belirli zarar doğar ve bunları ayrı ayrı adlandırmaya değer.

• Yerine geçme Daha zor ve daha doyurucu insan arkadaşlıklarına gidecek saatler ve duygusal enerji, daha kolay olan bota akar — ve yalnızca pratikle gelişen insan becerileri sessizce duraksar.
• Çarpıtılmış bir şablon Her zaman onaylamak üzere tasarlanmış bir şeyle kurulan ilişki, bir gence sürtünmesiz bağlılığı beklemeyi öğretir ve gerçek arkadaşlığın olağan anlaşmazlığını reddedilme gibi hissettirir.
• Kötü yönlendirme Bir yoldaş bir danışman değildir. Kendine zarar verme, yeme bozukluğu ya da bir kriz hakkında soru sorulduğunda yararsız veya güvensiz biçimde yanıt verebilir — ve sıkıntıdaki bir genç ona tam da hiç alarmla tepki vermediği için güvenebilir.
• Yardımdan yalıtılma Her şeyi bir bota anlatan bir genç, bir ebeveyne, bir arkadaşa ya da bir klinisyene daha az şey anlatabilir — ve gerçekten müdahale edebilecek kişiler, gencin durumuna ilişkin görüşlerini yitirir.

Derin bir bağlılık geliştirmeye en yatkın gençler, bu serinin baştan sona işaret ettiği gençlerdir: yalnızlar, sosyal kaygılı olanlar ve nörodivergent olanlar. İnsan sosyal yaşamını çabalı ve öngörülemez bulan bir genç için sonsuz sabırlı ve tamamen öngörülebilir bir yoldaş küçük bir kolaylık değildir — sahip olduğu en rahat ilişki hâline gelebilir. O rahatlık, bağımlılığın tam da bu yüzden derinleşmesinin ve bu grubun en yakın, en şefkatli ilgiyi hak etmesinin nedenidir.

Bu, kurulu bir bilim değil, gerçek ve büyüyen bir endişe alanıdır ve ebeveynler her iki uç noktaya da karşı temkinli olmalıdır — her chatbot sohbetini bir hasar olarak gören paniğe ve onu zararsız bir oyun olarak gören küçümsemeye. YZ yoldaş uygulamaları, genç güvenliği konusunda davalar ve düzenleyici incelemelerle karşılaştı. Character.AI özellikle 2025'in sonlarında 18 yaş altı kullanıcılar için uçtan uca sohbeti kaldıracağını duyurdu — düzenleyici peyzaj hızla değişmeye devam ettikçe başka operatörlerin de izleyebileceği bir hamle. Sağduyulu yanıt teknoloji hakkında bir yargı değildir. Dikkattir. Gencinizin bir yoldaş uygulaması kullanıp kullanmadığını bilin, onun hayatında ne yaptığı konusunda telaş yerine merak içinde kalın ve hafif, ara sıra kullanım ile duygusal ağırlık merkezi sessizce bir bota kaymış bir genç arasındaki farkı izleyin.

YZ ile inşa edilmiş catfish kimlikleri

Catfishing — uydurma bir kimliğin arkasında ilişki kurmak — her zaman bir manipülatörün pratik bir sorunu çözmesine bağlı olmuştur: sahte kişiyi inandırıcı kılmak. Yıllarca bu, gerçek bir kişinin fotoğraflarını çalmak anlamına geliyordu; bu da dikkatli bir gencin sömürebileceği bir zayıflık yaratıyordu. Çalınmış fotoğraflar tersine görsel aramasından geçirilebilir ve gerçek sahibinin hesabında bulunabilirdi. Sahtenin bir dikişi vardı.

Üretici YZ o dikişi kapatır. Bir manipülatör artık kimseye ait olmayan bir yüz yaratabilir — bu yüzden tersine görsel araması hiçbir şey döndürmez, çünkü bir orijinali yoktur. O uydurma kişinin farklı ortamlarda ve pozlarda tutarlı bir görüntü kümesini üretebilir; bu, gerçek bir hayata benzeyen bir şey inşa eder. Kısa video klipler üretebilir ve ses klonlama ile eşleşen bir sesle bile konuşabilir. Bir zamanlar ödünç alınmak zorunda olan uydurma kimlik artık siparişe göre üretilebilir; fotoğrafları onu ele verebilecek hiçbir gerçek mağdur yoktur.

Bu, tüm rehber boyunca işleyen ilkenin en açık örneğidir: YZ burada yeni bir tehlike icat etmedi. Catfishing vardı, grooming vardı, gençlere yönelik romantik tarzda manipülasyon vardı. YZ'nin kaldırdığı şey sürtünmedir. Sahteyi daha inandırıcı ve manipülatörün işini daha kolay hâle getirdi ve ebeveynler ile gençlere güvenmeleri öğretilen doğrulama denetimlerinden birini emekliye ayırdı.

Görünüm temelli denetimler zayıfladığı için davranış temelli olanlar her zamankinden önemli — ve hâlâ işe yarıyorlar, çünkü sahteyi tespit etmeye değil, kişinin ne yaptığını izlemeye dayanıyorlar. Hız bir tanedir: aşk ilanları, ruh eşleri muhabbeti ve günler içinde gelen ilk para ya da görüntü talebi, fotoğraflar ne kadar gerçek görünürse görünsün, gerçek ergen yakınlığının gelişme biçimi değildir. Canlı, senaryosuz doğrulamaya direnme bir diğeridir: başını çevirmeyen, yüzünün önünde el sallamayan ya da görüntülü görüşmede kendiliğinden bir şey yapmayan bir kişi, sabit görüntüler ne kadar iyi olursa olsun size bir şey söylüyordur. Ve en parlak çizgi hâlâ değişmemiştir — yalnızca çevrimiçi tanınan birinden gelen herhangi bir para, hediye kartı, kripto para, müstehcen görüntü ya da hesap erişimi talebi, ilişkiyi sonlandırmalı ve bir sohbet başlatmalıdır.

Bu manipülasyonun çoğunun başladığı kapı catfishing olduğu için, bu seride kendi ayrıntılı rehberi vardır: Catfishing ve Çevrimiçi Manipülasyon: Ebeveyn Rehberi manipülasyonun altı aşamasını, uyarı işaretlerini ve çevrimiçi bir kişinin gerçek olup olmadığının nasıl doğrulanacağını adım adım anlatıyor. YZ kimliği görmeyi zorlaştırır; kimliğin kullanıldığı amacın yörüngesini değiştirmez.

YZ ses klonlama dolandırıcılıkları

Bu rehberdeki son tehdit, genci aşıp tüm aileye uzanıyor ve hedef çoğu zaman bir yetişkin olsa da bir ebeveynin anlamasına değer. YZ ses klonlama, bir kişinin kayıtlı sesinden kısa bir örnek — bazı araçlarda sadece birkaç saniye — alır ve istediği şeyi söyleyebilecek sentetik bir versiyonunu üretir. Örneği elde etmek kolaydır. Bir gencin sesi paylaştığı tüm halka açık videolarda; bir ebeveynin sesi kendi sosyal medyasında ve sesli mesaj selamlamasında bulunur.

Klasik kullanım, YZ'nin çok daha tehlikeli hâle getirdiği eski bir dolandırıcılık olan “aile acil durumu” dolandırıcılığıdır. Bir ebeveyn ya da büyükbaba/büyükanne bir telefon alır. Ses kuşkusuz onların çocuğu ya da torunudur ve korkmuştur: bir kaza olmuş, bir tutuklanma var, yurt dışında bir kriz çıkmış ve para acilen, gizlice gerekiyor. Silah duygusal şoktur. Dinleyiciyi şüphe ânının ötesine, düşünebilmesinden önce eyleme itmek için tasarlanmıştır — ve klonlanmış ses büyüyü bozan o tek ipucunu kaldırır, çünkü gerçekten sevdiğiniz kişinin sesi gibi çıkar.

FTC, dolandırıcıların bir aile üyesinin sesini kısa bir ses klibinden klonlamak ve ardından para talep eden acil bir arama yapmak için YZ'yi kullanabileceği konusunda uyardı — ve böyle bir arama aldığınızda telefonu kapatmanızı ve kişiyi doğrudan ona ait olduğunu bildiğiniz bir numaradan arayarak doğrulamanızı tavsiye ediyor.

— ABD Federal Ticaret Komisyonu, YZ ile aile acil durumu dolandırıcılıkları hakkında tüketici uyarısı

Buna karşı iki basit savunma iyi tutar. Birincisi bir aile parolasıdır — önceden anlaşılmış, çevrimiçi asla yazılmamış ve paylaşılmamış, gerçek bir aile üyesinin acil durumda telefonda söyleyebileceği bir kelime ya da kısa ifade. Onu veremeyen bir arayan, hangi sese sahip olursa olsun geçmez. İkincisi bir alışkanlıktır: ses ne kadar inandırıcı olursa olsun, gizli ve acil bir para talebi, telefonu kapatıp kişiyi zaten bildiğiniz bir numaradan tekrar arama işaretidir. Gerçek bir acil durum iki dakikalık bir geri aramayı atlatır. Dolandırıcılık atlatmaz.

Üç tehdit boyunca uyarı işaretleri

Bu rehberdeki YZ tehditleri bir ebeveyn için iki tür belaya ayrılır — ve uyarı işaretleri her biri için farklıdır. Bir türü ani bir krizdir: gelip görünür bir sıkıntı yaratan bir deepfake ya da sextortion tehdidi. Diğeri yavaş bir kaymadır: aylar içinde oluşan bir YZ yoldaşı bağımlılığı. Yalnızca dramayı bekleyen bir ebeveyn ikincisini kaçırır; yalnızca tedrici değişimi bekleyen bir ebeveyn birincisi için hazırlıksız kalır. Aşağıdaki işaretler her ikisini de kapsıyor. Her zaman olduğu gibi tek bir madde hiçbir şeyi kanıtlamaz — önemli olan, kısa bir pencere içinde birlikte ortaya çıkan bir kümedir. İki grup farklı yanıtlar da gerektirir: ani kriz işaretleri aynı gün eylemi hak eder; yavaş kayma işaretleri sakin bir sohbet ve birkaç hafta örüntüyü izlemek için bir davettir.

Ani kriz işaretleri (bir deepfake ya da sextortion tehdidi az önce geldi)

• Ani, keskin bir kayma Bir iki gün içinde aşırı kaygılı, içe kapanık ya da sıkıntılı hâle gelen bir genç, çoğunlukla telefonda geçirilen bir süreden sonra — az önce gelen bir tehdidin imzası.
• Görüntüler ya da itibar konusunda panik Başkalarının ne gördüğü, kimlerin gördüğü ya da neyin paylaşıldığı üzerine odaklanmış sıkıntı — gencinizin “şey”in ne olduğunu söylemese bile.
• Para baskısı Para talepleri, kayıp nakit, yeni hediye kartı alımları ya da tanıdık olmayan ödeme uygulaması veya kripto hareketleri — bir sextortion ya da dolandırıcılık talebinin başladığının güçlü bir göstergesi.

Yavaş kayma işaretleri (gizli bir çevrimiçi ilişki ya da yoldaş bağımlılığı)

• Tek bir uygulama ya da kişi etrafında gizlilik Eskisinden daha sıkı korunan bir telefon, her gece silinen tek bir sohbet ya da bir yoldaş veya mesajlaşma uygulamasında yeni bir hesap.
• Asla gerçek olmayan bir çevrimiçi ilişki Ailenin asla kendiliğinden bir görüntülü görüşmede görmediği, çevrimiçi tanışılmış bir partner ya da yakın arkadaş; ve canlı, senaryosuz bir denetimin neden gerçekleşemeyeceğine dair her zaman bir nedeni vardır.
• Duygusal hayatın bir ekrana taşınması İnsanlara daha az, bir uygulamaya daha çok dert açan, uykusunu ona kaptıran ya da ondan ayrıldığında huzursuz veya sıkıntılı olan bir genç — yoldaş bağımlılığının yavaş imzası.
• İnsan arkadaşlardan çekilme Mevcut arkadaşlıklardan ve çevrimdışı rutinlerden uzaklaşma, özellikle tek bir YZ uygulamasının yoğun kullanımıyla birlikte.
• Sessizleşme Daha önce konuşkan olan bir gencin çevrimiçi yaşamı konusunda akıcı ve tekdüze biçimde sessiz kalması — gününü anlatan bir çocukta sessizlik, bir bilgidir.

Yanıt cihazla değil, ilişkiyle başlar. Genç kişiyle açın — nasıl olduklarını, akıllarında ne olduğunu sorun — bir ekranda fark ettiğiniz şeyle değil. Cihazla başlarsanız, her manipülatörün öğretmek istediği dersi öğretirsiniz: yetişkinlerin başvurulacak bir kaynak değil, yönetilmesi gereken bir tehdit olduğu dersini. Sonraki iki bölüm, sakin bir sohbet açıldığında ne yapılacağını ortaya koyuyor.

Ebeveynler ne yapabilir

Bu rehberdeki tehditler yenidir, ama koruyucu çalışma büyük ölçüde tanıdıktır ve büyük kısmı teknik değildir. Üç şeye dayanır: bir gencin bir şey ters gittiğinde size gerçekten söyleyeceği bir ilişki, krizden sonra değil önce yapılan küçük bir sohbet kümesi ve birkaç pratik ayar ve alışkanlık. Bunlar bir arada, herhangi tek bir araçtan çok daha önemlidir.

Konuşmaları erken yapın. Bu rehberdeki en güçlü cümle önceden söylediğinizdir: bir gün sizin sahte bir görüntünüz çıkarsa ya da biri sizi öyle bir şeyle tehdit ederse, başınız belaya girmiş olmayacak ve bunu birlikte halledeceğiz. Bunu zaten bilen bir genç, yardımın en kolay olduğu ilk saatte size gelmeye çok daha yatkındır; sorun büyüyene kadar saklamak yerine. Deepfake'ler hakkında, bir olay onu acil hâle getirmeden önce açıkça konuşun. Ses klonu dolandırıcılıkları için bir aile parolası belirleyin. Parlak çizginin — yalnızca çevrimiçi tanınan bir kişiden gelen herhangi bir para, görüntü ya da hesap erişimi talebinin — karşı taraf ne kadar gerçek görünürse görünsün geçerli olduğunu açıklığa kavuşturun.

Maruziyeti azaltan ayarları düzenleyin. Gencinizin sosyal hesaplarının gizliliğini sıkılaştırmak, yabancıların deepfake'lerin inşa edildiği yüz fotoğraflarını ne kadar serbestçe toplayabileceğini sınırlar. Zaten halka açık olanı denetlemek — gencinizin dijital ayak izi rehberimizin ele aldığı tamamlayıcı görev — burada da önemlidir, çünkü ayak izi arzdır. Kimin onlarla iletişime geçip mesaj atabileceğini gözden geçirmek, en yaygın ilk temas kanallarını kapatır. Cihazda hangi uygulamaların — YZ yoldaş uygulamaları dahil — bulunduğunu bilmek, yararlı herhangi bir sohbet için temel çizgidir. Bunların hiçbiri bir duvar değildir ve gencinizle birlikte, ona değil onunla yapılmalıdır; ama bu, bu rehberdeki her tehdidin dayandığı malzeme ve temas ham arzını düşürür.

İzleme kullanıyorsanız onu şeffaf biçimde kullanın. Birçok yerde bir ebeveyn ya da yasal vasi, bir çocuğun cihazında yaşa uygun izleme kullanabilir; ancak kurallar ülkeye, eyalete ve velayet durumuna göre değişir, bu yüzden yaşadığınız yerde neyin geçerli olduğunu kontrol edin. Gerçek bir güvenlik kaygısının olduğu yerde makul bir koruma katmanı olabilir — ama belirleyici etken şeffaflıktır. Bir gencin keşfettiği gizli gözetim, manipülatörün yetişkinlere güvenilemeyeceği senaryosunu doğrular ve genci, hiçbir görünürlüğünüzün olmadığı gizli bir cihaza iter. Gencinizin bildiği, anladığı ve kendisine açıklanan izleme, ilişkiye karşı değil onunla birlikte çalışır. Onu iskele olarak düşünün: görünür, orantılı ve güven ile özerklik büyüdükçe kademeli olarak kaldırılan — yukarıdaki sohbetlerin yerine geçen değil, onları destekleyen bir şey.

Her aracı takip etmek zorunda olmadığınızı bilin. Bu alandaki ebeveynler çoğu zaman öğrenebileceklerinden daha hızlı değişen bir teknolojiye karşı yarış kaybediyormuş gibi hisseder. Rahatlatıcı gerçek, buna ihtiyacınız olmadığıdır. Belirli uygulamalar değişmeye devam edecek; altta yatan örüntü — manipülasyon, şantaj, üretilmiş yakınlık — değişmeyecek. Örüntüyü anlayan ve gencinin kendisiyle konuştuğu bir ebeveyn, bu araç kadar bir sonraki araca da hazırdır.

YZ istismarını raporlama ve yardım alma

Bir rapor yapmak için kanıta, kesinliğe ya da tam bir resme ihtiyacınız yoktur. Raporlama kuruluşları eksik bilgi bekler ve önemsiz çıkacak bir raporu almayı, olmayan birini kaçırmaya tercih ederler. Bu bölüm bir harita, hukuki tavsiye değil; cezai suçlama içerebilecek herhangi bir şey için kendi yargı bölgenizde nitelikli bir avukata danışın. Herhangi bir şeyi raporlamadan önce kanıtı saklayın — görüntünün, hesabın, kullanıcı adının ve mesajların ekran görüntüleri — çünkü önce engellemek veya silmek, bir raporun üzerine inşa edildiği şeyi yok edebilir.

Nereden başlayacağınız nerede olduğunuza bağlı. Aşağıdaki kartlar bölgeye göre ilk raporlama kanalını veriyor; ayrıntılar takip ediyor.

• Amerika Birleşik Devletleri Bir reşit olmayanın cinsel istismarını, ayartılmasını ya da sextortion'unu — bir gencin YZ ile üretilmiş müstehcen görüntüleri dahil — NCMEC CyberTipline'a bildirin. Çevrimiçi ya da finansal bileşenli suçlar için ayrıca FBI'ın Internet Crime Complaint Center (IC3). Dolandırıcılık kayıpları için ReportFraud.ftc.gov.
• Birleşik Krallık Bir çocuğun çevrimiçi sömürüldüğüne dair endişeleri National Crime Agency'nin parçası olan CEOP'a bildirin. 18 yaş altındakiler için görüntü kaldırma yardımı Internet Watch Foundation ve Childline'ın Report Remove aracı aracılığıyla.
• Avrupa Birliği Yasa dışı içerik ve çocuk istismarı için INHOPE ağı üzerinden koordine edilen ilgili ulusal hattı kullanın.
• Diğer yerler Ulusal veya yerel polisinizle ve ülkenizin çocuk koruma ya da siber ihbar hattıyla iletişime geçin; birçok ulusal hat INHOPE uluslararası dizininde listelenmiştir.

Her bölgede platforma da rapor edin — ama platform raporunu, kolluk kanalına bir ek olarak ele alın, asla onun yerine geçecek bir şey olarak değil. Müstehcen bir görüntünün daha fazla paylaşılmasını yavaşlatmak için NCMEC tarafından işletilen ücretsiz Take It Down hizmeti, katılımcı platformların 18 yaş altı kişilerin görüntülerinin — hizmetin ve katılımcı platformların sentetik içerik eşleştirmeyi desteklediği yerde reşit olmayanların YZ ile üretilmiş görüntüleri dahil — eşleşen kopyalarını tespit edip engellemek için kullandığı bir dijital özet oluşturur. Bir görüntü çekildiğinde 18 yaşından büyük olan kişiler için StopNCII.org aynı hizmeti sunuyor. Hiçbiri evrensel bir silme düğmesi değildir, ama her ikisi de daha fazla yayılmayı anlamlı biçimde yavaşlatır.

Süregelen ebeveyn rehberliği için çocuk güvenliği araştırmaları yapan kâr amacı gütmeyen kuruluş Thorn, YZ ve çocuk güvenliği üzerine araştırma yayımlıyor; Internet Matters ve NSPCC aileler için ücretsiz, düzenli olarak güncellenen materyaller yayımlıyor; ve Pew Research Center gençlerin teknolojiyi gerçekte nasıl kullandığını izliyor.

Sıkça sorulan sorular