Deepfake Nedir? Yapay Zeka Fotoğrafları, Videoları ve Sesleri Nasıl Taklit Eder

Bir deepfake aslında nedir

Çoğu ebeveyn sözcükle ilk kez bir manşette karşılaşır — o şeyi hiç söylemeyen bir ünlü, hiç orada durmamış bir politikacı, hiç kendisine ait olmayan bir bedene yerleştirilmiş bir sınıf arkadaşının yüzü. Manşetler gerçektir, ama bir boşluk bırakırlar: bir ebeveynin gerçekten kullanabileceği işlevsel bir tanım. Böyle bir tanım olmadan, her tuhaf fotoğraf ya zararsız ya da uğursuz görünür ve iki tahmin de çocuğunuza yardımcı olmaz.

Bir deepfake (iki ayrı sözcük olarak da yazılır, deep fake), yapay zeka tarafından oluşturulmuş ya da değiştirilmiş bir sentetik medya parçasıdır — bir görsel, bir video ya da bir ses kaydı — öyle ki gerçek bir kişiyi hiç yapmadığı ya da söylemediği bir şeyi yapıyormuş gibi inandırıcı biçimde gösterir. Encyclopædia Britannica bunu, “gerçeklikte var olmayan bir şeyi ya da hiç yaşanmamış olayları betimleyen” sentetik medya olarak tanımlar. Sözcüğün kendisi, onu çalıştıran yapay zeka tekniği olan derin öğrenme (deep learning) ile sahte (fake) sözcüklerinin bir birleşimidir — ve sözcük, artık etkilediği gençlerden daha gençtir.

Terim 2017’nin sonlarında, bir Reddit kullanıcısının “r/deepfakes” adlı bir alt forum oluşturup orada yüz değiştirilmiş videolar paylaşmaya başlamasıyla, tüm bu kategoriye adını vererek ortaya çıktı. On yıldan kısa sürede, internetin karanlık bir köşesinden bir okul koridoru sorununa dönüştü. Bu hız önemlidir: çocuğunuzun birlikte yaşadığı teknoloji, ebeveynlerin onun hakkında duyduğu öğütlerin çoğundan daha yenidir.

Tek bir etiket artık üç farklı şeyi kapsıyor — başka bir bedene yerleştirilmiş bir yüz, kısa bir kayıttan klonlanmış bir ses ve en gevşek ucunda, hiç kimseye ait olmayan bir yüz. Kesin anlamda, bir deepfake gerçek bir kişiyi taklit eder ya da değiştirir; tümüyle uydurma bir yüz ise yakın bir kuzendir — aynı şekilde, sahte profillerde ve dolandırıcılıklarda kullanılan sentetik medya. Onları birleştiren şey, nasıl yapıldıkları değil, neyi başardıklarıdır: inanılacak kadar gerçekçi bir sonuç. Gençler için yapay zeka riskleri üzerine temel rehber, her birini daha eski bir tehlikenin güçlendirilmiş bir sürümü olarak ele alır; bu rehber ise deepfake’in kendisinde kalır — ne olduğu, nasıl yapıldığı ve neden birdenbire her yerde olduğu.

Deepfake’ler gerçekte nasıl yapılır

Çocuğunuzu bir deepfake’ten korumak için onu nasıl yapacağınızı bilmenize gerek yok — ve bu rehber bunu da anlatmayacak. Ama genel mekanizmayı kavrayan bir ebeveyni kandırmak çok daha zordur ve böyle bir ebeveyn, riski şüpheci bir gence açıklamakta çok daha başarılıdır. Neredeyse her deepfake’in merkezinde tek bir basit fikir vardır: bir yapay zeka modeline bir yüzün ya da bir sesin yeterince gerçek örneğini gösterin, o da inandırıcı yenilerini üretmeyi öğrenir.

En çok bilinen yöntem, üretici çekişmeli ağ ya da GAN’dır — 2010’ların ortasında ortaya çıktığında teknolojide bir dönüm noktasıydı. İki yapay zeka modeli, bir sahteci-müfettiş oyununa benzeyen bir şekilde birbirine karşı kurulur ve sahteci, müfettiş onu artık yakalayamayana kadar gelişmeyi sürdürür.

Deepfake’ler genellikle, iki farklı yapay zeka derin öğrenme modelinin bir tahmin oyununda birlikte çalıştığı üretici çekişmeli ağlar (GAN) kullanılarak üretilir. Modellerden biri gerçek bir görüntü ya da videonun olabilecek en iyi kopyasını oluşturur, diğeri ise kopyanın sahte olup olmadığını saptar ve bir hata tespit ederse, onunla orijinal arasındaki farkları bildirir.

— Encyclopædia Britannica, “Deepfake”

Daha yeni sistemler difüzyon modelleri kullanır — artık görüntü ve video araçlarında yaygındır — bunlar rastgele gürültüden başlar ve onu adım adım, bir açıklamaya uyan bir görüntüye dönüştürür. Yüz değiştirme videoları ise yine farklı bir araca dayanma eğilimindedir — MIT Sloan’ın “varyasyonel oto-kodlayıcı” olarak tanımladığı, bir yüzü kompakt bir örüntüye sıkıştırıp onu başka birinin kafasında yeniden inşa etmek üzere eğitilmiş bir ağ. Bir ses ise, bir modele bir kişinin nasıl konuştuğunu taklit edebilene kadar gerçek kayıtlar beslenerek klonlanır. Ayrıntılar farklılaşır; ilke ise değişmez. Makineye gerçek bir şeyin yeterince fazlasını gösterin, o da sahte bir şey imal eder.

Teknik ayrıntı, hiçbir ebeveynin takip edebileceğinden daha hızlı ilerler — ve takip edilmesine gerek yoktur. Zararsız fotoğraf filtrelerini ve ödev yardımcılarını çalıştıran aynı model aileleri, istismarı da çalıştırır; teknolojiyi etrafına duvar örerek dışarıda tutmanın bu kadar zor olmasının tam nedeni budur ve işte bu yüzden işe yarar soru “bunu nasıl yasaklarım” değil, “baktığımız şeyi nasıl doğrularız”dır.

Gerçekten karşılaşacağınız üç biçim

Bir ebeveyn için işe yarar sınıflandırma teknik değildir. Gelen şeyle ilgilidir — çocuğunuzun telefonuna, kendi sesli mesaj kutunuza ya da bir grup sohbetine. Üç biçim neredeyse her şeyi kapsar.

Sınırlar bulanıklaşır: sahte bir profil, sentetik bir yüzü klonlanmış bir sesle ve “kanıt” olarak sunulan yüz değiştirilmiş bir parçayla bir araya getirebilir. Yapay zekanın klasik catfish’i yeniden inşa etmesi işte bu son biçimle olur — temel rehber, yapay zekayla kurulmuş catfish kişiliklerini ayrıntılı olarak ele alır. Ama biçimi adlandırmak, çocuğunuza gönderilen belirli şeyi değerlendirmenin ilk adımıdır.

Neden birdenbire ucuz, hızlı ve kolay hâle geldi

Bilgisayar tarihinin büyük bölümünde, bir yüzü inandırıcı biçimde sahtelemek bir stüdyo, bir bütçe ve bir uzman gerektiriyordu. İki şey bunu değiştirdi. İlki, daha önce anlatılan teknik sıçramaydı — 2010’ların ortasında ortaya çıkan üretici yöntemler. İkincisi ise dağıtımdı: uzman olmayanlar için engeli giderek alçaltan ücretsiz, indirilebilir araçlar ve hizmetler. Bir zamanlar bir stüdyo ve bir uzman gerektiren şey, çok daha erişilebilir hâle geldi.

Bir ebeveyni en çok ilgilendiren değişiklik hız değil, ham maddedir. Bir deepfake’in artık başlamak için özel ya da rahatsız edici bir görsele ihtiyacı yoktur. Yalnızca bir yüzün sıradan resimlerine ihtiyacı vardır — bir yıllıkta, bir takım listesinde, bir arkadaşın paylaşımında, herkese açık bir profilde ya da eski bir hesapta zaten duran türden. FBI uyarıyor ki kötü niyetli kişiler “genellikle bir kişinin sosyal medya hesabından, açık internetten elde edilen ya da kurbandan istenen fotoğrafları veya videoları” alıp onları kişinin hiç yapmadığı bir şeye dönüştürüyor. Ham madde, herhangi bir gencin çevrim içi bıraktığı sıradan dijital ayak izidir — bu yüzden daha küçük, daha mahrem bir ayak izi az sayıdaki pratik korumadan biridir; paylaşmak hiçbir zaman gencin hatası olmadığı için değil.

Sayılar bu yayılmayı doğruluyor. Deepfake’lerin ilk gerçek sayımı olan Deeptrace’in 2019 raporu, çevrim içi 14.678 deepfake video saydı — yedi ay öncesinin neredeyse iki katı ve bunların %96’sı rıza dışı pornografiydi. 2023’e gelindiğinde, kimlik doğrulama firması Sumsub, tek bir yılda saptadığı deepfake’lerde on katlık bir artış bildirdi. İki sayım farklı şeyleri ölçüyor — çevrim içi videolar ile kimlik denetimlerinde yakalanan sahteler — ama ikisi de aynı yönü gösteriyor: yalnızca birkaç yıl içinde sentetik medya, bir meraktan kitlesel ölçekli bir soruna dönüştü.

Gençler deepfake’lerle aslında nerede karşılaşır

Çocuğunuzun gördüğü, yapay zekayla değiştirilmiş medyanın çoğu zararsızdır — yüz filtreleri, şaka amaçlı seslendirmeler, yaş küçültme efektleri — ve hepsine bir tehdit gibi davranmak yalnızca güvenilirliğinize mal olur. Zarar, aynı sentetik medya teknikleri taklit etmek, küçük düşürmek, dolandırmak ya da zorlamak için kullanıldığında başlar ve gençlere tanınabilir birkaç kapıdan ulaşır.

• Dolandırıcılık aramaları ve mesajları Klonlanmış bir ses, “acil aile durumu” aramasını besler. FTC uyarıyor ki bir dolandırıcının yalnızca “kısa bir ses parçasına … çevrim içi paylaşılmış içerikten elde edebileceği bir parçaya” ihtiyacı vardır. Hattaki ses bir akrabanınki olabilir — ya da sizi kandırmak için klonlanmış, çocuğunuzunki.
• Sahte mahrem görüntüler Sıradan fotoğrafların müstehcen sahtelere dönüştürülmesi. Bu gerçek okulları vurdu: 2023’ün sonlarında New Jersey’deki bir lisede bir öğrenci, sınıf arkadaşlarının çıplak görüntülerini sahtelemek için yapay zeka kullanmakla suçlandı — kızlardan biri, hedef alınan otuzdan fazla kişi arasında olduğunu söyledi. Böyle bir fotoğraftaki çocuk hiçbir yanlış yapmadı; onu yapan kişi yaptı. Temel rehber, deepfake çıplaklar ve “nudify” uygulamalarını tam olarak ele alır.
• Sextortion Artık gerçek bir resim gerektirmeyen şantaj. FBI, reşit olmayanlar da dahil olmak üzere kurbanların genellikle “görüntülerinin kopyalandığının, değiştirildiğinin ve dolaştırıldığının, başka biri dikkatlerine getirene kadar farkında olmadığını” bildiriyor. Bkz. yapay zeka destekli sextortion.
• Zorbalık Sahte parçalar, sahte “makbuzlar” ve bir yaş grubu içinde elden ele dolaştırılan küçük düşürücü görüntüler — sentetik “kanıt” ile daha inandırıcı hâle getirilmiş akran tacizi. Bu, tam olarak siber zorbalığın içinde yer alır.
• Sahte kişiler Catfish profillerinin arkasındaki sentetik yüzler ve kişilikler, bir yabancıyı inandırıcı bir genç gibi gösterir. Çevrim içi bir kişinin gerçek olup olmadığını kontrol etme rehberimiz hâlâ geçerlidir — yalnızca artık daha çok çalışması gerekiyor.

Ölçek gerçektir ama kolayca yanlış okunur. 2024’te National Center for Missing & Exploited Children, üretici yapay zekayı içeren ihbarlarda %1.325’lik bir artış kaydetti ve 2024 ile 2025 boyunca yapay zeka üretimi çocuk cinsel istismarı materyalinin 275’ten fazla doğrudan kurbanını saptadı — çoğu zaman çocuğun hayatında zaten var olan biri tarafından istismar edilmiş. Ham 2025 toplamları çok daha büyük görünüyor, ama NCMEC uyarıyor ki bu hacmin çoğu tek bir ihbar kaynağından geldi ve harekete geçecek kadar ayrıntıdan yoksundu. Bu vakaları okumak zordur. Aynı zamanda atlatılabilirler ve müdahale iyi oturmuştur.

Çocuğunuz hiç hedef alınmasa bile bunun neden önemi var

Hedef alınsın ya da alınmasın, her genci etkileyen daha sessiz bir sonuç var. Nesiller boyu, “kendi gözlerimle gördüm” bir tartışmanın sonu demekti. Deepfake’ler o çağı bitiriyor. Herhangi bir görüntü sahte olabildiğinde, aynı anda iki şey olur: yanlış şeylere inanmak kolaylaşır ve — daha da yıkıcı olanı — gerçek şeyleri inkâr etmek kolaylaşır.

İronik biçimde, gerçek söz ve eylemlerinin sorumluluğundan kaçmaya çalışan yalancılar, kamuoyu deep fake’lerin oluşturduğu tehditler konusunda daha bilgili hâle geldikçe daha inandırıcı olacaklar.

— Bobby Chesney & Danielle Citron, “Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security,” California Law Review (2019)

Hukuk akademisyenleri buna yalancının kâr payı diyor: sahtelerin var olduğunu herkes bildiğinde, gerçek bir video “muhtemelen yapay zeka” denilerek bir kenara itilebilir. Bir genç için bu, zorbalığın gerçek bir ekran görüntüsünün uydurma diye reddedilmesi ya da gerçek bir özrün inkâr edilmesi anlamına gelebilir. Deepfake’lerin zararı yalnızca sahtelerin kendisi değildir — gerçek olan her şeyin üzerine düşürdükleri şüphedir. Tartışmanın tamamını California Law Review’da okuyabilirsiniz.

İçgüdü, sahteleri fark etmeyi öğrenmektir. Klasik ipuçlarını bilmek değerlidir — tuhaf eller, garip dişler, uyumsuz ışıklandırma, doğal olmayan göz kırpmalar — ama bu giderek zayıflayan bir beceridir. MIT’nin Media Lab’i açıkça “tek bir kesin işaret yok” diyor ve araştırmacılar 2025’te saptama araçlarını gerçek dünya sahtelerine karşı test ettiğinde, doğrulukları keskin biçimde düştü — teknoloji gelişmeyi sürdürürken bile. Hataları fark etmek hâlâ yararlıdır, ama artık yeterli değildir.

Böylece hedef kayar — sahteyi fark etmekten, kaynağı doğrulamaya. Bu, bir ailenin geliştirebileceği bir alışkanlıktır ve keskin bir göze bağlı değildir.

Bunların hiçbiri çocuğunuzun telefonundan korkmasını gerektirmez ve hiçbiri sizin bir adli analist olmanızı gerektirmez. Gerektirdiği şey, paylaşılan bir kuraldır — tepki vermeden önce doğrula — ve onu örnekleyecek kadar sakin bir ebeveyn. Bu rehberin geri kalanı risk risk ilerler: sahte mahrem görüntülerin nasıl yapıldığı ve nasıl yanıtlandığı, yapay zeka sextortion’ının nasıl işlediği, ses klonlama dolandırıcılıklarının ailenize nasıl ulaştığı ve yapay zekanın catfish’i nasıl yeniden inşa ettiği. Mekanizmayı bir kez anlayın, bunların her biri bir gizem olmaktan çıkıp bir planı olan bir soruna dönüşür.

Sıkça sorulan sorular