Was sind Deepfakes? Wie KI Fotos, Videos und Stimmen fälscht

Was ein Deepfake wirklich ist

Die meisten Eltern begegnen dem Wort zuerst in einer Schlagzeile — eine prominente Person, die das nie gesagt hat, ein Politiker, der nie dort stand, das Gesicht eines Mitschülers auf einem Körper, der nie der seine war. Die Schlagzeilen sind real, aber sie lassen eine Lücke: eine brauchbare Definition, mit der Eltern tatsächlich etwas anfangen können. Ohne sie wirkt jedes merkwürdige Foto entweder harmlos oder bedrohlich, und keine der beiden Vermutungen hilft Ihrem Kind.

Ein Deepfake (auch als zwei Wörter geschrieben, deep fake) ist ein Stück synthetisches Material — ein Bild, ein Video oder ein Audioclip —, das von künstlicher Intelligenz erzeugt oder so verändert wurde, dass es eine reale Person überzeugend bei etwas zeigt, das sie nie getan oder gesagt hat. Die Encyclopædia Britannica definiert ihn als synthetisches Material, „das etwas darstellt, das in der Realität nicht existiert, oder Ereignisse, die nie stattgefunden haben“. Das Wort selbst ist ein Kofferwort aus Deep Learning, der KI-Technik, die es antreibt, und Fake — und das Wort ist jünger als die Jugendlichen, die es heute betrifft.

Der Begriff entstand Ende 2017, als ein Reddit-Nutzer ein Subreddit namens „r/deepfakes“ einrichtete und dort Videos mit ausgetauschten Gesichtern postete, womit er der gesamten Kategorie ihren Namen gab. In weniger als einem Jahrzehnt ist er von einem unscheinbaren Winkel des Internets zu einem Problem auf dem Schulflur gewandert. Dieses Tempo zählt: Die Technik, mit der Ihr Kind lebt, ist neuer als die meisten Ratschläge, die Eltern dazu gehört haben.

Ein einziges Etikett spannt sich heute über drei verschiedene Dinge — ein auf einen anderen Körper montiertes Gesicht, eine aus einer kurzen Aufnahme geklonte Stimme und, an seinem unschärfsten Rand, ein Gesicht, das niemandem gehört. Streng genommen ahmt ein Deepfake eine reale Person nach oder verändert sie; ein vollständig erfundenes Gesicht ist ein naher Verwandter — synthetisches Material, das auf dieselbe Weise verwendet wird, in gefälschten Profilen und Betrugsmaschen. Was sie eint, ist nicht, wie sie gebaut sind, sondern was sie erreichen: ein Ergebnis, das echt genug ist, um geglaubt zu werden. Der übergeordnete Leitfaden zu KI-Risiken für Jugendliche behandelt jede Form als verstärkte Version einer älteren Gefahr; dieser Leitfaden bleibt beim Deepfake selbst — was er ist, wie er entsteht und warum er plötzlich überall ist.

Wie Deepfakes wirklich entstehen

Sie müssen nicht wissen, wie man einen baut, um Ihr Kind davor zu schützen — und dieser Leitfaden wird es auch nicht erklären. Doch wer als Elternteil die grobe Mechanik versteht, ist sehr viel schwerer zu täuschen und viel besser darin, das Risiko einem skeptischen Jugendlichen zu erklären. Im Kern fast jedes Deepfakes steht eine einfache Idee: Zeigen Sie einem KI-Modell genügend echte Beispiele eines Gesichts oder einer Stimme, und es lernt, überzeugende neue zu erzeugen.

Die bekannteste Methode ist das Generative Adversarial Network, kurz GAN — ein Wendepunkt der Technik, als es Mitte der 2010er-Jahre auftauchte. Zwei KI-Modelle werden gegeneinander gesetzt, in einer Art Fälscher-und-Prüfer-Spiel, und der Fälscher verbessert sich immer weiter, bis der Prüfer ihn nicht mehr ertappen kann.

Deepfakes werden häufig mithilfe von Generative Adversarial Networks (GANs) erzeugt, bei denen zwei verschiedene KI-Deep-Learning-Modelle in einem Ratespiel zusammenwirken. Eines der Modelle erstellt die bestmögliche Nachbildung eines echten Bildes oder Videos, und das andere erkennt, ob die Nachbildung gefälscht ist, und meldet, wenn es einen Fehler findet, die Unterschiede zwischen ihr und dem Original.

— Encyclopædia Britannica, „Deepfake“

Neuere Systeme nutzen Diffusionsmodelle — heute in Bild- und Videowerkzeugen verbreitet —, die von zufälligem Rauschen ausgehen und es Schritt für Schritt zu einem Bild verfeinern, das einer Beschreibung entspricht. Face-Swap-Videos stützen sich tendenziell wieder auf ein anderes Werkzeug — ein Netz, das MIT Sloan als „variational auto-encoder“ beschreibt, trainiert darauf, ein Gesicht in ein kompaktes Muster zu komprimieren und es auf dem Kopf einer anderen Person wieder aufzubauen. Eine Stimme wird geklont, indem man ein Modell mit echten Aufnahmen füttert, bis es nachahmen kann, wie eine Person spricht. Die Details unterscheiden sich; das Prinzip nicht. Zeigen Sie der Maschine genug von etwas Echtem, und sie wird etwas Falsches herstellen.

Die technischen Einzelheiten entwickeln sich schneller, als irgendein Elternteil mithalten kann — und sie müssen nicht verfolgt werden. Dieselben Modellfamilien, die harmlose Fotofilter und Hausaufgabenhelfer antreiben, treiben auch den Missbrauch an, und genau deshalb ist die Technik so schwer abzuriegeln und deshalb lautet die nützliche Frage nicht „Wie verbiete ich es“, sondern „Wie überprüfen wir, was wir vor uns haben“.

Die drei Formen, denen Sie tatsächlich begegnen

Für ein Elternteil ist die nützliche Einteilung nicht technisch. Es geht darum, was ankommt — auf dem Handy Ihres Kindes, in Ihrer eigenen Mailbox oder in einem Gruppenchat. Drei Formen decken nahezu alles ab.

Die Grenzen verschwimmen: Ein gefälschtes Profil kann ein synthetisches Gesicht mit einer geklonten Stimme und einem als „Beweis“ angebotenen Gesichtstausch-Clip verbinden. Diese letzte Form ist es, mit der KI den klassischen Catfish neu erschafft — der Pillar behandelt KI-erzeugte Catfish-Personas im Detail. Doch die Form zu benennen ist der erste Schritt, um das konkrete Ding zu beurteilen, das Ihrem Kind zugeschickt wurde.

Warum es plötzlich billig, schnell und einfach wurde

Für den größten Teil der Computergeschichte brauchte das überzeugende Fälschen eines Gesichts ein Studio, ein Budget und eine Fachkraft. Zwei Dinge haben das geändert. Das erste war der bereits beschriebene technische Sprung — die generativen Methoden, die Mitte der 2010er-Jahre auftauchten. Das zweite war die Verbreitung: kostenlose, herunterladbare Werkzeuge und Dienste, die die Hürde für Nicht-Fachleute stetig senkten. Was einst ein Studio und eine Fachkraft erforderte, ist weitaus zugänglicher geworden.

Die Veränderung, die für ein Elternteil am wichtigsten ist, betrifft nicht das Tempo, sondern das Ausgangsmaterial. Ein Deepfake braucht nicht länger ein privates oder kompromittierendes Bild als Anfang. Er braucht nur gewöhnliche Bilder eines Gesichts — die Art, die ohnehin schon in einem Jahrbuch, einer Mannschaftsaufstellung, dem Beitrag einer Freundin, einem öffentlichen Profil oder einem alten Konto liegen. Das FBI warnt, dass böswillige Akteure „Fotos oder Videos — typischerweise aus dem Social-Media-Konto einer Person, dem offenen Internet oder vom Opfer angefragt“ — entnehmen und daraus etwas machen, das die Person nie getan hat. Das Ausgangsmaterial ist der gewöhnliche digitale Fußabdruck, den jeder Jugendliche online hinterlässt — und genau deshalb ist ein kleinerer, privaterer Fußabdruck einer der wenigen praktischen Schutzmechanismen, nicht weil das Posten je der Fehler des Kindes gewesen wäre.

Die Zahlen folgen der Ausbreitung. Die erste echte Bestandsaufnahme von Deepfakes, der Deeptrace-Bericht von 2019, zählte 14.678 Deepfake-Videos online — fast doppelt so viele wie sieben Monate zuvor, und 96 % davon waren nicht einvernehmliche Pornografie. Bis 2023 meldete das Unternehmen für Identitätsprüfung Sumsub einen zehnfachen Anstieg der von ihm erkannten Deepfakes innerhalb eines einzigen Jahres. Die beiden Zählungen messen Unterschiedliches — Videos online gegenüber bei Identitätsprüfungen ertappten Fälschungen —, aber sie weisen in dieselbe Richtung: In nur wenigen Jahren ist synthetisches Material von einer Kuriosität zu einem Problem im Massenmaßstab geworden.

Wo Jugendliche tatsächlich auf Deepfakes stoßen

Das meiste KI-veränderte Material, das Ihr Kind sieht, ist harmlos — Gesichtsfilter, scherzhafte Voice-overs, Verjüngungseffekte — und alles davon als Bedrohung zu behandeln, wird Sie nur Ihre Glaubwürdigkeit kosten. Der Schaden beginnt, wenn dieselben Techniken synthetischen Materials genutzt werden, um sich auszugeben, zu demütigen, zu betrügen oder zu nötigen, und er erreicht Jugendliche durch eine Handvoll wiedererkennbarer Türen.

• Betrugsanrufe und -nachrichten Eine geklonte Stimme treibt den „Familiennotfall“-Anruf an. Die FTC warnt, ein Betrüger brauche nur „einen kurzen Audioclip … den er aus online geposteten Inhalten beziehen könnte“. Die Stimme am anderen Ende kann die eines Verwandten sein — oder die Ihres Kindes, geklont, um Sie zu täuschen.
• Gefälschte intime Bilder Gewöhnliche Fotos, in explizite Fälschungen verwandelt. Das hat reale Schulen getroffen: Ende 2023 wurde ein Schüler an einer High School in New Jersey beschuldigt, KI eingesetzt zu haben, um Nacktbilder von Mitschülerinnen zu fälschen — eines der Mädchen sagte, sie sei unter mehr als dreißig Betroffenen gewesen. Das Kind auf einem solchen Foto hat nichts falsch gemacht; die Person, die es erstellt hat, schon. Der Pillar behandelt Deepfake-Nacktbilder und „Nudify“-Apps in voller Länge.
• Sextortion Erpressung, die kein echtes Bild mehr benötigt. Das FBI berichtet, dass Opfer, darunter Minderjährige, oft „nichts davon wussten, dass ihre Bilder kopiert, manipuliert und in Umlauf gebracht wurden, bis jemand anderes sie darauf aufmerksam machte“. Siehe KI-gestützte Sextortion.
• Mobbing Gefälschte Clips, gefälschte „Belege“ und demütigende Bilder, die durch einen Jahrgang weitergereicht werden — Belästigung unter Gleichaltrigen, die durch synthetische „Beweise“ überzeugender wird. Das fällt klar unter Cybermobbing.
• Erfundene Menschen Synthetische Gesichter und Personas hinter Catfish-Profilen, die eine fremde Person wie einen glaubwürdigen Jugendlichen aussehen lassen. Unser Leitfaden zum Prüfen, ob eine Person online echt ist gilt weiterhin — er muss nur härter arbeiten als früher.

Das Ausmaß ist real, aber leicht falsch zu deuten. 2024 verzeichnete das National Center for Missing & Exploited Children einen Anstieg der Meldungen mit Bezug zu generativer KI um 1.325 %, und über 2024 und 2025 hinweg identifizierte es mehr als 275 unmittelbare Opfer von KI-generiertem Material sexuellen Kindesmissbrauchs — oft missbraucht von jemandem, der bereits im Leben des Kindes war. Die Rohzahlen für 2025 wirken noch weit größer, doch NCMEC mahnt, dass der größte Teil dieses Volumens aus einer einzigen meldenden Quelle stammte und nicht genügend Details enthielt, um darauf zu reagieren. Über diese Fälle ist schwer zu lesen. Sie sind auch überstehbar, und die Reaktion darauf ist gut etabliert.

Warum das zählt, selbst wenn Ihr Kind nie zur Zielscheibe wird

Es gibt eine stillere Folge, die jeden Jugendlichen berührt, ob zur Zielscheibe geworden oder nicht. Über Generationen hinweg war „Ich habe es mit eigenen Augen gesehen“ das Ende einer Diskussion. Deepfakes beenden diese Ära. Wenn jedes Bild gefälscht sein kann, geschehen zwei Dinge zugleich: Falsches wird leichter zu glauben und — noch zersetzender — Wahres wird leichter abzustreiten.

Ironischerweise werden Lügner, die der Verantwortung für ihre echten Worte und Taten entgehen wollen, glaubwürdiger, je besser die Öffentlichkeit über die von Deep Fakes ausgehenden Gefahren aufgeklärt ist.

— Bobby Chesney & Danielle Citron, „Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security“, California Law Review (2019)

Rechtswissenschaftler nennen das die Dividende des Lügners: Sobald jeder weiß, dass Fälschungen existieren, lässt sich ein echtes Video als „wahrscheinlich KI“ abtun. Für einen Jugendlichen kann das bedeuten, dass ein echter Screenshot von Mobbing als erfunden abgetan oder eine echte Entschuldigung geleugnet wird. Der Schaden durch Deepfakes liegt nicht nur in den Fälschungen selbst — er liegt in dem Zweifel, den sie über alles Echte werfen. Die vollständige Argumentation können Sie im California Law Review nachlesen.

Der Reflex ist, lernen zu wollen, die Fälschungen zu erkennen. Es lohnt sich, die klassischen Anzeichen zu kennen — merkwürdige Hände, seltsame Zähne, nicht zusammenpassendes Licht, unnatürliches Blinzeln —, aber es ist eine schwindende Fähigkeit. Das Media Lab des MIT sagt unverblümt, es gebe „kein einziges verräterisches Zeichen“, und als Forschende 2025 Erkennungswerkzeuge an realen Fälschungen testeten, sank deren Treffsicherheit stark — und das, während die Technik sich immer weiter verbessert. Fehler zu erkennen ist weiterhin nützlich, aber es reicht nicht mehr.

Das Ziel verschiebt sich also — vom Erkennen der Fälschung zum Überprüfen der Quelle. Das ist eine Gewohnheit, die eine Familie aufbauen kann, und sie hängt nicht von einem scharfen Auge ab.

Nichts davon verlangt, dass Ihr Kind sein Handy fürchtet, und nichts davon verlangt, dass Sie zum forensischen Analysten werden. Es verlangt eine gemeinsame Regel — überprüfen, bevor man reagiert — und ein Elternteil, das ruhig genug ist, sie vorzuleben. Der Rest dieses Leitfadens geht Risiko für Risiko vor: wie gefälschte intime Bilder entstehen und beantwortet werden, wie KI-Sextortion funktioniert, wie Betrugsmaschen mit Stimmenklon Ihre Familie erreichen und wie KI den Catfish neu aufbaut. Verstehen Sie die Mechanik einmal, und jede davon hört auf, ein Rätsel zu sein, und wird zu einem Problem mit einem Plan.

Häufig gestellte Fragen