Czym są deepfake'i? Jak AI fałszuje zdjęcia, filmy i głosy

Czym deepfake naprawdę jest

Większość rodziców po raz pierwszy spotyka to słowo w nagłówku — celebryta, który nigdy czegoś nie powiedział, polityk, który nigdy tam nie stał, twarz kolegi z klasy na ciele, które nigdy nie było jego. Nagłówki są prawdziwe, ale pozostawiają lukę: roboczą definicję, z której rodzic mógłby naprawdę skorzystać. Bez niej każde dziwne zdjęcie wygląda albo na nieszkodliwe, albo na złowrogie, a żadne z tych przypuszczeń nie pomaga nastolatkowi.

Deepfake (zapisywany też jako dwa słowa, deep fake) to fragment materiału syntetycznego — obraz, film lub nagranie dźwiękowe — stworzony lub zmieniony przez sztuczną inteligencję tak, by przekonująco pokazać prawdziwą osobę robiącą albo mówiącą coś, czego nigdy nie zrobiła ani nie powiedziała. Encyclopædia Britannica definiuje go jako materiał syntetyczny „przedstawiający coś, co nie istnieje w rzeczywistości, lub zdarzenia, które nigdy nie nastąpiły”. Samo słowo to zlepek wyrażeń deep learning, czyli zasilającej je techniki AI, oraz fake — i jest młodsze niż nastolatki, na które dziś wpływa.

Termin pojawił się pod koniec 2017 roku, gdy użytkownik Reddita stworzył subreddit o nazwie „r/deepfakes” i zaczął zamieszczać tam filmy z podmienionymi twarzami, nadając tym samym całej kategorii jej nazwę. W niespełna dekadę przewędrował on z niszowego zakątka internetu do problemu na szkolnym korytarzu. To tempo ma znaczenie: technologia, z którą żyje nastolatek, jest nowsza niż większość porad na jej temat, jakie słyszeli rodzice.

Jedno określenie rozciąga się dziś na trzy różne rzeczy — twarz nałożoną na cudze ciało, głos sklonowany z krótkiego nagrania oraz, na swoim najluźniejszym krańcu, twarz, która nie należy do nikogo. Ściśle rzecz biorąc, deepfake naśladuje lub zmienia prawdziwą osobę; w pełni zmyślona twarz to bliski kuzyn — materiał syntetyczny używany w ten sam sposób, w fałszywych profilach i oszustwach. Łączy je nie sposób, w jaki są zbudowane, lecz to, co osiągają: efekt na tyle autentyczny, by w niego uwierzyć. Przewodnik filarowy o zagrożeniach związanych z AI dla nastolatków traktuje każdą z nich jako wzmocnioną wersję starszego niebezpieczeństwa; ten przewodnik skupia się na samym deepfake'u — czym jest, jak powstaje i dlaczego nagle jest wszędzie.

Jak deepfake'i naprawdę powstają

Nie trzeba wiedzieć, jak go zbudować, by chronić przed nim nastolatka — i ten przewodnik nie wyjaśni, jak to zrobić. Ale rodzica, który rozumie ogólny mechanizm, znacznie trudniej oszukać i znacznie łatwiej mu wytłumaczyć ryzyko sceptycznemu nastolatkowi. W sercu niemal każdego deepfake'a leży jedna prosta myśl: wystarczy pokazać modelowi AI dość prawdziwych przykładów twarzy lub głosu, a nauczy się on tworzyć przekonujące nowe.

Najbardziej znana metoda to generatywna sieć przeciwstawna, czyli GAN — punkt zwrotny w tej technologii, gdy pojawiła się w połowie lat 2010. Dwa modele AI stawia się przeciwko sobie w czymś na kształt gry fałszerza i kontrolera, a fałszerz wciąż się doskonali, aż kontroler nie potrafi go już złapać.

Deepfake'i często powstają z użyciem generatywnych sieci przeciwstawnych (GAN), w których dwa różne, głęboko uczone modele AI współpracują w grze w zgadywanie. Jeden z modeli tworzy najlepszą możliwą replikę prawdziwego obrazu lub filmu, a drugi wykrywa, czy replika jest fałszywa, i jeśli wykryje błąd, raportuje różnice między nią a oryginałem.

— Encyclopædia Britannica, „Deepfake”

Nowsze systemy wykorzystują modele dyfuzyjne — dziś powszechne w narzędziach do obrazu i wideo — które zaczynają od losowego szumu i krok po kroku doprecyzowują go w obraz pasujący do opisu. Wideo z podmianą twarzy zwykle opiera się z kolei na innym narzędziu — sieci, którą MIT Sloan opisuje jako „wariacyjny autoenkoder”, wytrenowany tak, by skompresować twarz do zwartego wzorca i odtworzyć ją na cudzej głowie. Głos klonuje się, podając modelowi prawdziwe nagrania, aż potrafi naśladować sposób, w jaki dana osoba mówi. Szczegóły się różnią; zasada nie. Wystarczy pokazać maszynie dość czegoś prawdziwego, a wytworzy ona coś fałszywego.

Techniczne szczegóły zmieniają się szybciej, niż jakikolwiek rodzic jest w stanie śledzić — i nie trzeba ich śledzić. Te same rodziny modeli, które zasilają nieszkodliwe filtry do zdjęć i pomocniki do prac domowych, zasilają też nadużycia, i właśnie dlatego tę technologię tak trudno odgrodzić, a użytecznym pytaniem nie jest „jak ją zakazać”, lecz „jak weryfikujemy to, na co patrzymy”.

Trzy formy, które naprawdę spotkacie

Dla rodzica użyteczna klasyfikacja nie jest techniczna. Chodzi o to, co przychodzi — na telefon nastolatka, na Państwa pocztę głosową albo na czat grupowy. Trzy formy obejmują niemal wszystko.

Granice się zacierają: fałszywy profil może połączyć syntetyczną twarz ze sklonowanym głosem i klipem z podmienioną twarzą podanym jako „dowód”. Ta ostatnia forma to sposób, w jaki AI odbudowuje klasycznego catfisha — filar omawia budowane przez AI persony catfishingowe szczegółowo. Ale nazwanie formy to pierwszy krok do oceny tej konkretnej rzeczy, którą wysłano nastolatkowi.

Dlaczego nagle stało się to tanie, szybkie i łatwe

Przez większość historii informatyki przekonujące sfałszowanie twarzy wymagało studia, budżetu i specjalisty. Zmieniły to dwie rzeczy. Pierwszą był opisany już skok techniczny — metody generatywne, które pojawiły się w połowie lat 2010. Drugą była dystrybucja: darmowe narzędzia i usługi do pobrania, które stopniowo obniżały próg wejścia dla laików. To, co kiedyś wymagało studia i specjalisty, stało się znacznie bardziej dostępne.

Zmianą, która dla rodzica liczy się najbardziej, nie jest szybkość, lecz materiał wyjściowy. Deepfake nie potrzebuje już na początek prywatnego ani kompromitującego obrazu. Potrzebuje jedynie zwykłych zdjęć twarzy — takich, jakie już są w księdze pamiątkowej, składzie drużyny, poście znajomego, publicznym profilu czy starym koncie. FBI ostrzega, że złośliwi sprawcy biorą „zdjęcia lub filmy — zwykle pozyskane z konta danej osoby w mediach społecznościowych, z ogólnodostępnego internetu lub wyłudzone od ofiary” — i zamieniają je w coś, czego dana osoba nigdy nie zrobiła. Materiałem wyjściowym jest zwykły ślad cyfrowy, jaki każdy nastolatek zostawia w internecie — i dlatego mniejszy, bardziej prywatny ślad to jedna z nielicznych praktycznych ochron, nie dlatego, że publikowanie kiedykolwiek było winą nastolatka.

Liczby śledzą to rozprzestrzenianie. Pierwszy prawdziwy spis deepfake'ów, raport Deeptrace z 2019 roku, naliczył 14 678 filmów deepfake w internecie — prawie dwukrotnie więcej niż siedem miesięcy wcześniej, z czego 96% to niekonsensualna pornografia. Do 2023 roku firma zajmująca się weryfikacją tożsamości Sumsub odnotowała dziesięciokrotny wzrost wykrytych przez siebie deepfake'ów w ciągu jednego roku. Te dwa zestawienia mierzą różne rzeczy — filmy w internecie wobec fałszywek wyłapanych przy kontroli tożsamości — ale wskazują w tę samą stronę: w zaledwie kilka lat materiał syntetyczny przeszedł od ciekawostki do problemu na masową skalę.

Gdzie nastolatki naprawdę trafiają na deepfake'i

Większość materiałów zmienionych przez AI, które widzi nastolatek, jest nieszkodliwa — filtry twarzy, żartobliwe podkłady głosowe, efekty odmładzania — a traktowanie wszystkich jako zagrożenia tylko odbierze Państwu wiarygodność. Szkoda zaczyna się, gdy te same techniki tworzenia materiałów syntetycznych służą do podszywania się, upokarzania, oszukiwania lub przymuszania, a do nastolatków dociera przez kilkoro rozpoznawalnych drzwi.

• Oszukańcze telefony i wiadomości Sklonowany głos napędza telefon „o nagłym wypadku w rodzinie”. FTC ostrzega, że oszustowi wystarczy „krótki fragment dźwięku… który mógłby zdobyć z treści zamieszczonych w internecie”. Głos w słuchawce może należeć do krewnego — albo do Państwa nastolatka, sklonowany, by Państwa zwieść.
• Fałszywe intymne obrazy Zwykłe zdjęcia zamienione w fałszywe treści o charakterze jawnie seksualnym. Dotknęło to realnych szkół: pod koniec 2023 roku uczeń pewnego liceum w New Jersey został oskarżony o użycie AI do sfałszowania nagich zdjęć koleżanek z klasy — jedna z dziewcząt powiedziała, że była wśród ponad trzydziestu osób, które stały się celem. Dziecko na takim zdjęciu nie zrobiło nic złego; zrobiła to osoba, która je stworzyła. Filar w pełni omawia nagie deepfake'i i aplikacje „nudify”.
• Sekstorcja Szantaż, który nie potrzebuje już prawdziwego zdjęcia. FBI donosi, że ofiary, w tym nieletnie, często są „nieświadome, że ich zdjęcia skopiowano, zmanipulowano i rozpowszechniono, dopóki ktoś inny nie zwrócił im na to uwagi”. Zobacz sekstorcję napędzaną przez AI.
• Nękanie Fałszywe klipy, fałszywe „dowody” i upokarzające obrazy krążące po roczniku — nękanie rówieśnicze uwiarygodnione przez syntetyczny „dowód”. Mieści się ono wprost w obszarze cyberprzemocy.
• Fałszywi ludzie Syntetyczne twarze i persony stojące za profilami catfishingowymi, sprawiające, że nieznajomy wygląda jak wiarygodny nastolatek. Nasz przewodnik o sprawdzaniu, czy osoba poznana online jest prawdziwa wciąż obowiązuje — musi tylko teraz pracować ciężej.

Skala jest realna, lecz łatwa do błędnego odczytania. W 2024 roku National Center for Missing & Exploited Children odnotowało wzrost o 1325% zgłoszeń dotyczących generatywnej AI, a na przestrzeni lat 2024 i 2025 zidentyfikowało ponad 275 bezpośrednich ofiar generowanego przez AI materiału przedstawiającego seksualne wykorzystywanie dzieci — często krzywdzonych przez kogoś już obecnego w życiu dziecka. Surowe sumy z 2025 roku wyglądają na jeszcze znacznie większe, ale NCMEC przestrzega, że większość tej liczby pochodziła z jednego źródła zgłoszeń i nie miała dość szczegółów, by można było na ich podstawie działać. O tych przypadkach trudno się czyta. Są one jednak do przetrwania, a sposób reagowania jest dobrze ugruntowany.

Dlaczego ma to znaczenie, nawet jeśli dziecko nigdy nie stanie się celem

Istnieje cichsza konsekwencja, która dotyka każdego nastolatka, celu lub nie. Przez pokolenia „widziałem to na własne oczy” kończyło spór. Deepfake'i kończą tę epokę. Gdy dowolny obraz może być fałszywy, dzieją się naraz dwie rzeczy: w fałszywe rzeczy łatwiej uwierzyć, a — co bardziej niszczące — prawdziwe rzeczy łatwiej zanegować.

Paradoksalnie kłamcy próbujący uniknąć odpowiedzialności za swoje rzeczywiste słowa i czyny będą stawać się bardziej wiarygodni, w miarę jak społeczeństwo coraz lepiej rozumie zagrożenia, jakie niosą deepfake'i.

— Bobby Chesney i Danielle Citron, „Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security”, California Law Review (2019)

Prawnicy nazywają to dywidendą kłamcy: gdy wszyscy już wiedzą, że fałszywki istnieją, prawdziwy film można zbyć machnięciem ręki jako „pewnie AI”. Dla nastolatka może to oznaczać autentyczny zrzut ekranu z nękaniem odrzucony jako sfabrykowany albo zaprzeczone prawdziwe przeprosiny. Szkoda płynąca z deepfake'ów to nie tylko same fałszywki — to wątpliwość, jaką rzucają na wszystko, co prawdziwe. Pełny wywód mogą Państwo przeczytać w California Law Review.

Odruchem jest nauczyć się rozpoznawać fałszywki. Warto znać klasyczne sygnały — dziwne dłonie, dziwne zęby, niespójne oświetlenie, nienaturalne mruganie — ale to umiejętność coraz mniej skuteczna. Media Lab w MIT jasno stwierdza, że „nie ma jednego niezawodnego sygnału”, a gdy badacze w 2025 roku przetestowali narzędzia wykrywające na rzeczywistych fałszywkach, ich trafność gwałtownie spadła — mimo że technologia wciąż się doskonali. Wyłapywanie błędów wciąż jest przydatne, ale już nie wystarcza.

Cel się więc przesuwa — z rozpoznawania fałszywki na weryfikowanie źródła. To nawyk, który rodzina może wyrobić, i nie zależy on od bystrego oka.

Nic z tego nie wymaga, by nastolatek bał się swojego telefonu, i nic z tego nie wymaga, by stali się Państwo analitykiem śledczym. Wymaga to wspólnej reguły — zweryfikować, zanim się zareaguje — oraz rodzica na tyle spokojnego, by ją modelować. Reszta tego przewodnika idzie ryzyko po ryzyku: jak powstają i jak odpowiadać na fałszywe intymne obrazy, jak działa sekstorcja z udziałem AI, jak oszustwa z klonowaniem głosu docierają do Państwa rodziny i jak AI odbudowuje catfisha. Wystarczy raz zrozumieć tę mechanikę, a każde z tych zagrożeń przestaje być zagadką i staje się problemem z planem.

Często zadawane pytania