Co jsou deepfaky? Jak umělá inteligence falšuje fotografie, videa a hlasy
Deepfake je médium vytvořené nebo upravené umělou inteligencí, které přesvědčivě napodobuje skutečnou osobu. Klidný průvodce založený na faktech pro rodiče: co deepfaky jsou, jak vznikají a co znamenají pro vaše dospívající dítě.
Co deepfake doopravdy je
Většina rodičů se s tím slovem poprvé setká v titulku — celebrita, která nikdy nic takového neřekla, politik, který tam nikdy nestál, tvář spolužačky na těle, které nikdy nebylo její. Titulky jsou pravdivé, ale zůstává v nich mezera: funkční definice, kterou rodič může opravdu použít. Bez ní každá podivná fotografie vypadá buď neškodně, nebo zlověstně, a ani jeden odhad vašemu dítěti nepomůže.
Deepfake (psáno také jako dvě slova, deep fake) je kus syntetického média — obrázek, video nebo zvuková nahrávka —, vytvořený nebo upravený umělou inteligencí tak, aby přesvědčivě ukazoval skutečnou osobu, jak dělá nebo říká něco, co nikdy neudělala ani neřekla. Encyclopædia Britannica jej definuje jako syntetické médium, „které zobrazuje něco, co ve skutečnosti neexistuje, nebo události, které se nikdy nestaly“. Samo slovo je složeninou výrazů deep learning (hluboké učení), techniky umělé inteligence, která ho pohání, a fake (podvrh) — a to slovo je mladší než dospívající, které dnes zasahuje.
Pojem se objevil koncem roku 2017, když jeden uživatel Redditu vytvořil subreddit nazvaný „r/deepfakes“ a začal tam zveřejňovat videa s vyměněnými tvářemi, čímž dal celé kategorii jméno. Za necelé desetiletí se přesunul z neznámého koutu internetu na problém školních chodeb. Na té rychlosti záleží: technologie, se kterou vaše dítě žije, je novější než většina rad, které o ní rodiče slyšeli.
Jeden štítek se dnes natahuje přes tři různé věci — tvář vloženou na cizí tělo, hlas naklonovaný z krátké nahrávky a, na svém nejvolnějším okraji, tvář, která nepatří nikomu. Striktně vzato deepfake napodobuje nebo upravuje skutečnou osobu; zcela vymyšlená tvář je blízkým příbuzným — syntetickým médiem používaným stejným způsobem, ve falešných profilech a podvodech. Co je spojuje, není to, jak jsou vytvořené, ale čeho dosahují: výsledku natolik autentického, aby mu člověk uvěřil. Pilířový průvodce riziky umělé inteligence pro dospívající pojednává o každém z nich jako o zesílené verzi staršího nebezpečí; tento průvodce zůstává u samotného deepfaku — co je, jak vzniká a proč je najednou všude.
Jak deepfaky doopravdy vznikají
Abyste své dítě před deepfakem ochránili, nemusíte umět žádný vytvořit — a tento průvodce nevysvětlí, jak na to. Ale rodiče, kteří chápou hrubou mechaniku, je mnohem těžší oklamat a mnohem lépe dokážou riziko vysvětlit skeptickému dospívajícímu. V jádru téměř každého deepfaku je jedna prostá myšlenka: ukažte modelu umělé inteligence dost skutečných příkladů tváře nebo hlasu a on se naučí vytvářet přesvědčivé nové.
Nejznámější metodou je generativní soupeřící síť, neboli GAN — když přišla v polovině desátých let, znamenala v technologii zlom. Dva modely umělé inteligence jsou postaveny proti sobě v něčem, co se podobá hře na padělatele a inspektora, a padělatel se neustále zlepšuje, dokud ho inspektor už nedokáže přistihnout.
Deepfaky se často vytvářejí pomocí generativních soupeřících sítí (GAN), v nichž dva různé modely hlubokého učení spolupracují ve hře na hádání. Jeden z modelů vytváří co nejlepší repliku skutečného obrázku nebo videa a druhý zjišťuje, zda je replika falešná, a pokud odhalí chybu, hlásí rozdíly mezi ní a originálem.
— Encyclopædia Britannica, „Deepfake“
Novější systémy používají difuzní modely — dnes běžné v nástrojích na obrázky a videa —, které začínají náhodným šumem a krok za krokem ho zpřesňují do obrázku, který odpovídá popisu. Video s výměnou tváří se obvykle opírá zase o jiný nástroj — síť, kterou MIT Sloan popisuje jako „variační autoenkodér“, trénovanou na to, aby tvář zhustila do kompaktního vzorce a znovu ji sestavila na hlavě někoho jiného. Hlas se klonuje tak, že se modelu předkládají skutečné nahrávky, dokud nedokáže napodobit, jak daná osoba mluví. Podrobnosti se liší; princip nikoli. Ukažte stroji dost něčeho skutečného a on vyrobí něco falešného.
Technické detaily se mění rychleji, než kterýkoli rodič stačí sledovat — a sledovat je nepotřebuje. Stejné rodiny modelů, které pohánějí neškodné fotografické filtry a pomocníky s domácími úkoly, pohánějí i zneužívání, což je přesně důvod, proč se ta technologie tak těžko izoluje a proč užitečnou otázkou není „jak ji zakážu“, ale „jak ověříme, na co se to díváme“.
Tři podoby, se kterými se opravdu setkáte
Pro rodiče není užitečná taxonomie ta technická. Jde o to, co přijde — na telefon vašeho dítěte, do vaší vlastní hlasové schránky nebo do skupinového chatu. Tři podoby pokrývají téměř všechno.
- Videa a fotografie s vyměněnou tváříTvář skutečné osoby namapovaná na cizí tělo nebo do scény, ve které nikdy nebyla. To je původní „deepfake“ a podoba, která stojí za většinou falešných intimních snímků dospívajících.
- Naklonované hlasyKrátký veřejný úryvek může stačit k přesvědčivému napodobení něčího hlasu, zvlášť ve spěšném telefonním hovoru. Pohání telefonní podvod o „rodinné nouzi“ — a může vložit slova do úst dospívajícímu.
- Zcela syntetičtí lidéTvář — a někdy celá osobnost — která nepatří žádné skutečné osobě. Striktně vzato je to příbuzný deepfaku, protože nikoho nenapodobuje, ale používá se stejně: k zaplnění falešných profilů a k tomu, aby se cizí člověk vydával za uvěřitelného dospívajícího, který neexistuje.
Hranice se stírají: falešný profil může spojit syntetickou tvář s naklonovaným hlasem a úryvkem s vyměněnou tváří nabízeným jako „důkaz“. Právě tou poslední podobou umělá inteligence znovu sestavuje klasického catfishe — pilíř podrobně pokrývá catfish persony vytvořené umělou inteligencí. Ale pojmenovat danou podobu je první krok k posouzení té konkrétní věci, kterou vaše dítě dostalo.
Proč to najednou zlevnilo, zrychlilo a zjednodušilo se
Po většinu dějin výpočetní techniky vyžadovalo přesvědčivé zfalšování tváře studio, rozpočet a specialistu. Dvě věci to změnily. První byl už popsaný technický skok — generativní metody, které přišly v polovině desátých let. Druhou byla distribuce: bezplatné, stažitelné nástroje a služby, které postupně snižovaly bariéru pro laiky. Co kdysi vyžadovalo studio a specialistu, se stalo mnohem dostupnějším.
Změna, na které rodiči záleží nejvíc, není rychlost, ale surovina. Deepfake už ke svému vzniku nepotřebuje soukromý nebo kompromitující snímek. Potřebuje jen běžné obrázky tváře — ty, které už leží ve školní ročence, na soupisce týmu, v příspěvku kamaráda, na veřejném profilu nebo na starém účtu. FBI varuje, že zlovolní aktéři berou „fotografie nebo videa — obvykle pořízené z účtu dané osoby na sociálních sítích, z otevřeného internetu nebo vyžádané od oběti“ — a mění je v něco, co daná osoba nikdy neudělala. Surovinou je běžná digitální stopa, kterou každý dospívající zanechává na internetu — a právě proto je menší, soukromější stopa jednou z mála praktických ochran, ne proto, že by zveřejňování kdy bylo chybou dospívajícího.
Čísla to šíření potvrzují. První skutečné sčítání deepfaků, zpráva firmy Deeptrace z roku 2019, napočítalo 14 678 deepfake videí na internetu — téměř dvojnásobek čísla z doby o sedm měsíců dříve, a 96 % z nich tvořila nekonsenzuální pornografie. Do roku 2023 firma na ověřování identity Sumsub hlásila desetinásobný nárůst deepfaků, které za jediný rok odhalila. Tato dvě sčítání měří různé věci — videa na internetu oproti podvrhům zachyceným při kontrolách identity —, ale ukazují stejným směrem: za pouhých pár let se ze syntetických médií stal z kuriozity problém masového rozsahu.
Kde na deepfaky dospívající opravdu narazí
Většina médií upravených umělou inteligencí, kterou vaše dítě vidí, je neškodná — obličejové filtry, vtipné dabingy, omlazovací efekty — a brát je všechna jako hrozbu vás bude stát jen důvěryhodnost. Škoda začíná tam, kde se stejné techniky syntetických médií použijí k tomu, aby se za někoho vydávaly, někoho ponížily, podvedly nebo přinutily, a k dospívajícím se to dostává hrstkou rozpoznatelných dveří.
- Podvodné hovory a zprávy Naklonovaný hlas pohání hovor o „rodinné nouzi“. FTC varuje, že podvodník potřebuje jen „krátkou zvukovou nahrávku … kterou by mohl získat z obsahu zveřejněného na internetu“. Hlas na lince může patřit příbuznému — nebo vašemu dítěti, naklonovaný, aby oklamal vás.
- Falešné intimní snímky Běžné fotografie proměněné v explicitní podvrhy. To zasáhlo skutečné školy: koncem roku 2023 byl student jedné střední školy v New Jersey obviněn z toho, že použil umělou inteligenci k vytvoření falešných nahých snímků spolužaček — jedna z dívek uvedla, že patřila k více než třiceti zasaženým. Dítě na žádné takové fotografii neudělalo nic špatného; ten, kdo ji vytvořil, ano. Pilíř pokrývá deepfake nahé snímky a aplikace na „svlékání“ v plném rozsahu.
- Sextortion Vydírání, které už nepotřebuje skutečný snímek. FBI hlásí, že oběti, včetně nezletilých, často „nevědí, že jejich obrázky byly zkopírovány, upraveny a šířeny, dokud na to nejsou upozorněny někým jiným“. Viz sextortion poháněný umělou inteligencí.
- Šikana Falešné úryvky, falešné „důkazy“ a ponižující obrázky kolující po ročníku — vrstevnické obtěžování učiněné přesvědčivějším díky syntetickým „důkazům“. Spadá to přímo do kyberšikany.
- Falešní lidé Syntetické tváře a persony za catfish profily, díky nimž cizí člověk vypadá jako uvěřitelný dospívající. Náš průvodce ověřováním, zda je člověk na internetu skutečný, stále platí — jen teď musí pracovat usilovněji.
Rozsah je skutečný, ale snadno se dezinterpretuje. V roce 2024 National Center for Missing & Exploited Children zaznamenalo nárůst hlášení zahrnujících generativní umělou inteligenci o 1 325 % a v průběhu let 2024 a 2025 identifikovalo více než 275 přímých obětí materiálu zobrazujícího sexuální zneužívání dětí vytvořeného umělou inteligencí — často zneužitých někým, kdo už v životě dítěte byl. Hrubé součty za rok 2025 vypadají ještě mnohem větší, ale NCMEC upozorňuje, že většina toho objemu pocházela z jediného hlásícího zdroje a postrádala dostatek detailů, aby se podle ní dalo jednat. O těchto případech se čte těžko. Dají se ale přežít a reakce na ně je dobře zavedená.
Proč na tom záleží, i když se vaše dítě nikdy nestane terčem
Je tu tišší důsledek, který se dotýká každého dospívajícího, ať už je terčem, nebo ne. Po generace bylo „viděl jsem to na vlastní oči“ koncem každého sporu. Deepfaky tu éru ukončují. Když může být falešný jakýkoli obrázek, dějí se dvě věci najednou: falešným věcem se snadněji věří a — což je zhoubnější — pravdivé věci se snadněji popírají.
Paradoxně lháři, kteří se snaží vyhnout odpovědnosti za svá skutečná slova a činy, budou působit věrohodněji, jak se veřejnost bude víc dozvídat o hrozbách, které deepfaky představují.
— Bobby Chesney & Danielle Citron, „Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security“, California Law Review (2019)
Právní vědci tomu říkají dividenda lháře: jakmile všichni vědí, že podvrhy existují, lze skutečné video odmávnout jako „nejspíš umělou inteligenci“. Pro dospívajícího to může znamenat, že pravý snímek šikany bude odbyt jako vykonstruovaný, nebo že skutečná omluva bude popřena. Škoda způsobená deepfaky nejsou jen podvrhy samotné — je to pochybnost, kterou vrhají na všechno skutečné. Celou argumentaci si můžete přečíst v California Law Review.
Instinkt velí naučit se podvrhy poznat. Stojí za to znát klasické známky — podivné ruce, divné zuby, nesouladné osvětlení, nepřirozené mrkání —, ale je to uvadající dovednost. Media Lab institutu MIT bez obalu říká, že neexistuje „žádná jediná spolehlivá známka“, a když výzkumníci v roce 2025 testovali detekční nástroje proti podvrhům z reálného světa, jejich přesnost prudce klesla — i když se technologie stále zlepšuje. Odhalování chyb je pořád užitečné, ale už nestačí.
Cíl se tedy posouvá — od odhalení podvrhu k ověření zdroje. To je návyk, který si rodina může vybudovat, a nezávisí na bystrém oku.
| Starý reflex | Návyk, který stále funguje | |
|---|---|---|
| Přijde něco šokujícího | Zírejte na obrázek a věřte svým očím | Zpomalte a ověřte, odkud to vlastně přišlo |
| Panický hovor nebo hlasová zpráva | Věřte hlasu — zní přesně jako oni | Zavěste a zavolejte zpět na číslo, které už znáte |
| Fotografie, kterou nedokážete zařadit | Na první pohled rozhodněte, že je pravá nebo falešná | Spusťte zpětné vyhledávání obrázku a najděte originál |
| „Důkaz“ toho, kdo někdo je | Selfie nebo krátký úryvek to vyřeší | Nespoléhejte na jediný obrázek; ověřte přes důvěryhodnou dospělou osobu nebo přes platformu, než dojde k dalšímu soukromému kontaktu |
Nic z toho nevyžaduje, aby se vaše dítě bálo svého telefonu, a nic z toho nevyžaduje, abyste se stali forenzním analytikem. Vyžaduje to sdílené pravidlo — ověřit, než zareagujete — a rodiče dost klidného na to, aby ho předvedl. Zbytek tohoto průvodce jde riziko po riziku: jak vznikají a jak se řeší falešné intimní snímky, jak funguje sextortion s umělou inteligencí, jak se k vaší rodině dostávají podvody s klonováním hlasu a jak umělá inteligence znovu sestavuje catfishe. Jednou pochopte tu mašinerii a každý z těchto problémů přestane být záhadou a stane se problémem s plánem.
Časté otázky
Co přesně je deepfake?
Deepfake je syntetické médium — fotografie, video nebo zvuková nahrávka —, které umělá inteligence vytvořila nebo upravila tak, aby přesvědčivě ukazovalo skutečnou osobu, jak dělá nebo říká něco, co nikdy neudělala ani neřekla. Název spojuje „deep learning“ (hluboké učení), metodu umělé inteligence, která za ním stojí, a „fake“ (podvrh). Obvykle má jednu ze tří podob: tvář vloženou na cizí tělo, hlas naklonovaný z krátké nahrávky a — na volnějším okraji pojmu — zcela vymyšlenou tvář. První dvě napodobují skutečnou osobu; zcela syntetická tvář je blízký příbuzný, používaný stejným způsobem. Společné mají to, že vypadají dost autenticky na to, aby jim člověk uvěřil.
Jak deepfaky vznikají?
Většina deepfaků vzniká tak, že se model umělé inteligence trénuje na skutečných fotografiích, videích nebo zvukových nahrávkách dané osoby, dokud nedokáže generovat přesvědčivé nové verze. Nejznámější metoda, generativní soupeřící síť, staví proti sobě dva modely — jeden vytváří podvrhy, druhý odhaluje chyby —, dokud výsledek neprojde. Jiné využívají difuzní modely nebo sítě pro výměnu tváří a hlasy se klonují z nahrávek. Rodič technické podrobnosti znát nemusí; princip je prostě ten, že dostatek skutečného materiálu naučí stroj falšovat víc.
Dá se deepfake poznat pouhým pohledem?
Někdy ano, ale je to nespolehlivá a uvadající dovednost. Mezi klasické známky patří podivné ruce, zdeformované zuby, nesouladné osvětlení, zvláštní mrkání a blikající okraje. Media Lab institutu MIT varuje, že neexistuje „žádná jediná spolehlivá známka“, a technologie se zlepšuje tak rychle, že experti očekávají, že i cvičené oko bude mít potíže. Bezpečnějším návykem je ověřit zdroj než posuzovat pixely — zpětné vyhledávání obrázku nebo zpětný hovor na číslo, které už znáte. U někoho, koho vaše dítě zná jen z internetu, ověřujte přes důvěryhodnou dospělou osobu nebo přes platformu, ne tím, že byste z cizince tlačili další „důkazy“.
Kolik materiálu někdo potřebuje, aby vytvořil deepfake mého dítěte?
Mnohem méně, než rodiče čekají. Hlas lze naklonovat z krátkého úryvku řeči vytaženého z veřejného videa a tvář lze zfalšovat z běžných fotografií — školní fotky, soupisky týmu, příspěvku kamaráda. Žádný soukromý ani kompromitující snímek není potřeba. FBI uvádí, že pachatelé obvykle berou obrázky z účtu dané osoby na sociálních sítích nebo z otevřeného internetu. Omezení toho, co je veřejně viditelné, je jeden praktický krok — ale vina vždy leží na tom, kdo podvrh vytváří a šíří, nikdy na dítěti.
Je nelegální vytvořit deepfake nějaké osoby?
Může být — i když to obvykle závisí na tom, zda byl podvrh sdílen, na věku dané osoby a na tom, kde žijete, nejen na samotném vytvoření. V USA může zákon TAKE IT DOWN Act učinit federálním trestným činem vědomé zveřejnění nebo hrozbu zveřejnění nekonsenzuálních intimních snímků — včetně „digitálních padělků“ vytvořených umělou inteligencí — s odlišnými pravidly pro dospělé a nezletilé, a dotčené platformy musí obsah pokrytý platnou žádostí o odstranění, spolu se známými identickými kopiemi, odstranit do 48 hodin. Sexuální podvrh nezletilého může být rovněž stíhán jako materiál zobrazující sexuální zneužívání dítěte. Zákony se v jednotlivých zemích liší, takže toto není právní poradenství.
Kde se dospívající nejčastěji setkají s deepfaky?
Vaše dítě se s médii upravenými umělou inteligencí nejčastěji setkává na neškodných místech — filtry, vtipné dabingy, omlazovací efekty. Škodlivé deepfaky obvykle přicházejí několika konkrétními dveřmi: podvodné hovory o „rodinné nouzi“ s naklonovaným hlasem, falešné intimní snímky vytvořené z běžných fotografií, sextortion s využitím syntetických obrázků, šikana s pomocí umělé inteligence a falešnými „důkazy“ a catfish profily postavené na vymyšlených tvářích. Vědět, na kterou z podob se díváte, je první krok k rozhodnutí, co dělat.