Mik azok a deepfake-ek? Hogyan hamisít az MI fényképet, videót és hangot
A deepfake olyan MI által létrehozott vagy MI-vel módosított tartalom, amely meggyőzően utánoz egy valódi személyt. Higgadt, tényalapú útmutató szülőknek: mik a deepfake-ek, hogyan készülnek, és mit jelentenek az Ön gyermeke számára.
Mi is valójában egy deepfake
A legtöbb szülő először egy szalagcímben találkozik a szóval — egy híresség, aki sosem mondta azt a bizonyos dolgot, egy politikus, aki sosem állt ott, egy osztálytárs arca olyan testen, amely sosem volt az övé. A szalagcímek valósak, de hagynak egy hézagot: egy működő meghatározást, amelyet egy szülő ténylegesen használni tud. Enélkül minden furcsa fénykép vagy ártalmatlannak, vagy baljósnak tűnik, és egyik tipp sem segít az Ön gyermekén.
A deepfake (két szóban is írják, deep fake) egy szintetikus tartalom — egy kép, egy videó vagy egy hangfelvétel —, amelyet a mesterséges intelligencia úgy hozott létre vagy módosított, hogy meggyőzően mutasson egy valódi személyt valami olyat tenni vagy mondani, amit sosem tett. Az Encyclopædia Britannica olyan szintetikus tartalomként határozza meg, „amely valami olyat ábrázol, ami a valóságban nem létezik, vagy olyan eseményeket, amelyek sosem történtek meg”. Maga a szó a deep learning — az ezt működtető MI-technika — és a fake szavak összevonása, és a szó fiatalabb azoknál a tinédzsereknél, akiket ma érint.
A kifejezés 2017 végén bukkant fel, amikor egy Reddit-felhasználó létrehozott egy „r/deepfakes” nevű subredditet, és arccserélt videókat kezdett ott közzétenni, ezzel adva nevet az egész kategóriának. Kevesebb mint egy évtized alatt eljutott az internet egy eldugott zugából egy iskolai folyosói problémáig. Ez a sebesség számít: a technológia, amellyel az Ön gyermeke együtt él, újabb, mint a tanácsok többsége, amelyeket a szülők hallottak róla.
Egyetlen címke ma három különböző dologra terjed ki — egy másik testre illesztett arcra, egy rövid felvételből klónozott hangra, és a leglazább peremén egy olyan arcra, amely senkié sem. Szigorúan véve egy deepfake egy valódi személyt utánoz vagy módosít; egy teljesen kitalált arc közeli rokon — ugyanúgy használt szintetikus tartalom, hamis profilokban és átverésekben. Ami egyesíti őket, az nem az, ahogyan felépülnek, hanem az, amit elérnek: egy elég valóságos eredmény ahhoz, hogy higgyenek neki. A tinédzsereket fenyegető MI-kockázatokról szóló pilléres útmutató mindegyiket egy régebbi veszély felerősített változataként kezeli; ez az útmutató magánál a deepfake-nél marad — mi az, hogyan készül, és miért van hirtelen mindenütt.
Hogyan készülnek valójában a deepfake-ek
Ahhoz, hogy megvédje a gyermekét egy deepfake-től, nem kell tudnia, hogyan kell elkészíteni — és ez az útmutató nem is fogja elmagyarázni, hogyan. De egy olyan szülőt, aki érti a nagy vonalakban a működést, sokkal nehezebb becsapni, és sokkal jobban el tudja magyarázni a kockázatot egy kétkedő tinédzsernek. Szinte minden deepfake középpontjában egyetlen egyszerű gondolat áll: mutasson egy MI-modellnek elég valódi példát egy arcról vagy egy hangról, és megtanul meggyőző új változatokat előállítani.
A legismertebb módszer a generatív versengő hálózat, vagyis GAN — fordulópont volt a technológiában, amikor a 2010-es évek közepén megjelent. Két MI-modellt állítanak szembe egymással egyfajta hamisító-és-ellenőr játékban, és a hamisító addig fejlődik, amíg az ellenőr már nem tudja rajtakapni.
A deepfake-eket gyakran generatív versengő hálózatok (GAN-ek) segítségével állítják elő, amelyekben két különböző MI mélytanulási modell egy találgatós játékban dolgozik együtt. Az egyik modell egy valódi kép vagy videó lehető legjobb másolatát hozza létre, a másik pedig felismeri, hogy a másolat hamis-e, és ha hibát talál, jelentést tesz a közte és az eredeti közötti különbségekről.
— Encyclopædia Britannica, „Deepfake”
Az újabb rendszerek diffúziós modelleket használnak — amelyek ma már elterjedtek a kép- és videóeszközökben —, és ezek véletlenszerű zajból indulnak ki, majd lépésről lépésre olyan képpé finomítják, amely megfelel egy leírásnak. Az arccserélő videó általában megint egy másik eszközre támaszkodik — egy hálózatra, amelyet az MIT Sloan „variációs autoenkóderként” ír le, amelyet arra tanítottak be, hogy egy arcot tömör mintázattá tömörítsen, és valaki más fején újraépítse. Egy hangot úgy klónoznak, hogy valódi felvételekkel táplálják a modellt, amíg utánozni nem tudja, hogyan beszél egy személy. A részletek eltérnek; az elv nem. Mutasson a gépnek elegendőt valami valódiból, és gyártani fog valami hamisat.
A technikai részletek gyorsabban változnak, mint amennyit bármelyik szülő követni tud — és nem is kell követni őket. Ugyanazok a modellcsaládok, amelyek az ártalmatlan fényképszűröket és házifeladat-segítőket működtetik, a visszaéléseket is működtetik, és pontosan ezért olyan nehéz a technológiát elszigetelni, és ezért nem az a hasznos kérdés, hogy „hogyan tiltsam be”, hanem az, hogy „hogyan ellenőrizzük, mit nézünk”.
A három forma, amellyel valóban találkozni fog
Egy szülő számára a hasznos felosztás nem technikai. Arról szól, ami megérkezik — a gyermeke telefonjára, a saját hangpostájába, vagy egy csoportos beszélgetésbe. Három forma szinte mindent lefed.
- Arccserélt videók és fényképekEgy valódi személy arca egy másik testre vagy egy olyan jelenetbe illesztve, ahol sosem volt. Ez az eredeti „deepfake”, és ez az a forma, amely a tinédzserekről készült hamis intim képek többsége mögött áll.
- Klónozott hangokEgy rövid nyilvános felvétel is elég lehet ahhoz, hogy meggyőzően utánozzanak valaki hangját, különösen egy sietős telefonvonalon. Ez működteti a „családi vészhelyzetes” telefonos átverést — és szavakat adhat egy tinédzser szájába.
- Teljesen szintetikus emberekEgy arc — és néha egy egész személyiség —, amely egyetlen valódi személyé sem. Szigorúan véve a deepfake rokona, mivel senkit sem utánoz, de ugyanúgy használják: hamis profilok benépesítésére, és hogy egy ismeretlen elhihető tinédzsernek adhassa ki magát, aki nem létezik.
A határok elmosódnak: egy hamis profil párosíthat egy szintetikus arcot egy klónozott hanggal és egy „bizonyítékként” kínált arccserélt felvétellel. Ez az utolsó forma az, ahogyan az MI újraépíti a klasszikus catfish-t — a pillér részletesen foglalkozik az MI-vel felépített catfish-személyiségekkel. De a forma megnevezése az első lépés annak megítélésében, hogy mi az a konkrét dolog, amit az Ön gyermekének küldtek.
Miért vált hirtelen olcsóvá, gyorssá és egyszerűvé
A számítástechnika történetének nagy részében egy arc meggyőző hamisításához stúdió, költségvetés és szakember kellett. Két dolog változtatta meg ezt. Az első a már leírt technikai ugrás volt — a 2010-es évek közepén megjelent generatív módszerek. A második a terjesztés volt: ingyenes, letölthető eszközök és szolgáltatások, amelyek folyamatosan csökkentették a belépési küszöböt a nem szakértők számára. Ami egykor stúdiót és szakembert igényelt, sokkal hozzáférhetőbbé vált.
A változás, amely a szülő számára a legfontosabb, nem a sebesség, hanem a nyersanyag. Egy deepfake-nek többé nincs szüksége magán- vagy kompromittáló képre kiindulásként. Csupán hétköznapi képekre van szüksége egy arcról — olyanokra, amelyek már most ott vannak egy évkönyvben, egy csapatnévsorban, egy barát bejegyzésében, egy nyilvános profilban vagy egy régi fiókban. Az FBI figyelmeztet, hogy a rosszindulatú szereplők „fényképeket vagy videókat — jellemzően egy személy közösségimédia-fiókjából, a nyílt internetről, vagy az áldozattól kérve” — vesznek el, és olyasvalamivé alakítják, amit a személy sosem tett. A nyersanyag az a hétköznapi digitális lábnyom, amelyet minden tinédzser online hagy maga után — ezért az egyik kevés gyakorlati védelem egy kisebb, magánjellegűbb lábnyom, nem azért, mert a posztolás valaha is a tinédzser hibája lett volna.
A számok követik a terjedést. A deepfake-ek első valódi felmérése, a Deeptrace 2019-es jelentése 14 678 deepfake-videót számolt össze az interneten — közel a kétszeresét a hét hónappal korábbi értéknek, és ezek 96%-a beleegyezés nélküli pornográfia volt. 2023-ra a Sumsub személyazonosság-ellenőrző cég tízszeres növekedésről számolt be az általa egyetlen év alatt észlelt deepfake-ek számában. A két számlálás különböző dolgokat mér — online videók szemben a személyazonosság-ellenőrzések során elkapott hamisítványokkal —, de ugyanabba az irányba mutatnak: néhány év alatt a szintetikus tartalom kuriózumból tömeges méretű problémává vált.
Hol találkoznak valójában a tinédzserek deepfake-ekkel
Az MI-vel módosított tartalom többsége, amelyet az Ön gyermeke lát, ártalmatlan — arcszűrők, vicces szinkronok, fiatalításhoz használt effektek —, és ha mindezt fenyegetésként kezeli, az csak a hitelességébe fog kerülni. A kár ott kezdődik, amikor ugyanazokat a szintetikustartalom-technikákat valaki megszemélyesítésére, megalázására, becsapására vagy kényszerítésére használják, és ez néhány felismerhető ajtón át jut el a tinédzserekhez.
- Átverős hívások és üzenetek Egy klónozott hang működteti a „családi vészhelyzetes” hívást. Az FTC figyelmeztet, hogy egy csalónak csak „egy rövid hangfelvételre … van szüksége, amelyet az online közzétett tartalomból szerezhet meg”. A vonal túlsó végén lévő hang lehet egy rokoné — vagy az Ön gyermekéé, klónozva, hogy becsapja Önt.
- Hamis intim képek Hétköznapi fényképek explicit hamisítvánnyá alakítva. Ez valódi iskolákat sújtott: 2023 végén egy New Jersey-i középiskola diákját azzal vádolták, hogy MI-t használt osztálytársairól készült meztelen képek hamisításához — az egyik lány azt mondta, hogy ő a több mint harminc célpont egyike volt. Az ilyen fényképen szereplő gyermek semmi rosszat nem tett; az tett, aki készítette. A pillér teljes terjedelmében foglalkozik a deepfake meztelen képekkel és a „nudify” alkalmazásokkal.
- Szextortáció Zsarolás, amelyhez többé nincs szükség valódi képre. Az FBI arról számol be, hogy az áldozatok, köztük kiskorúak, gyakran „nem tudtak róla, hogy a képeiket lemásolták, manipulálták és terjesztették, amíg valaki más fel nem hívta rá a figyelmüket”. Lásd az MI-vezérelt szextortációt.
- Zaklatás Hamis felvételek, hamis „bizonyítékok” és megalázó képek, amelyeket egy évfolyamon belül körbeadnak — a kortárs zaklatás, amelyet a szintetikus „bizonyíték” még meggyőzőbbé tesz. Ez egyenesen a kiberzaklatás körébe tartozik.
- Hamis emberek Catfish-profilok mögött álló szintetikus arcok és személyiségek, amelyek miatt egy ismeretlen elhihető tinédzsernek tűnik. A annak ellenőrzéséről szóló útmutatónk, hogy egy online személy valódi-e, továbbra is érvényes — csak most keményebben kell dolgoznia.
A mérték valós, de könnyen félreérthető. 2024-ben a National Center for Missing & Exploited Children 1325%-os növekedést rögzített a generatív MI-t érintő bejelentésekben, és 2024 és 2025 folyamán több mint 275 közvetlen áldozatot azonosított MI által generált, gyermekek szexuális bántalmazását ábrázoló anyagok kapcsán — gyakran olyasvalaki bántalmazta őket, aki már a gyermek életének része volt. A 2025-ös nyers összesítések ennél jóval nagyobbnak tűnnek, de az NCMEC figyelmeztet, hogy ennek a mennyiségnek a nagy része egyetlen bejelentő forrásból származott, és nem volt elég részletes ahhoz, hogy intézkedni lehessen az alapján. Ezekről az esetekről nehéz olvasni. Ugyanakkor túlélhetők, és a válasz jól bevált.
Miért számít ez akkor is, ha a gyermeke sosem válik célponttá
Van egy csendesebb következmény, amely minden tinédzsert érint, akár célpont, akár nem. Nemzedékeken át a „saját szememmel láttam” lezárt egy vitát. A deepfake-ek véget vetnek ennek a korszaknak. Amikor bármilyen kép lehet hamis, két dolog történik egyszerre: a hamis dolgokat könnyebbé válik elhinni, és — még rombolóbb módon — az igaz dolgokat könnyebbé válik letagadni.
Ironikus módon a valódi szavaikért és tetteikért való felelősséget elkerülni próbáló hazudozók egyre hihetőbbé válnak majd, ahogy a közvélemény egyre tájékozottabb lesz a deepfake-ek jelentette fenyegetésekről.
— Bobby Chesney és Danielle Citron, „Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security”, California Law Review (2019)
A jogtudósok ezt a hazug osztalékának nevezik: ha egyszer mindenki tudja, hogy léteznek hamisítványok, egy valódi videó elintézhető azzal, hogy „valószínűleg MI”. Egy tinédzser számára ez azt jelentheti, hogy egy valódi képernyőképet egy zaklatásról hamisítványként söpörnek félre, vagy egy valódi bocsánatkérést letagadnak. A deepfake-ek kára nem csupán maguk a hamisítványok — hanem a kétely, amelyet mindenre rávetnek, ami valódi. A teljes érvelést a California Law Review oldalán olvashatja el.
Az ösztönös reakció az, hogy megtanuljuk felismerni a hamisítványokat. Érdemes ismerni a klasszikus árulkodó jeleket — furcsa kezek, különös fogak, nem illeszkedő megvilágítás, természetellenes pislogás —, de ez egyre halványuló képesség. Az MIT Media Lab-je nyíltan kimondja, hogy „nincs egyetlen árulkodó jel”, és amikor kutatók 2025-ben felismerő eszközöket teszteltek valós hamisítványokkal, azok pontossága meredeken zuhant — miközben a technológia folyamatosan fejlődik. A hibák felismerése továbbra is hasznos, de már nem elegendő.
A cél tehát eltolódik — a hamisítvány felismeréséről a forrás ellenőrzésére. Ez egy olyan szokás, amelyet egy család ki tud építeni, és nem függ az éles szemtől.
| A régi reflex | A szokás, amely még mindig működik | |
|---|---|---|
| Valami sokkoló érkezik | Bámulja a képet, és bízzon a szemében | Lassítson le, és nézze meg, valójában honnan származik |
| Egy pánikba esett hívás vagy hangüzenet | Higgyen a hangnak — pontosan úgy hangzik, mint ő | Tegye le, és hívjon vissza egy számon, amelyet már ismer |
| Egy fénykép, amelyet nem tud hová tenni | Döntse el ránézésre, hogy valódi vagy hamis | Futtasson fordított képkeresést, hogy megtalálja az eredetit |
| „Bizonyíték” arról, hogy valaki kicsoda | Egy szelfi vagy egy rövid felvétel eldönti | Ne hagyatkozzon egyetlen képre; ellenőrizzen egy megbízható felnőttön vagy a platformon keresztül, mielőtt további magánjellegű kapcsolatba lépne |
Mindehhez nem szükséges, hogy a gyermeke féljen a telefonjától, és nem szükséges, hogy Ön kriminalisztikai szakértővé váljon. Egy közös szabályt igényel — ellenőrizz, mielőtt reagálsz —, és egy elég higgadt szülőt ahhoz, hogy ezt példaként mutassa. Az útmutató hátralévő része kockázatról kockázatra halad: hogyan készülnek és hogyan kezelhetők a hamis intim képek, hogyan működik az MI-szextortáció, hogyan éri el a családját a hangklónozós átverés, és hogyan építi újra az MI a catfish-t. Értse meg egyszer a gépezetet, és ezek mindegyike megszűnik rejtélynek lenni, és olyan problémává válik, amelyhez van terv.
Gyakran ismételt kérdések
Mi pontosan egy deepfake?
A deepfake szintetikus tartalom — egy fénykép, videó vagy hangfelvétel —, amelyet a mesterséges intelligencia úgy hozott létre vagy módosított, hogy meggyőzően mutasson egy valódi személyt valami olyat tenni vagy mondani, amit sosem tett. A név a „deep learning”-et, vagyis a mögötte álló MI-módszert, és a „fake” szót ötvözi. Általában három forma egyikét ölti: egy másik testre illesztett arc, egy rövid felvételből klónozott hang, és — a fogalom lazább peremén — egy teljesen kitalált arc. Az első kettő egy valódi személyt utánoz; egy teljesen szintetikus arc közeli rokon, amelyet ugyanúgy használnak. Ami közös bennük, az az, hogy elég valóságosnak tűnnek ahhoz, hogy higgyenek nekik.
Hogyan készülnek a deepfake-ek?
A legtöbb deepfake úgy készül, hogy egy MI-modellt egy személy valódi fényképein, videóin vagy hangfelvételein tanítanak be, amíg az meggyőző új változatokat nem tud előállítani. A legismertebb módszer, a generatív versengő hálózat, két modellt állít szembe egymással — az egyik hamisítványokat hoz létre, a másik a hibákat keresi —, amíg az eredmény átmegy a próbán. Mások diffúziós modelleket vagy arccserélő hálózatokat használnak, a hangokat pedig felvételekből klónozzák. A szülőnek nincs szüksége a technikai részletekre; az elv egyszerűen az, hogy elegendő valódi anyag megtanítja a gépet még többet hamisítani.
Felismerhető-e egy deepfake pusztán ránézésre?
Néha igen, de ez megbízhatatlan és egyre halványuló képesség. A klasszikus árulkodó jelek közé tartoznak a furcsa kezek, a torz fogak, a nem illeszkedő megvilágítás, a különös pislogás és a villódzó kontúrok. Az MIT Media Lab figyelmeztet, hogy „nincs egyetlen árulkodó jel”, és a technológia olyan gyorsan fejlődik, hogy a szakértők szerint még a gyakorlott szem is nehezen boldogul. A biztonságosabb szokás az, ha a forrást ellenőrzi, nem pedig a képpontokat ítéli meg — egy fordított képkereséssel, vagy egy olyan számon történő visszahívással, amelyet már ismer. Egy olyan személy esetében, akit az Ön gyermeke csak online ismer, egy megbízható felnőttön vagy a platformon keresztül ellenőrizzen, ne pedig úgy, hogy az ismeretlent további „bizonyítékért” faggatja.
Mennyi anyagra van szüksége valakinek, hogy deepfake-et készítsen a gyermekemről?
Sokkal kevesebbre, mint a szülők gondolnák. Egy hang klónozható egy nyilvános videóból kiemelt rövid beszédrészletből, egy arc pedig hamisítható hétköznapi fényképekből — egy iskolai fotóból, egy csapatnévsorból, egy barát bejegyzéséből. Semmilyen magán- vagy kompromittáló képre nincs szükség. Az FBI megjegyzi, hogy az elkövetők jellemzően egy személy közösségimédia-fiókjából vagy a nyílt internetről veszik a képeket. A nyilvánosan látható tartalom csökkentése az egyik gyakorlati lépés — de a felelősség mindig azé, aki a hamisítványt létrehozza és megosztja, sosem a tinédzseré.
Törvénybe ütközik-e deepfake-et készíteni valakiről?
Lehet — bár ez általában nem pusztán az elkészítésen múlik, hanem azon, hogy megosztották-e a hamisítványt, hány éves az érintett személy, és hol él Ön. Az Egyesült Államokban a TAKE IT DOWN Act szövetségi bűncselekménnyé teheti, ha valaki tudatosan közzétesz — vagy közzététellel fenyeget — beleegyezés nélküli intim képeket, beleértve az MI által készített „digitális hamisítványokat” is, eltérő szabályokkal felnőttekre és kiskorúakra, és az érintett platformoknak 48 órán belül el kell távolítaniuk az érvényes eltávolítási kérelemben szereplő tartalmat, valamint az ismert, azonos másolatokat. Egy kiskorúról készült szexuális hamisítvány gyermekek szexuális bántalmazását ábrázoló anyagként is büntethető. A törvények országonként eltérnek, ezért ez nem jogi tanács.
Hol találkoznak a tinédzserek a legnagyobb valószínűséggel deepfake-ekkel?
Az Ön gyermeke leggyakrabban ártalmatlan helyeken találkozik MI-vel módosított tartalommal — szűrők, vicces szinkronok, fiatalításhoz használt effektek. A káros deepfake-ek általában néhány konkrét ajtón át érkeznek: hangklónozással készült „családi vészhelyzetes” átverős hívások, hétköznapi fényképekből készült hamis intim képek, szintetikus képeket felhasználó szextortáció, hamis „bizonyítékkal” MI-vel segített zaklatás, és kitalált arcokra épülő catfish-profilok. Annak felismerése, hogy melyik formával áll szemben, az első lépés annak eldöntésében, hogy mit tegyen.