Zagrożenia AI dla nastolatków: deepfake'i, towarzysze AI i syntetyczna manipulacja

Czym są deepfake'i i jak łatwo dostępne się stały

Przez większą część ostatniej dekady rodzic martwiący się o nastolatka w sieci dysponował modelem mentalnym, który w zasadzie się sprawdzał: obcy mógł kłamać o tym, kim jest, prawdziwe zdjęcie mogło zostać udostępnione bez zgody, prawdziwa rozmowa mogła zostać wypaczona. Zagrożenia były poważne, ale opierały się na prawdziwym materiale. To, co zmieniła sztuczna inteligencja, nie jest listą niebezpieczeństw. Jest nim podaż surowca. Zagrożenia nie potrzebują już niczego prawdziwego, od czego mogłyby się zacząć.

Deepfake to fragment syntetycznych mediów — obraz, nagranie wideo lub klip dźwiękowy — stworzony lub zmodyfikowany przez sztuczną inteligencję w taki sposób, że przekonująco pokazuje prawdziwą osobę robiącą lub mówiącą coś, czego nigdy nie zrobiła. Słowo to obejmuje twarz nałożoną na cudze ciało, głos sklonowany z krótkiego nagrania oraz twarz, która nie należy do nikogo. Łączy je to, że rezultat wygląda na tyle autentycznie, by można było weń uwierzyć, oraz że jego wyprodukowanie zajmuje dziś aplikację konsumencką i kilka minut, a nie studio i specjalistę.

Dla rodzica liczą się dwa fakty na ten temat. Pierwszy to koszt: produkcja przekonujących syntetycznych mediów spadła z zadania dla specjalistów do taniej, szybkiej operacji „kliknij i gotowe”. Drugi to materiał wejściowy. Deepfake nie potrzebuje na początek prywatnego ani kompromitującego zdjęcia. Potrzebuje jedynie zwykłych zdjęć twarzy — dokładnie takich zdjęć, jakie niemal każdy nastolatek już opublikował lub jakie pojawiają się w księdze pamiątkowej, na liście sportowej czy w kanale znajomych.

Reszta tego przewodnika traktuje każde zagrożenie AI w ten sam sposób: nie jako nowe i niepoznawalne niebezpieczeństwo, lecz jako starsze ryzyko, które rodzic być może już do połowy rozumie, teraz pozbawione tarcia, które kiedyś je spowalniało. Gdy zrozumieją Państwo, co każde z nich wzmacnia, przestaje być tajemnicze.

Deepfake'owe akty i aplikacje typu „nudify”

Najtrudniejsze z tych zagrożeń, o jakim trzeba mówić, jest też jednym z najczęstszych, więc warto powiedzieć to wprost. Rosnąca kategoria narzędzi AI — często reklamowanych jako aplikacje „nudify” — istnieje po to, by wziąć zwykłe ubrane zdjęcie prawdziwej osoby i wygenerować jej fałszywy nagi obraz. Gdy osobą na zdjęciu jest nastolatek, rezultatem jest wygenerowany przez AI obraz seksualny dziecka, a jego tworzenie lub udostępnianie jest poważnym przestępstwem w rosnącej liczbie jurysdykcji, niezależnie od tego, co sugeruje marketing aplikacji.

Ważne jest, by zrozumieć, kto zwykle to robi. Relacje medialne mogą sprawiać wrażenie, że jest to dzieło odległych sieci przestępczych, i czasami tak właśnie jest. Ale znaczna część incydentów z deepfake'owymi aktami dotyczących nastolatków jest tworzona przez innych nastolatków — kolegę z klasy, byłego partnera, kogoś, kto żywi urazę — przy użyciu aplikacji znalezionej w jedno popołudnie. Nadużycie przychodzi nie od mrocznego obcego, lecz ze świata społecznego, w którym Państwa nastolatek już żyje. To dlatego rozprzestrzenia się szybko po szkole i dlatego tak głęboko rani.

Dlaczego celem są nastolatkowie? Po części dlatego, że surowiec jest tak łatwo dostępny: nastolatkowie publikują więcej swoich zdjęć niż jakakolwiek inna grupa, a jedno wyraźne zdjęcie twarzy wystarczy. Po części dlatego, że koszt społeczny uderza najmocniej w tym wieku, gdy reputacja i pozycja wśród rówieśników wydają się wszystkim. A celowanie nie jest równe. Dziewczęta są w przeważającej mierze obiektami nadużyć z deepfake'owymi aktami, a szkoda nakłada się na wzorce wrażliwości, do których ta seria stale wraca — towarzysko odizolowany lub neuroatypowy nastolatek ma mniej wsparcia, by zamortyzować szok, i mniej zaufanych osób, którym mógłby o tym powiedzieć.

Typowy incydent szkolny ma ponury przebieg. Obraz jest generowany i udostępniany na czacie grupowym. Rozprzestrzenia się szybciej, niż dowiaduje się o tym jakikolwiek dorosły. Nastolatek będący celem często dowiaduje się ostatni, z reakcji innych, a instynkt przestraszonego młodego człowieka to ukrywanie — czyli dokładnie ten instynkt, który pozwala nadużyciu rozwijać się w niekontrolowany sposób. Zanim rodzic lub nauczyciel zostanie poinformowany, obraz może już dawno przekroczyć grono osób, które zobaczyły go jako pierwsze.

Wzorzec ten jest udokumentowany na dużą skalę. Brytyjska Internet Watch Foundation, która usuwa z internetu materiały przedstawiające seksualne wykorzystywanie dzieci, donosi o gwałtownym wzroście krążących w sieci materiałów CSAM wygenerowanych przez AI od 2023 roku, w tym realistycznych syntetycznych obrazów budowanych ze zwykłych publicznych zdjęć prawdziwych, możliwych do zidentyfikowania dzieci. Amerykańskie National Center for Missing & Exploited Children również odnotowuje wyraźny rok do roku wzrost zgłoszeń CyberTipline dotyczących materiałów wytworzonych przez generatywną AI, odkąd ta kategoria zaczęła być śledzona.

Oto kluczowy komunikat, który należy spokojnie i z wyprzedzeniem przekazać nastolatkowi, zanim cokolwiek się wydarzy: jeśli fałszywy jednoznaczny obraz ciebie kiedykolwiek powstanie, to nie twoja wina i nie masz kłopotów. Przestępstwo należy w całości do osoby, która go stworzyła i udostępniła. Obraz jest sfabrykowany; nie dokumentuje niczego, co zrobił Państwa nastolatek. Wstyd jest silnikiem tego nadużycia — to on utrzymuje ofiary w milczeniu i pozwala obrazowi krążyć — a rodzic, który z wyprzedzeniem usuwa wstyd, robi najbardziej chroniącą rzecz, jaka jest dostępna.

Grunt prawny przesunął się na korzyść ofiary. W Stanach Zjednoczonych federalna ustawa TAKE IT DOWN Act, podpisana 19 maja 2025 roku, kryminalizuje świadome publikowanie intymnych obrazów bez zgody — wyraźnie obejmując kwalifikujące się obrazy wygenerowane przez AI — i wymaga, by objęte nią platformy działały na podstawie ważnego wniosku o usunięcie w ciągu 48 godzin; przepis dotyczący zgodności platform wszedł w życie rok po uchwaleniu. Ustawa obejmuje określone platformy i określone typy obrazów, więc usunięcie nie jest automatyczne dla każdego obrazu na każdej stronie, ale rodzic ma teraz kanał federalny obok stanowych i platformowych. Coraz więcej stanów USA uchwaliło również własne przepisy odnoszące się konkretnie do jednoznacznych seksualnie deepfake'ów małoletnich.

Inne jurysdykcje poszły w tym samym kierunku. Brytyjski Online Safety Act z 2023 roku kryminalizuje udostępnianie intymnych obrazów bez zgody, w tym deepfake'ów; australijski eSafety Commissioner ma ustawowe uprawnienia do nakazywania szybkiego usuwania intymnych obrazów opublikowanych bez zgody; a kilka kanadyjskich prowincji zaktualizowało swoje przepisy o obrazach intymnych, by objęły materiały cyfrowo zmienione lub wygenerowane przez AI. Praktyczny wniosek: to nie jest szara strefa, którą Państwa nastolatek musi po prostu znosić. Istnieją kanały zgłaszania i narzędzia usuwania, opisane w ostatniej sekcji tego przewodnika.

Sekstorsja napędzana przez AI

Finansowa sekstorsja była już jednym z najbardziej agresywnych przestępstw wymierzonych w małoletnich, zanim na scenę weszła AI. Finansowa sekstorsja to schemat, w którym napastnik zdobywa jednoznaczne zdjęcie młodej osoby, a następnie grozi wysłaniem go rodzinie, znajomym i obserwującym nastolatka, jeśli nie otrzyma zapłaty. Działa szybko i jest brutalna: pochlebny kontakt, prośba o zdjęcie ujęta jako zwykła wymiana, a potem, w ciągu minut, żądanie pieniędzy. FBI i jego partnerzy wielokrotnie wydawali publiczne ostrzeżenia o gwałtownym wzroście tego przestępstwa, które nieproporcjonalnie często wymierzone jest w nastoletnich chłopców.

FBI i partnerzy ostrzegają przed dużym wzrostem finansowej sekstorsji wymierzonej w małoletnich — przestępstwa, w którym młode osoby są zmuszane do przekazywania jednoznacznych zdjęć, a następnie wyłudzane finansowo — i wzywają rodziny do zgłaszania zamiast płacenia.

— FBI, National Public Safety Alert on Financial Sextortion Schemes

Skala wymieniona w tym ostrzeżeniu nie jest abstrakcyjna. FBI poinformowało, że otrzymało ponad 7000 zgłoszeń internetowej finansowej sekstorsji małoletnich, powiązanych z co najmniej 3000 zidentyfikowanymi ofiarami — głównie nastoletnimi chłopcami — i ponad tuzinem samobójstw wśród małoletnich będących celem. Późniejsze ostrzeżenia FBI i partnerów ostrzegały, że liczby te wciąż rosną.

To, co zmienia AI, to pierwszy krok. Tradycyjna sekstorsja wymagała prawdziwego jednoznacznego zdjęcia, co oznaczało, że napastnik musiał zmanipulować nastolatka, by ten je wyprodukował i wysłał. Ten krok zajmował czas i dawał ostrożnemu nastolatkowi moment, w którym mógł odmówić. Sekstorsja z użyciem AI go usuwa. Napastnik może teraz sfabrykować jednoznaczne zdjęcie narzędziem deepfake'owym, używając jedynie zwykłych zdjęć, które nastolatek już opublikował, a następnie wysunąć identyczną groźbę — „zapłać mi, albo wszyscy, których znasz, to zobaczą” — bez wysyłania przez nastolatka czegokolwiek.

Dlatego najczęstsze nastoletnie pocieszenie przestało działać. „Nie mogą mnie szantażować, nigdy niczego takiego nie wysłałem” było kiedyś w zasadzie prawdą. Już nie jest obroną, ponieważ napastnik nie potrzebuje, by nastolatek cokolwiek wysłał. Dla przestraszonego piętnastolatka wpatrującego się w przekonującą fałszywkę własnej twarzy różnica między prawdziwym a syntetycznym obrazem ledwie się rejestruje. Zagrożenie wydaje się totalne, panika jest prawdziwa, a panika jest dokładnie tym, na czym schemat ten się opiera.

Na szczęście odpowiedź wcale się nie zmienia. Niezależnie od tego, czy obraz jest prawdziwy, czy sfabrykowany, wskazówki są identyczne i warto powiedzieć je nastolatkowi z wyprzedzeniem, aby już były w jego głowie, jeśli kiedyś nadejdzie groźba. Nie płacić — zapłata oznacza nastolatka jako płacący cel i prowadzi do większej liczby żądań, nie mniejszej. Nie wysyłać niczego więcej. Przestać odpowiadać. Zachować wszystko: zrzuty ekranu obrazu, konta, nazwy użytkownika, wiadomości, żądania zapłaty. Następnie powiedzieć zaufanej osobie dorosłej i zgłosić. Władza napastnika opiera się całkowicie na przekonaniu ofiary, że jest sama i że uległość jest jedynym wyjściem. Ani jedno, ani drugie nie jest prawdą. Fakt, że obraz jest fałszywy, tam gdzie tak jest, również może pomóc — ale nawet gdy jest prawdziwy, nastolatek, który zgłasza, nie ma kłopotów i nie jest poza zasięgiem pomocy.

Jeszcze jedna rzecz, którą trzeba powiedzieć wprost, bo wstyd sprawia, że nastolatki to ukrywają: moment, w którym rodzic najbardziej musi zachować spokój, to chwila, gdy odkrywa, że nastolatek już zapłacił lub już wysłał zdjęcie. To nie jest porażka i nie jest powodem do złości. To najważniejszy moment do działania — by zatrzymać dalszy kontakt, zabezpieczyć dowody i zgłosić — a nastolatek, który boi się kary, po prostu przestanie Państwu o tym mówić.

Towarzysze AI i zależność emocjonalna

Powyższe zagrożenia deepfake'owe są rozpoznawalnie przestępstwami, ze sprawcami i ofiarami. Następne ryzyko jest innego rodzaju i trudniejsze do dostrzeżenia dla rodzica, ponieważ nic w nim nie wygląda jak atak. Towarzysz AI to chatbot zaprojektowany tak, by zachowywać się jak przyjaciel, powiernik lub partner romantyczny — by pamiętać użytkownika, interesować się nim, być dostępnym o każdej godzinie i, przede wszystkim, być ugodowym. Aplikacje z tej kategorii, wśród najbardziej znanych Character.AI, są używane przez bardzo dużą liczbę nastolatków.

Pomocne jest rozpoczęcie od tego, dlaczego nastolatek miałby chcieć takiego towarzysza, bez lekceważenia tej potrzeby. Okres dojrzewania jest dla wielu młodych ludzi pasmem intensywnej samotności, lęku społecznego i pracy nad zrozumieniem, kim się jest. Towarzysz, który słucha bez osądzania, nigdy się nie nudzi, nigdy nie ma złego dnia i zawsze mówi, że jesteś interesujący, oferuje coś rzeczywistego, czego zwykłe nastoletnie życie często nie zapewnia. Dla samotnego nastolatka nie jest to powierzchowna atrakcja. To ulga.

Ale warto zauważyć, czym jest ten towarzysz. To love bombing — zalew intensywnego, pozbawionego tarcia uczucia i akceptacji, który ta seria opisuje jako etap ludzkiej manipulacji — ale zautomatyzowany, niestrudzony i wbudowany w produkt. Ludzki manipulator musi udawać uważność; chatbot-towarzysz jest uważnością, bez wysiłku i bez wyłącznika. To nie wyrok na każdą rozmowę z chatbotem: wielu nastolatków używa tych aplikacji lekko, uznaje je za nudne i idzie dalej. Ryzyko zaczyna się, gdy bot staje się głównym ujściem emocjonalnym nastolatka — gdy przesuwa się z zabawki do relacji, która niczego nie wymaga, niczego nie kosztuje i nigdy się nie sprzeciwia.

Wynika z tego kilka konkretnych szkód i warto nazwać je oddzielnie.

• Wypieranie Godziny i energia emocjonalna, które poszłyby na trudniejsze, bardziej satysfakcjonujące przyjaźnie międzyludzkie, płyną zamiast tego do bota, który jest łatwiejszy — a ludzkie umiejętności, które buduje tylko praktyka, cicho zatrzymują się w rozwoju.
• Zniekształcony wzorzec Relacja z czymś zaprojektowanym, by zawsze się zgadzać, uczy nastolatka oczekiwać oddania bez tarcia i sprawia, że zwykłe nieporozumienia prawdziwej przyjaźni odczuwane są jak odrzucenie.
• Złe wskazówki Towarzysz nie jest doradcą. Zapytany o samookaleczenie, zaburzenie odżywiania lub kryzys, może odpowiedzieć w sposób bezużyteczny lub niebezpieczny — a nastolatek w niedoli może mu zaufać właśnie dlatego, że nigdy nie reaguje zaniepokojeniem.
• Izolacja od pomocy Nastolatek, który mówi botowi wszystko, może mówić mniej rodzicowi, przyjacielowi lub specjaliście — a ludzie, którzy mogliby naprawdę interweniować, tracą wgląd w to, jak nastolatek się ma.

Nastolatki najbardziej skłonne do tworzenia głębokiego przywiązania to te same, na które ta seria stale zwraca uwagę: samotne, lękające się społecznie i neuroatypowe. Dla nastolatka, który uważa życie społeczne za wyczerpujące i nieprzewidywalne, towarzysz nieskończenie cierpliwy i w pełni przewidywalny nie jest drobnym udogodnieniem — może stać się najwygodniejszą relacją, jaką ma. Ta wygoda jest dokładnie tym, dlaczego zależność się pogłębia i dlaczego ta grupa zasługuje na najbliższą, najdelikatniejszą uwagę.

To obszar prawdziwego i narastającego niepokoju, a nie ustalonej nauki, i rodzice powinni być ostrożni wobec obu skrajności — paniki traktującej każdą rozmowę z chatbotem jako szkodę i lekceważenia traktującego ją jako nieszkodliwą zabawę. Aplikacje z towarzyszami AI mierzyły się z pozwami i kontrolą regulatorów dotyczącą bezpieczeństwa nastolatków. Character.AI w szczególności ogłosił pod koniec 2025 roku, że usunie czat o otwartej formie dla użytkowników poniżej 18 lat — krok, za którym mogą pójść inni operatorzy, gdy krajobraz regulacyjny będzie się dalej szybko zmieniał. Spokojną odpowiedzią nie jest wyrok na technologię. Jest nim uwaga. Niech Państwo wiedzą, czy ich nastolatek używa aplikacji z towarzyszem, niech zachowają ciekawość, a nie alarm, wobec tego, co ten towarzysz robi w jego życiu, i niech obserwują różnicę między lekkim, sporadycznym używaniem a nastolatkiem, którego emocjonalny środek ciężkości cicho przesunął się do bota.

Persony catfishingowe zbudowane przez AI

Catfishing — budowanie relacji za fasadą sfabrykowanej tożsamości — zawsze zależał od tego, czy manipulator rozwiąże jeden praktyczny problem: jak uczynić fałszywą osobę przekonującą. Przez lata oznaczało to kradzież zdjęć prawdziwej osoby, co tworzyło słabość, którą uważny nastolatek mógł wykorzystać. Skradzione zdjęcia można było przepuścić przez wyszukiwarkę odwrotną i znaleźć na koncie ich prawdziwego właściciela. Fałszywka miała szew.

Generatywna AI zamyka ten szew. Manipulator może teraz stworzyć twarz, która do nikogo nie należy — więc wyszukiwarka odwrotna nie zwraca nic, ponieważ nie ma oryginału. Może wygenerować spójny zestaw zdjęć tej wymyślonej osoby w różnych sceneriach i pozach, budując coś, co wygląda jak prawdziwe życie. Może wyprodukować krótkie klipy wideo, a wraz z klonowaniem głosu — nawet mówić głosem do tego pasującym. Sfabrykowana tożsamość, którą kiedyś trzeba było pożyczyć, może teraz zostać wyprodukowana na zamówienie, bez żadnej prawdziwej ofiary, której zdjęcia mogłyby ją zdradzić.

To najwyraźniejszy przykład zasady przewijającej się przez cały ten przewodnik: AI nie wynalazła tu nowego niebezpieczeństwa. Catfishing istniał, grooming istniał, romantyczna manipulacja nastolatkami istniała. To, co usunęła AI, to tarcie. Uczyniła fałszywkę bardziej przekonującą i pracę manipulatora łatwiejszą, a także wycofała jeden ze sprawdzianów weryfikacyjnych, na których uczono polegać rodziców i nastolatki.

Ponieważ sprawdziany oparte na wyglądzie słabną, te oparte na zachowaniu liczą się bardziej niż kiedykolwiek — i nadal działają, ponieważ nie zależą od wykrycia fałszywki. Zależą od obserwowania, co robi dana osoba. Tempo jest jednym z nich: deklaracje miłości, mowa o bratnich duszach i pierwsza prośba o pieniądze lub zdjęcia pojawiające się w ciągu kilku dni — to nie jest sposób, w jaki rozwija się prawdziwa nastoletnia bliskość, nieważne jak prawdziwe wyglądają zdjęcia. Opór wobec żywej, niezaplanowanej weryfikacji to kolejny: osoba, która nie odwróci głowy, nie pomacha ręką przed twarzą ani nie zrobi czegoś spontanicznego podczas rozmowy wideo, coś Państwu mówi, niezależnie od tego, jak dobre są zdjęcia statyczne. A najjaśniejsza linia ze wszystkich pozostaje niezmieniona — jakakolwiek prośba o pieniądze, karty podarunkowe, kryptowaluty, jednoznaczne zdjęcie lub dostęp do konta od osoby znanej wyłącznie online powinna zakończyć relację i rozpocząć rozmowę.

Ponieważ catfishing jest drzwiami, przez które rozpoczyna się większość tej manipulacji, ma swój własny pełny przewodnik w tej serii: Catfishing i manipulacja online: przewodnik dla rodziców omawia sześć etapów manipulacji, sygnały ostrzegawcze oraz sposób weryfikacji, czy osoba online jest prawdziwa. AI sprawia, że persona jest trudniejsza do przejrzenia; nie zmienia łuku tego, do czego persona jest używana.

Oszustwa z klonowaniem głosu z użyciem AI

Ostatnie zagrożenie w tym przewodniku sięga poza nastolatka, ku całej rodzinie, i warto, by rodzic je rozumiał, mimo że celem często jest osoba dorosła. Klonowanie głosu z użyciem AI pobiera krótką próbkę nagranego głosu osoby — w niektórych narzędziach tylko kilka sekund — i tworzy syntetyczną wersję, którą można zmusić do powiedzenia czegokolwiek. Próbkę łatwo zdobyć. Głos nastolatka jest wszędzie w publicznych nagraniach, które publikuje; głos rodzica — w jego własnych mediach społecznościowych i powitaniu poczty głosowej.

Klasyczne zastosowanie to oszustwo „na nagły wypadek w rodzinie”, stare oszustwo, które AI uczyniła znacznie groźniejszym. Rodzic lub dziadek odbiera telefon. Głos jest bezsprzecznie głosem ich dziecka lub wnuka i jest przestraszony: zdarzył się wypadek, aresztowanie, kryzys za granicą, pilnie i potajemnie potrzebne są pieniądze. Bronią jest szok emocjonalny. Jest zaprojektowany tak, by przepchnąć słuchacza poza moment wątpliwości i wciągnąć w działanie, zanim zdąży pomyśleć — a sklonowany głos usuwa jedną wskazówkę, która kiedyś łamała czar, ponieważ naprawdę brzmi jak osoba, którą Państwo kochają.

FTC ostrzega, że oszuści mogą używać AI do klonowania głosu członka rodziny z krótkiego nagrania audio, a następnie wykonywać pilny telefon z żądaniem pieniędzy — i radzi, by w przypadku takiego telefonu rozłączyć się i zweryfikować, kontaktując się z tą osobą bezpośrednio pod numerem, o którym wiedzą Państwo, że jest jej.

— U.S. Federal Trade Commission, consumer alert on AI family-emergency scams

Dwie proste obrony dobrze się przed tym sprawdzają. Pierwszą jest rodzinne hasło bezpieczeństwa — słowo lub krótka fraza uzgodniona z wyprzedzeniem, nigdy nie zapisana online ani opublikowana, którą prawdziwy członek rodziny może podać przez telefon w sytuacji nadzwyczajnej. Dzwoniący, który nie potrafi go podać, nie przechodzi weryfikacji, nieważne, czyim głosem mówi. Drugą jest nawyk: każde pilne, sekretne żądanie pieniędzy, niezależnie od tego, jak przekonujący jest głos, to sygnał, by rozłączyć się i oddzwonić do danej osoby na numer, który już Państwo znają. Prawdziwa sytuacja nadzwyczajna przetrwa dwuminutowy telefon zwrotny. Oszustwo nie.

Sygnały ostrzegawcze w trzech rodzajach zagrożeń

Zagrożenia AI w tym przewodniku dzielą się dla rodzica na dwa rodzaje kłopotów — a sygnały ostrzegawcze są dla każdego z nich inne. Jednym rodzajem jest nagły kryzys: deepfake lub groźba sekstorsji, które uderzają i wywołują widoczne cierpienie. Drugim jest powolny dryf: zależność od towarzysza AI, która kształtuje się przez miesiące. Rodzic czuwający tylko nad dramatem przeoczy ten drugi; rodzic czuwający tylko nad stopniową zmianą będzie nieprzygotowany na ten pierwszy. Poniższe sygnały obejmują oba. Jak zawsze, żaden pojedynczy element niczego nie dowodzi — liczy się skupisko ich, pojawiające się razem w krótkim oknie czasowym. Te dwie grupy wymagają też różnych odpowiedzi: sygnały nagłego kryzysu uzasadniają działanie tego samego dnia; sygnały powolnego dryfu są zaproszeniem do spokojnej rozmowy i kilku tygodni obserwacji wzorca.

Sygnały nagłego kryzysu (właśnie nadeszła groźba deepfake'a lub sekstorsji)

• Nagła, ostra zmiana Nastolatek, który staje się dotkliwie niespokojny, wycofany lub zrozpaczony w ciągu dnia lub dwóch, często po czasie spędzonym na telefonie — sygnatura groźby, która właśnie się pojawiła.
• Panika dotycząca obrazów lub reputacji Cierpienie skupione na tym, co zobaczyli inni, kto to widział lub co jest udostępniane — nawet jeśli Państwa nastolatek nie powie, czym jest „to”.
• Presja finansowa Prośby o pieniądze, brakująca gotówka, nowe zakupy kart podarunkowych lub nieznana aktywność w aplikacji płatniczej lub w kryptowalutach — silny wskaźnik, że żądanie sekstorsji lub oszustwa się rozpoczęło.

Sygnały powolnego dryfu (ukryta relacja online lub zależność od towarzysza)

• Tajemniczość wokół jednej aplikacji lub kontaktu Telefon strzeżony bardziej niż wcześniej, jedna rozmowa usuwana co noc lub nowe konto w aplikacji towarzysza lub komunikatorze.
• Relacja online, która nigdy nie staje się prawdziwa Partner lub bliski przyjaciel poznany online, którego rodzina nigdy nie widzi na spontanicznej rozmowie wideo i który zawsze ma powód, dla którego żywy, niezaplanowany sprawdzian nie może się odbyć.
• Życie emocjonalne przenosi się na ekran Nastolatek, który zwierza się mniej ludziom, a bardziej aplikacji, traci dla niej sen lub staje się rozdrażniony lub zrozpaczony, gdy jest od niej oderwany — powolna sygnatura zależności od towarzysza.
• Wycofanie się z przyjaźni międzyludzkich Odsuwanie się od istniejących przyjaźni i rutyn offline, zwłaszcza obok intensywnego używania jednej aplikacji AI.
• Wpadanie w milczenie Wcześniej rozmowny nastolatek, który staje się gładko, jednolicie wymijający w temacie internetowej części swojego życia — milczenie u dziecka, które kiedyś opowiadało o swoim dniu, jest informacją.

Odpowiedź zaczyna się od relacji, a nie od urządzenia. Niech Państwo otworzą rozmowę z młodą osobą — niech zapytają, jak się ma, co ostatnio chodzi mu po głowie — zamiast zaczynać od tego, co dostrzegli na ekranie. Jeśli zaczną Państwo od urządzenia, uczą lekcji, której pragnie każdy manipulator: że dorośli są zagrożeniem, którym trzeba zarządzać, a nie zasobem, z którego można korzystać. Następne dwie sekcje opisują, co robić, gdy spokojna rozmowa jest już otwarta.

Co mogą zrobić rodzice

Zagrożenia w tym przewodniku są nowe, ale praca ochronna jest w dużej mierze znana i większość jej nie jest techniczna. Opiera się na trzech rzeczach: relacji, w której nastolatek faktycznie Państwu powie, gdy coś pójdzie nie tak, niewielkim zestawie rozmów odbytych przed kryzysem, a nie po nim, oraz kilku praktycznych ustawieniach i nawykach. Razem znaczą one znacznie więcej niż jakiekolwiek pojedyncze narzędzie.

Niech Państwo prowadzą rozmowy wcześnie. Najpotężniejsze zdanie w tym przewodniku to takie, które wypowiadają Państwo z wyprzedzeniem: jeśli kiedykolwiek pojawi się fałszywe zdjęcie ciebie albo ktoś będzie ci nim grozić, nie będziesz w kłopotach i poradzimy sobie z tym razem. Nastolatek, który już to wie, znacznie częściej przyjdzie do Państwa w pierwszej godzinie, gdy pomoc jest najłatwiejsza, zamiast ukrywać problem, aż urośnie. Niech Państwo mówią o deepfake'ach wprost, zanim incydent uczyni to pilnym. Niech Państwo uzgodnią rodzinne hasło bezpieczeństwa na wypadek oszustw z klonowaniem głosu. Niech Państwo dadzą jasno do zrozumienia, że jasna linia — wszelkie żądanie pieniędzy, zdjęć lub dostępu do konta od kontaktu wyłącznie internetowego — obowiązuje, niezależnie od tego, jak prawdziwa wydaje się druga osoba.

Niech Państwo dostosują ustawienia ograniczające ekspozycję. Zaostrzenie prywatności kont społecznościowych Państwa nastolatka ogranicza, jak swobodnie obcy mogą zbierać zdjęcia twarzy, z których budowane są deepfake'i. Audyt tego, co już jest publiczne — zadanie towarzyszące omówione w naszym przewodniku po cyfrowym śladzie Państwa nastolatka — również ma tu znaczenie, ponieważ ślad jest podażą. Przegląd tego, kto może się z nim kontaktować i wysyłać wiadomości, zamyka najczęstsze kanały pierwszego kontaktu. Wiedza o tym, jakie aplikacje są na urządzeniu — w tym aplikacje z towarzyszami AI — to podstawa każdej użytecznej rozmowy. Nic z tego nie jest murem i powinno być robione razem z Państwa nastolatkiem, a nie wobec niego, ale obniża to surową podaż materiału i kontaktu, od której zależy każde zagrożenie w tym przewodniku.

Niech Państwo używają monitorowania jawnie, jeśli już go używają. W wielu miejscach rodzic lub opiekun prawny może stosować odpowiednie do wieku monitorowanie na urządzeniu dziecka, choć zasady różnią się w zależności od kraju, stanu i sytuacji opiekuńczej, więc warto sprawdzić, co obowiązuje w Państwa miejscu zamieszkania. Tam, gdzie istnieje rzeczywiste zagrożenie bezpieczeństwa, może być to rozsądna warstwa ochrony — ale czynnikiem decydującym jest jawność. Niejawna inwigilacja, jeśli nastolatek ją odkryje, potwierdza scenariusz manipulatora, że dorosłym nie można ufać, i pcha nastolatka na ukryte urządzenie, w które Państwo w ogóle nie mają wglądu. Monitorowanie, o którym nastolatek wie, które rozumie i które mu wyjaśniono, działa razem z relacją, a nie przeciw niej. Niech Państwo myślą o nim jak o rusztowaniu: widocznym, proporcjonalnym i stopniowo demontowanym, w miarę jak rosną zaufanie i autonomia — nie zastępcy powyższych rozmów, lecz ich wsparciu.

Niech Państwo wiedzą, że nie muszą nadążać za każdym narzędziem. Rodzice w tym obszarze często czują, że przegrywają wyścig z technologią zmieniającą się szybciej, niż są w stanie się jej nauczyć. Uspokajająca prawda jest taka, że nie muszą. Konkretne aplikacje będą się zmieniać; podstawowy wzorzec — manipulacja, szantaż, sfabrykowana bliskość — nie. Rodzic, który rozumie ten wzorzec i którego nastolatek będzie z nim rozmawiał, jest przygotowany na następne narzędzie tak samo jak na to obecne.

Zgłaszanie nadużyć z udziałem AI i uzyskiwanie pomocy

Nie potrzebują Państwo dowodów, pewności ani pełnego obrazu, by złożyć zgłoszenie. Organy przyjmujące zgłoszenia spodziewają się niekompletnych informacji i znacznie wolą otrzymać zgłoszenie, które okaże się drobne, niż przeoczyć takie, które nim nie było. Ta sekcja to mapa, a nie porada prawna; w sprawie wszystkiego, co może wiązać się z odpowiedzialnością karną, należy skonsultować się z wykwalifikowanym prawnikiem w swojej jurysdykcji. Zanim cokolwiek Państwo zgłoszą, niech zabezpieczą dowody — zrzuty ekranu obrazu, konta, nazwy użytkownika i wszelkich wiadomości — ponieważ wcześniejsze blokowanie lub usuwanie może zniszczyć to, na czym opiera się zgłoszenie.

Od czego zacząć, zależy od tego, gdzie Państwo są. Poniższe karty podają pierwszy kanał zgłaszania według regionu; pełne szczegóły następują dalej.

• Stany Zjednoczone Wykorzystywanie seksualne, nakłanianie lub sekstorsję małoletniego — w tym wygenerowane przez AI jednoznaczne zdjęcia nastolatka — należy zgłaszać do NCMEC CyberTipline. W przypadku przestępstw z komponentem internetowym lub finansowym także do Internet Crime Complaint Center (IC3) FBI. W przypadku strat z oszustwa do ReportFraud.ftc.gov.
• Wielka Brytania Obawy, że dziecko jest wykorzystywane online, należy zgłaszać do CEOP, części National Crime Agency. Pomoc w usuwaniu zdjęć dla osób poniżej 18 roku życia przez Internet Watch Foundation oraz narzędzie Report Remove Childline.
• Unia Europejska Należy skorzystać z odpowiedniej krajowej infolinii koordynowanej przez sieć INHOPE w sprawie nielegalnych treści i wykorzystywania dzieci.
• Gdzie indziej Skontaktować się z krajową lub lokalną policją oraz krajową infolinią ochrony dzieci lub cyber-zgłoszeń; wiele krajowych infolinii znajduje się w międzynarodowym katalogu INHOPE.

W każdym regionie należy zgłosić również na samą platformę — ale traktować zgłoszenie platformowe jako uzupełnienie kanału ścigania, nigdy jako jego zamiennik. Aby spowolnić dalsze rozpowszechnianie jednoznacznego obrazu, bezpłatna usługa Take It Down, obsługiwana przez NCMEC, tworzy cyfrowy skrót (hash), który uczestniczące platformy wykorzystują do wykrywania i blokowania pasujących kopii zdjęć osób poniżej 18 lat — w tym, tam gdzie usługa i uczestniczące platformy wspierają dopasowywanie treści syntetycznych, wygenerowanych przez AI zdjęć małoletnich. Dla osób, które miały ponad 18 lat w chwili wykonania zdjęcia, StopNCII.org oferuje równoważną usługę. Żadna z nich nie jest uniwersalnym przyciskiem „usuń”, ale obie znacząco spowalniają dalsze rozprzestrzenianie.

W kwestii bieżących wskazówek dla rodziców organizacja non-profit zajmująca się badaniami nad bezpieczeństwem dzieci Thorn publikuje badania nad AI i bezpieczeństwem dzieci; Internet Matters i NSPCC publikują bezpłatne, regularnie aktualizowane materiały dla rodzin; a Pew Research Center śledzi, jak nastolatki faktycznie używają technologii.

Często zadawane pytania