Rủi ro AI đối với thanh thiếu niên: deepfake, người bạn đồng hành AI và thao túng tổng hợp

Deepfake là gì và đã trở nên dễ dàng đến mức nào

Trong gần như suốt thập kỷ vừa qua, một phụ huynh lo lắng về con mình trên mạng đã có một mô hình tâm trí khá ổn định: một người lạ có thể nói dối về danh tính của mình, một bức ảnh thật có thể bị chia sẻ mà không có sự đồng ý, một cuộc trò chuyện thật có thể bị bóp méo. Các mối đe dọa thì nghiêm trọng, nhưng chúng vận hành dựa trên những chất liệu có thật. Điều mà trí tuệ nhân tạo đã thay đổi không phải là danh sách các mối nguy. Đó là nguồn cung cấp nguyên liệu thô. Các mối đe dọa không còn cần đến bất cứ thứ gì có thật để bắt đầu nữa.

Một deepfake là một sản phẩm truyền thông tổng hợp — một bức ảnh, một đoạn video hoặc một đoạn âm thanh — được tạo ra hoặc chỉnh sửa bởi trí tuệ nhân tạo theo cách thuyết phục đến mức cho thấy một người thật đang làm hoặc nói điều mà họ chưa bao giờ làm. Thuật ngữ này bao gồm việc ghép một khuôn mặt lên một cơ thể khác, nhân bản giọng nói từ một đoạn ghi âm ngắn, và cả một khuôn mặt không thuộc về ai cả. Điểm chung là kết quả trông đủ chân thực để được tin, và việc tạo ra nó giờ đây chỉ cần một ứng dụng tiêu dùng cùng vài phút, thay vì một phòng thu và một chuyên gia.

Có hai sự thật về chuyện này mà phụ huynh cần lưu tâm. Thứ nhất là chi phí: việc tạo ra các sản phẩm truyền thông tổng hợp thuyết phục đã sụp đổ từ một công việc của chuyên gia thành một thao tác rẻ tiền, nhanh chóng, chỉ cần trỏ-và-bấm. Thứ hai là đầu vào. Một bức deepfake không cần đến một bức ảnh riêng tư hay nhạy cảm nào để bắt đầu. Nó chỉ cần những bức ảnh khuôn mặt đời thường — chính là loại ảnh mà gần như mọi thanh thiếu niên đã đăng, hoặc xuất hiện trong cuốn kỷ yếu, trong danh sách đội thể thao hoặc trong dòng cập nhật của một người bạn.

Phần còn lại của hướng dẫn này xử lý mỗi mối đe dọa AI theo cùng một cách: không phải như một mối nguy mới và không thể hiểu nổi, mà là một rủi ro cũ mà có thể phụ huynh đã hiểu được một nửa, nay được tước đi sự ma sát từng làm chậm nó lại. Hiểu xem mỗi mối đe dọa đang khuếch đại điều gì, thì nó sẽ thôi trở nên bí ẩn.

Ảnh khỏa thân deepfake và các ứng dụng “nudify”

Mối đe dọa khó nói nhất trong số này cũng là một trong những mối đe dọa phổ biến nhất, vì vậy hãy nói thẳng thắn. Một loại công cụ AI ngày càng đông đảo — thường được tiếp thị là các ứng dụng “nudify” — tồn tại để biến một bức ảnh mặc đồ đầy đủ đời thường của một người thật thành một bức ảnh khỏa thân giả của họ. Khi người trong bức ảnh là một thanh thiếu niên, kết quả là một bức ảnh tình dục về trẻ em do AI tạo ra, và việc tạo ra hoặc chia sẻ nó là tội nghiêm trọng tại ngày càng nhiều khu vực pháp lý, bất chấp lời tiếp thị của ứng dụng có ngụ ý điều gì.

Điều quan trọng là phải hiểu ai thường thực hiện việc này. Báo chí có thể khiến nó nghe như công việc của các mạng lưới tội phạm xa xôi, và đôi khi thì đúng là vậy. Nhưng phần lớn các vụ ảnh khỏa thân deepfake liên quan đến thanh thiếu niên lại do chính các thanh thiếu niên khác tạo ra — một bạn cùng lớp, một người yêu cũ, một người có hiềm khích — bằng một ứng dụng mà họ tìm thấy trong vòng một buổi chiều. Hành vi lạm dụng không đến từ một kẻ lạ trong bóng tối mà đến từ chính thế giới xã hội mà con bạn đang sống. Đó là điều khiến nó lan nhanh qua một ngôi trường, và là điều khiến nó gây tổn thương sâu sắc đến vậy.

Vì sao thanh thiếu niên trở thành mục tiêu? Một phần vì nguyên liệu thô rất sẵn có: thanh thiếu niên đăng ảnh bản thân nhiều hơn bất kỳ nhóm nào khác, và chỉ cần một bức ảnh khuôn mặt rõ nét là đủ. Một phần vì cái giá xã hội rơi nặng nề nhất ở độ tuổi đó, khi danh tiếng và vị thế trong nhóm bạn cảm thấy là tất cả. Và mục tiêu cũng không cân bằng. Các em gái áp đảo là đối tượng của hành vi lạm dụng ảnh khỏa thân deepfake, và tổn hại tương tác với các khuôn mẫu dễ tổn thương mà loạt bài này lặp đi lặp lại — một thanh thiếu niên bị cô lập về mặt xã hội hoặc có khác biệt thần kinh sẽ có lớp đệm hỗ trợ ít hơn để hấp thụ cú sốc và ít người tin cậy hơn để kể.

Một vụ việc điển hình tại trường học diễn ra theo một cung bậc nghiệt ngã. Một bức ảnh được tạo ra và chia sẻ trong một nhóm chat. Nó lan nhanh hơn bất kỳ người lớn nào kịp biết. Người thanh thiếu niên bị nhắm tới thường là người biết cuối cùng, qua phản ứng của những người khác, và phản xạ của một người trẻ đang hoảng sợ là che giấu — và chính phản xạ đó cho phép hành vi lạm dụng tiếp diễn không bị kiểm soát. Đến khi một phụ huynh hoặc thầy cô được báo, bức ảnh có thể đã đi xa khỏi những người ban đầu nhìn thấy nó.

Khuôn mẫu này đã được ghi nhận ở quy mô lớn. Tổ chức Internet Watch Foundation của Vương quốc Anh, chuyên gỡ bỏ tài liệu lạm dụng tình dục trẻ em khỏi internet, đã báo cáo sự gia tăng nhanh chóng của CSAM do AI tạo ra đang lưu hành trực tuyến kể từ năm 2023, bao gồm cả những hình ảnh tổng hợp chân thực được dựng từ những bức ảnh công khai đời thường của trẻ em có thật và có thể nhận diện được. Tương tự, National Center for Missing & Exploited Children của Hoa Kỳ cũng đã báo cáo sự gia tăng mạnh theo từng năm về các báo cáo CyberTipline có liên quan đến tài liệu do AI tạo sinh kể từ khi danh mục này bắt đầu được theo dõi.

Đây là thông điệp trọng tâm cần nói với con bạn trước khi bất cứ điều gì như thế xảy ra, một cách bình tĩnh và từ sớm: nếu một bức ảnh khêu gợi giả về con từng được tạo ra, đó không phải lỗi của con và con không có chuyện gì cả. Hành vi phạm tội hoàn toàn thuộc về người đã tạo ra và chia sẻ nó. Bức ảnh là bịa đặt; nó không ghi lại bất cứ điều gì mà con bạn đã làm. Sự xấu hổ là động cơ vận hành hành vi lạm dụng này — nó giữ cho nạn nhân im lặng và cho phép bức ảnh tiếp tục lan đi — và một phụ huynh đã gỡ bỏ sự xấu hổ từ trước là đã làm điều bảo vệ mạnh mẽ nhất có thể.

Mặt pháp lý đã chuyển dịch theo hướng có lợi cho nạn nhân. Tại Hoa Kỳ, Đạo luật TAKE IT DOWN liên bang, được ký ban hành vào ngày 19 tháng 5 năm 2025, hình sự hóa hành vi cố ý công bố hình ảnh riêng tư không có sự đồng ý — bao gồm cả những hình ảnh do AI tạo ra đạt tiêu chí — và yêu cầu các nền tảng thuộc phạm vi điều chỉnh phải xử lý yêu cầu gỡ bỏ hợp lệ trong vòng 48 giờ; điều khoản tuân thủ của nền tảng có hiệu lực một năm sau khi ban hành. Đạo luật áp dụng với một số nền tảng và một số loại hình ảnh nhất định, nên việc gỡ bỏ không tự động cho mọi bức ảnh trên mọi trang, nhưng nay phụ huynh đã có một kênh liên bang bên cạnh các kênh tiểu bang và kênh nền tảng. Ngày càng có nhiều tiểu bang Hoa Kỳ thông qua luật riêng đặc biệt nhắm vào các bức deepfake khêu gợi của trẻ vị thành niên.

Các khu vực pháp lý khác cũng đã đi theo hướng tương tự. Đạo luật An toàn trực tuyến năm 2023 của Vương quốc Anh hình sự hóa việc chia sẻ hình ảnh riêng tư không có sự đồng ý, bao gồm cả deepfake; Ủy viên eSafety của Úc có thẩm quyền theo luật để yêu cầu gỡ bỏ nhanh các hình ảnh riêng tư đăng tải không có sự đồng ý; và một số tỉnh của Canada đã cập nhật luật về hình ảnh riêng tư để bao gồm tài liệu được chỉnh sửa kỹ thuật số hoặc do AI tạo ra. Bài học thực tế: đây không phải vùng xám mà con bạn buộc phải chịu đựng đơn độc. Có những kênh báo cáo và công cụ gỡ bỏ, được trình bày trong phần cuối của hướng dẫn này.

Tống tiền tình dục do AI thúc đẩy

Tống tiền tình dục vì tiền vốn đã là một trong những loại tội phạm hung hãn nhất nhằm vào trẻ vị thành niên ngay cả trước khi AI bước vào sân chơi. Tống tiền tình dục vì tiền là một thủ đoạn trong đó kẻ tấn công có được một bức ảnh khêu gợi của một người trẻ rồi đe dọa gửi nó cho gia đình, bạn bè và người theo dõi của thanh thiếu niên đó trừ khi được trả tiền. Nó diễn ra nhanh chóng và tàn nhẫn: một liên hệ tâng bốc, một yêu cầu xin ảnh được đóng khung như một cuộc trao đổi bình thường, rồi chỉ vài phút sau, một đòi hỏi tiền bạc. FBI và các đối tác đã liên tục đưa ra các cảnh báo công khai về sự gia tăng mạnh của loại tội phạm này, chủ yếu nhắm vào các em trai tuổi thanh thiếu niên.

FBI và các đối tác đã cảnh báo về sự gia tăng lớn của tống tiền tình dục vì tiền nhắm vào trẻ vị thành niên — một loại tội phạm trong đó người trẻ bị ép cung cấp ảnh khêu gợi rồi bị tống tiền — và đã kêu gọi các gia đình báo cáo thay vì trả tiền.

— FBI, Cảnh báo An toàn Công cộng Quốc gia về các thủ đoạn tống tiền tình dục vì tiền

Quy mô được nêu trong cảnh báo đó không hề trừu tượng. FBI cho biết họ đã nhận được hơn 7.000 báo cáo về tống tiền tình dục vì tiền trực tuyến đối với trẻ vị thành niên, liên quan đến ít nhất 3.000 nạn nhân được xác định — chủ yếu là các em trai tuổi thanh thiếu niên — và hơn một chục vụ tự tử trong số trẻ vị thành niên bị nhắm tới. Các cảnh báo tiếp theo của FBI và đối tác đã cảnh báo rằng những con số này tiếp tục leo thang.

Điều mà AI làm thay đổi là bước đầu tiên. Tống tiền tình dục truyền thống cần một bức ảnh khêu gợi thực sự, nghĩa là kẻ tấn công phải thao túng thanh thiếu niên để tạo ra và gửi nó đi. Bước đó cần thời gian, và nó cho một thanh thiếu niên cẩn trọng một điểm để có thể từ chối. Tống tiền tình dục bằng AI loại bỏ bước đó. Kẻ tấn công nay có thể bịa ra một bức ảnh khêu gợi bằng một công cụ deepfake, chỉ với những bức ảnh đời thường mà thanh thiếu niên đó đã đăng, rồi đưa ra cùng một lời đe dọa — “trả tiền cho ta, hoặc mọi người con quen biết sẽ thấy bức ảnh này” — mà người thanh thiếu niên chưa từng gửi bất cứ thứ gì.

Đây là lý do vì sao lời tự trấn an phổ biến nhất của thanh thiếu niên đã không còn hiệu lực. “Họ không thể tống tiền con, con chưa bao giờ gửi thứ gì như vậy” từng đúng trên diện rộng. Nay nó không còn là một sự phòng vệ, bởi vì kẻ tấn công không cần đến việc người thanh thiếu niên đã gửi bất cứ thứ gì. Đối với một cô bé mười lăm tuổi đang hoảng sợ nhìn vào một bức ảnh giả thuyết phục về chính khuôn mặt mình, sự phân biệt giữa một bức ảnh thật và một bức ảnh tổng hợp gần như không còn ý nghĩa. Mối đe dọa cảm thấy là toàn diện, sự hoảng loạn là có thật, và sự hoảng loạn chính là thứ mà mưu đồ này vận hành dựa trên.

May thay, cách phản ứng không hề thay đổi. Dù bức ảnh là thật hay bịa, hướng dẫn vẫn giống nhau, và đáng để nói trước với con bạn để sẵn có trong đầu nếu một lời đe dọa từng đến. Không trả tiền — việc trả tiền đánh dấu thanh thiếu niên là một mục tiêu chịu trả và sẽ kéo theo nhiều đòi hỏi hơn, không ít hơn. Không gửi bất cứ thứ gì khác. Ngừng trả lời. Lưu giữ mọi thứ: ảnh chụp màn hình bức ảnh, tài khoản, tên người dùng, các tin nhắn, các đòi hỏi thanh toán. Sau đó hãy nói với một người lớn đáng tin cậy và báo cáo. Quyền lực của kẻ tấn công hoàn toàn phụ thuộc vào việc nạn nhân tin rằng mình đơn độc và rằng tuân thủ là lối thoát duy nhất. Cả hai điều đó đều không đúng. Việc bức ảnh là giả, ở chỗ đó, cũng có thể giúp ích — nhưng ngay cả khi nó là thật, một thanh thiếu niên báo cáo cũng không bị rắc rối gì và không hề ở ngoài tầm trợ giúp.

Một điều nữa cần nói rõ, vì sự xấu hổ khiến các em thiếu niên giấu chuyện này: khoảnh khắc mà một phụ huynh cần bình tĩnh nhất chính là khoảnh khắc họ phát hiện ra con mình đã trả tiền, hoặc đã gửi một bức ảnh. Đó không phải là thất bại và không phải là lý do để tức giận. Đó là khoảnh khắc quan trọng nhất để hành động — để ngăn liên hệ tiếp theo, lưu giữ bằng chứng và báo cáo — và một thanh thiếu niên sợ bị trừng phạt sẽ đơn giản là ngừng kể với bạn.

Người bạn đồng hành AI và sự lệ thuộc cảm xúc

Các mối đe dọa deepfake ở trên dễ nhận diện là tội phạm, với thủ phạm và nạn nhân. Rủi ro tiếp theo có bản chất khác, và khó nhìn thấy hơn đối với phụ huynh, bởi vì không có gì trong đó trông giống một cuộc tấn công. Một người bạn đồng hành AI là một chatbot được thiết kế để đóng vai một người bạn, một người tâm sự hoặc một bạn tình lãng mạn — để nhớ về người dùng, để quan tâm, để sẵn sàng vào mọi giờ, và trên hết, để luôn dễ chịu. Các ứng dụng thuộc loại này, mà Character.AI là một trong những cái nổi bật nhất, đang được rất nhiều thanh thiếu niên sử dụng.

Sẽ hữu ích khi bắt đầu bằng việc hiểu vì sao một thanh thiếu niên lại muốn có một người bạn như vậy, mà không gạt bỏ chuyện đó. Tuổi vị thành niên, đối với nhiều người trẻ, là một quãng cô đơn căng thẳng, lo âu xã hội và công cuộc đi tìm chính mình. Một người bạn đồng hành lắng nghe không phán xét, không bao giờ chán, không bao giờ có ngày tồi tệ và luôn nói rằng bạn thật thú vị đang đem lại một điều có thật mà đời sống thanh thiếu niên thông thường lại thường không có. Đối với một thanh thiếu niên cô đơn, đó không phải là sức hút phù phiếm. Đó là sự giải thoát.

Nhưng hãy chú ý xem người bạn đồng hành đó thực sự là gì. Đó là sự dội bom tình cảm — dòng thác sự yêu thương và sự xác nhận mãnh liệt, không có ma sát mà loạt bài này mô tả như một giai đoạn của thao túng con người — chỉ có điều giờ đây nó được tự động hóa, không mệt mỏi và tích hợp sẵn trong sản phẩm. Một kẻ thao túng người phải diễn vai sự chú tâm; một chatbot bạn đồng hành chính là sự chú tâm, không tốn công sức và không có nút tắt. Đó không phải là phán quyết về mọi cuộc trò chuyện với chatbot: rất nhiều thanh thiếu niên dùng các ứng dụng này một cách nhẹ nhàng, thấy chán và bỏ đi. Rủi ro bắt đầu khi con bot trở thành kênh giải tỏa cảm xúc chính của một thanh thiếu niên — khi nó chuyển từ một món đồ chơi sang một mối quan hệ không đòi hỏi gì, không tốn gì và không bao giờ phản kháng.

Một số tổn hại cụ thể đi kèm với điều đó, và đáng được nêu tên riêng.

• Dịch chuyển Thời gian và năng lượng tình cảm lẽ ra dành cho những tình bạn con người khó khăn hơn nhưng đáng giá hơn lại chảy về phía con bot, vì nó dễ dàng hơn — và những kỹ năng con người chỉ luyện qua thực hành sẽ lặng lẽ chững lại.
• Một khuôn mẫu méo mó Một mối quan hệ với thứ được lập trình để luôn đồng ý dạy cho thanh thiếu niên kỳ vọng một sự tận tụy không có ma sát, và khiến những bất đồng bình thường của tình bạn thật cảm thấy như sự cự tuyệt.
• Lời khuyên tồi Một người bạn đồng hành không phải là một nhà tư vấn. Khi được hỏi về tự gây thương tích, rối loạn ăn uống hay khủng hoảng, nó có thể phản hồi theo cách không hữu ích hoặc không an toàn — và một thanh thiếu niên đang đau khổ có thể tin nó chính vì nó không bao giờ phản ứng hốt hoảng.
• Cô lập khỏi sự trợ giúp Một thanh thiếu niên kể mọi chuyện cho con bot có thể kể ít hơn cho phụ huynh, bạn bè hoặc bác sĩ — và những người thực sự có thể can thiệp sẽ mất đi cái nhìn về tình trạng của em.

Những thanh thiếu niên dễ hình thành sự gắn bó sâu sắc nhất chính là những em mà loạt bài này lặp đi lặp lại: những em cô đơn, những em lo âu xã hội và những em có khác biệt thần kinh. Đối với một thanh thiếu niên thấy đời sống xã hội con người mệt mỏi và khó đoán, một người bạn đồng hành luôn kiên nhẫn vô tận và hoàn toàn có thể dự đoán không phải là một tiện ích nhỏ — nó có thể trở thành mối quan hệ thoải mái nhất mà em có. Chính sự thoải mái đó là lý do vì sao sự lệ thuộc ngày càng sâu, và là lý do vì sao nhóm này xứng đáng được quan tâm sát sao và dịu dàng nhất.

Đây là lĩnh vực thực sự đáng quan tâm và đang gia tăng, hơn là khoa học đã ngã ngũ, và phụ huynh nên cảnh giác với cả hai thái cực — sự hoảng sợ coi mọi cuộc trò chuyện với chatbot là tổn hại, và sự xem nhẹ coi đó là trò chơi vô hại. Các ứng dụng bạn đồng hành AI đã phải đối mặt với các vụ kiện và sự giám sát của cơ quan quản lý về an toàn cho thanh thiếu niên. Đặc biệt, Character.AI đã thông báo vào cuối năm 2025 rằng họ sẽ loại bỏ tính năng trò chuyện mở dành cho người dùng dưới 18 tuổi — một động thái mà các nhà vận hành khác có thể làm theo khi bối cảnh pháp lý tiếp tục thay đổi nhanh chóng. Sự phản ứng vững vàng không phải là một phán quyết về công nghệ. Đó là sự chú tâm. Hãy biết con bạn có dùng một ứng dụng bạn đồng hành hay không, giữ sự tò mò thay vì hoảng hốt về việc nó đang làm gì trong cuộc sống của con, và để ý sự khác biệt giữa sử dụng nhẹ nhàng, thi thoảng và một thanh thiếu niên mà trung tâm tình cảm đã lặng lẽ chuyển sang một con bot.

Danh tính giả mạo (catfish) do AI dựng nên

Catfishing — xây dựng một mối quan hệ đằng sau một danh tính bịa đặt — vốn luôn phụ thuộc vào việc kẻ thao túng giải quyết một bài toán thực tế: làm cho con người giả tạo trông thuyết phục. Trong nhiều năm, điều đó có nghĩa là phải đánh cắp ảnh của một người thật, và điều đó tạo ra một điểm yếu mà một thanh thiếu niên cẩn trọng có thể khai thác. Những bức ảnh đánh cắp có thể được tìm ngược qua công cụ tìm kiếm hình ảnh đảo ngược và được phát hiện trên tài khoản của chủ thật sự. Tấm vỏ giả ấy có một đường rạn.

AI tạo sinh khép kín đường rạn đó. Một kẻ thao túng nay có thể tạo ra một khuôn mặt không thuộc về ai cả — vì vậy tìm kiếm hình ảnh đảo ngược không trả về gì, vì không có bản gốc. Họ có thể tạo ra một bộ ảnh nhất quán về người được bịa ra trong nhiều bối cảnh và tư thế khác nhau, dựng nên một thứ trông như một cuộc đời thật. Họ có thể sản xuất những đoạn video ngắn, và với nhân bản giọng nói, thậm chí có thể nói bằng một giọng nói phù hợp. Danh tính bịa đặt từng phải mượn nay có thể được chế tạo theo đơn đặt hàng, không có nạn nhân thật nào mà ảnh của họ có thể làm lộ tẩy.

Đây là ví dụ rõ nhất cho nguyên tắc xuyên suốt cả hướng dẫn này: AI không phát minh ra mối nguy mới ở đây. Catfishing vốn đã tồn tại, hành vi dụ dỗ (grooming) vốn đã tồn tại, sự thao túng theo kiểu lãng mạn đối với thanh thiếu niên vốn đã tồn tại. Điều mà AI đã loại bỏ là sự ma sát. Nó khiến bản giả thuyết phục hơn và công việc của kẻ thao túng dễ dàng hơn, và nó đã làm về hưu một trong những bài kiểm tra xác minh mà phụ huynh và thanh thiếu niên được dạy phải dựa vào.

Vì các bài kiểm tra dựa trên ngoại hình đang yếu đi, các bài kiểm tra dựa trên hành vi càng trở nên quan trọng hơn bao giờ hết — và chúng vẫn hiệu quả, vì chúng không phụ thuộc vào việc phát hiện ra bản giả. Chúng dựa trên việc quan sát người đó làm gì. Nhịp độ là một dấu hiệu: những lời tuyên bố yêu đương, nói về soulmate (tri kỷ), và một yêu cầu đầu tiên về tiền hoặc ảnh đến chỉ trong vài ngày không phải là cách mà sự thân mật chân thực của thanh thiếu niên phát triển, dù những bức ảnh trông thật đến đâu. Sự chống lại việc xác minh trực tiếp, không theo kịch bản là một dấu hiệu khác: một người không chịu quay đầu, vẫy tay trước mặt mình, hay làm điều gì bột phát trong một cuộc gọi video đang nói với bạn một điều gì đó, dù những bức ảnh tĩnh có đẹp đến mấy. Và lằn ranh sáng nhất vẫn không thay đổi — bất kỳ yêu cầu nào về tiền, thẻ quà tặng, tiền mã hóa, một bức ảnh khêu gợi hay quyền truy cập tài khoản từ một người chỉ quen biết trên mạng đều nên chấm dứt mối quan hệ và bắt đầu một cuộc trò chuyện.

Vì catfishing là cánh cửa mà phần nhiều sự thao túng này đi qua để bắt đầu, nó có một hướng dẫn đầy đủ riêng trong loạt bài này: Catfishing và thao túng trực tuyến: Hướng dẫn dành cho phụ huynh đi qua sáu giai đoạn của thao túng, các dấu hiệu cảnh báo và cách xác minh xem một người trên mạng có thật hay không. AI khiến vỏ ngoài khó nhìn thấu hơn; nó không làm thay đổi cung bậc của những gì vỏ ngoài đó được dùng để thực hiện.

Các vụ lừa đảo nhân bản giọng nói bằng AI

Mối đe dọa cuối cùng trong hướng dẫn này vươn xa khỏi người thanh thiếu niên để đến cả gia đình, và đáng để phụ huynh hiểu ngay cả khi mục tiêu thường là một người lớn. Nhân bản giọng nói bằng AI lấy một mẫu ngắn của giọng nói được ghi âm của một người — ở một số công cụ chỉ vài giây — và tạo ra một phiên bản tổng hợp có thể được khiến nói bất cứ điều gì. Mẫu giọng rất dễ kiếm. Giọng của một thanh thiếu niên có ở khắp các video công khai mà em đăng; giọng của phụ huynh có trong chính mạng xã hội và lời chào hộp thư thoại của họ.

Cách sử dụng kinh điển là vụ lừa “khẩn cấp gia đình”, một trò gian lận cũ mà AI đã làm nguy hiểm hơn rất nhiều. Một phụ huynh hoặc ông bà nhận được một cuộc gọi điện thoại. Giọng nói rõ ràng là của con hoặc cháu mình, và đang hoảng sợ: đã có một tai nạn, một vụ bắt giữ, một khủng hoảng ở nước ngoài, và cần tiền gấp và bí mật. Cú sốc cảm xúc là vũ khí. Nó được thiết kế để đẩy người nghe vượt qua khoảnh khắc nghi ngờ và bước vào hành động trước khi họ kịp suy nghĩ — và giọng nói được nhân bản đã loại bỏ tín hiệu duy nhất từng có thể phá vỡ phép thuật, vì nó thực sự nghe giống như người mà bạn yêu quý.

FTC đã cảnh báo rằng kẻ lừa đảo có thể dùng AI để nhân bản giọng nói của một người thân từ một đoạn ghi âm ngắn, sau đó thực hiện một cuộc gọi khẩn cấp đòi tiền — và khuyến cáo rằng nếu bạn nhận được một cuộc gọi như vậy, hãy gác máy và xác minh bằng cách liên hệ trực tiếp với người đó qua một số điện thoại mà bạn biết là của họ.

— Ủy ban Thương mại Liên bang Hoa Kỳ, cảnh báo người tiêu dùng về lừa đảo khẩn cấp gia đình bằng AI

Hai biện pháp phòng vệ đơn giản chống lại điều này rất hiệu quả. Thứ nhất là một mật khẩu an toàn của gia đình — một từ hoặc cụm từ ngắn được thống nhất từ trước, không bao giờ được viết trên mạng và không bao giờ được đăng tải, mà một thành viên gia đình thực sự có thể nói ra qua điện thoại trong tình huống khẩn cấp. Một người gọi không thể nói được nó thì không qua được, dù họ có giọng của ai đi nữa. Thứ hai là một thói quen: bất kỳ đòi hỏi gấp gáp, bí mật về tiền bạc, dù giọng nói có thuyết phục đến đâu, đều là tín hiệu để gác máy và gọi lại cho người đó qua một số điện thoại mà bạn đã biết. Một tình huống khẩn cấp thật vẫn sẽ sống sót qua một cuộc gọi lại hai phút. Một vụ lừa đảo thì không.

Dấu hiệu cảnh báo qua ba mối đe dọa

Các mối đe dọa AI trong hướng dẫn này, đối với một phụ huynh, chia thành hai loại rắc rối — và các dấu hiệu cảnh báo cho mỗi loại là khác nhau. Một loại là khủng hoảng đột ngột: một bức deepfake hoặc một lời đe dọa tống tiền tình dục ập đến và gây ra sự đau khổ rõ ràng. Loại còn lại là sự trôi dạt chậm rãi: một sự lệ thuộc vào người bạn đồng hành AI hình thành qua nhiều tháng. Một phụ huynh chỉ canh chừng kịch tính sẽ bỏ lỡ loại thứ hai; một phụ huynh chỉ canh chừng sự thay đổi từ từ sẽ không sẵn sàng cho loại thứ nhất. Các dấu hiệu dưới đây bao quát cả hai. Như mọi khi, không một dấu hiệu đơn lẻ nào tự nó chứng minh điều gì — điều quan trọng là một cụm dấu hiệu xuất hiện cùng nhau trong một quãng thời gian ngắn. Hai nhóm cũng đòi hỏi các phản ứng khác nhau: các dấu hiệu khủng hoảng đột ngột cần hành động ngay trong ngày; các dấu hiệu trôi dạt chậm là lời mời cho một cuộc trò chuyện bình tĩnh và vài tuần quan sát khuôn mẫu.

Dấu hiệu khủng hoảng đột ngột (một mối đe dọa deepfake hoặc tống tiền tình dục vừa ập đến)

• Một sự chuyển biến đột ngột, gay gắt Một thanh thiếu niên trở nên lo âu sâu sắc, thu mình hoặc đau khổ trong vòng một hai ngày, thường là sau thời gian dùng điện thoại — dấu hiệu đặc trưng của một mối đe dọa vừa ập đến.
• Hoảng loạn về hình ảnh hoặc danh tiếng Sự đau khổ tập trung vào những gì người khác đã thấy, ai đã thấy hoặc điều gì đang được chia sẻ — ngay cả khi con bạn không nói rõ “điều đó” là gì.
• Áp lực tiền bạc Yêu cầu tiền, tiền mặt biến mất, mua thẻ quà tặng mới, hoặc hoạt động lạ trên ứng dụng thanh toán hoặc tiền mã hóa — một chỉ báo mạnh cho thấy một đòi hỏi tống tiền tình dục hoặc lừa đảo đã bắt đầu.

Dấu hiệu trôi dạt chậm (một mối quan hệ trực tuyến ẩn giấu hoặc sự lệ thuộc vào người bạn đồng hành)

• Sự giấu giếm quanh một ứng dụng hoặc một liên hệ Một chiếc điện thoại được canh giữ kỹ hơn trước, một cuộc trò chuyện bị xóa mỗi tối, hoặc một tài khoản mới trên một ứng dụng bạn đồng hành hoặc nhắn tin.
• Một mối quan hệ trực tuyến không bao giờ trở thành thật Một bạn tình hoặc bạn thân quen trên mạng mà gia đình không bao giờ thấy trong một cuộc gọi video bột phát, và người này luôn có lý do để một cuộc kiểm tra trực tiếp, không theo kịch bản không thể diễn ra.
• Đời sống tình cảm chuyển vào một màn hình Một thanh thiếu niên tâm sự ít hơn với con người và nhiều hơn với một ứng dụng, mất ngủ vì nó, hoặc trở nên cáu kỉnh hay đau khổ khi bị tách khỏi nó — dấu hiệu chậm của sự lệ thuộc vào người bạn đồng hành.
• Rút lui khỏi bạn bè con người Tách dần khỏi các tình bạn hiện có và các thói quen ngoại tuyến, đặc biệt khi đi cùng việc sử dụng nặng một ứng dụng AI duy nhất.
• Sự im lặng Một thanh thiếu niên trước đây hay nói chuyện nay trở nên trơn tru, đều đặn trống rỗng về phần đời sống trên mạng — sự im lặng, ở một đứa trẻ từng kể lại cả ngày của mình, là thông tin.

Phản ứng bắt đầu từ mối quan hệ, không phải từ thiết bị. Hãy mở đầu với chính người trẻ — hỏi xem con thấy thế nào, điều gì đang ở trong tâm trí — thay vì dẫn dắt bằng những gì bạn đã nhìn thấy trên màn hình. Nếu bạn dẫn dắt bằng thiết bị, bạn dạy chính bài học mà mọi kẻ thao túng đều muốn dạy: rằng người lớn là mối đe dọa cần phải quản lý chứ không phải nguồn lực để sử dụng. Hai phần tiếp theo trình bày những việc cần làm khi một cuộc trò chuyện bình tĩnh đã mở ra.

Những điều phụ huynh có thể làm

Các mối đe dọa trong hướng dẫn này là mới, nhưng công việc bảo vệ phần lớn vẫn quen thuộc, và hầu hết không mang tính kỹ thuật. Nó dựa trên ba điều: một mối quan hệ trong đó một thanh thiếu niên sẽ thực sự kể cho bạn khi điều gì đó không ổn, một vài cuộc trò chuyện nhỏ được tổ chức trước một cuộc khủng hoảng thay vì sau đó, và một số cài đặt và thói quen thực tế. Gộp lại, chúng quan trọng hơn nhiều so với bất kỳ công cụ đơn lẻ nào.

Hãy có những cuộc trò chuyện sớm. Câu nói có sức mạnh nhất trong hướng dẫn này là một câu bạn nói từ trước: nếu một bức ảnh giả về con từng xuất hiện, hoặc có ai đó dùng một bức ảnh như vậy để đe dọa con, con sẽ không có chuyện gì cả và chúng ta sẽ cùng nhau xử lý. Một thanh thiếu niên đã biết điều đó từ trước sẽ có nhiều khả năng đến với bạn ngay trong giờ đầu tiên, khi sự trợ giúp dễ nhất, thay vì giấu vấn đề cho đến khi nó lớn lên. Hãy nói về deepfake một cách thẳng thắn, trước khi một sự cố làm nó trở nên khẩn cấp. Hãy thống nhất một mật khẩu an toàn gia đình cho các vụ lừa nhân bản giọng nói. Làm rõ rằng lằn ranh sáng — bất kỳ đòi hỏi nào về tiền, hình ảnh hoặc quyền truy cập tài khoản từ một liên hệ chỉ trên mạng — đều áp dụng dù người kia có vẻ thật đến đâu.

Điều chỉnh các cài đặt làm giảm phơi nhiễm. Việc thắt chặt sự riêng tư của các tài khoản mạng xã hội của con bạn hạn chế mức độ tự do mà người lạ có thể thu thập những bức ảnh khuôn mặt vốn là nguyên liệu để dựng deepfake. Việc kiểm tra những gì đã được công khai — công việc đồng hành được nêu trong hướng dẫn của chúng tôi về dấu chân số của con bạn — cũng quan trọng ở đây, vì dấu chân chính là nguồn cung. Việc xem lại ai có thể liên hệ và nhắn tin cho con đóng lại các kênh tiếp xúc đầu tiên phổ biến nhất. Việc biết những ứng dụng nào đang có trên thiết bị — bao gồm cả các ứng dụng bạn đồng hành AI — là nền tảng cho mọi cuộc trò chuyện hữu ích. Không điều nào trong số này là một bức tường, và nó nên được làm cùng con bạn chứ không phải áp đặt lên con, nhưng nó hạ thấp nguồn cung thô của chất liệu và liên hệ mà mọi mối đe dọa trong hướng dẫn này phụ thuộc vào.

Sử dụng việc giám sát một cách minh bạch, nếu bạn có dùng. Ở nhiều nơi, một phụ huynh hoặc người giám hộ hợp pháp có thể sử dụng việc giám sát phù hợp với lứa tuổi trên thiết bị của con, mặc dù quy định khác nhau tùy theo quốc gia, bang và tình trạng quyền nuôi con, vì vậy hãy kiểm tra điều gì áp dụng ở nơi bạn sống. Khi có một mối quan ngại an toàn thực sự, nó có thể là một lớp bảo vệ hợp lý — nhưng yếu tố quyết định là sự minh bạch. Sự giám sát ngầm, nếu thanh thiếu niên phát hiện ra, sẽ xác nhận đúng kịch bản của kẻ thao túng rằng người lớn không thể tin được và đẩy con bạn sang một thiết bị giấu kín mà bạn không có chút tầm nhìn nào. Sự giám sát mà con bạn biết, hiểu và đã được giải thích sẽ làm việc cùng với mối quan hệ chứ không chống lại nó. Hãy nghĩ về nó như giàn giáo: hữu hình, tương xứng và được tháo dỡ dần khi sự tin tưởng và tính tự chủ lớn lên — không phải vật thay thế cho các cuộc trò chuyện ở trên, mà là sự hỗ trợ cho chúng.

Hãy biết rằng bạn không cần theo kịp mọi công cụ. Các bậc phụ huynh trong lĩnh vực này thường cảm thấy mình đang thua trong một cuộc đua với một công nghệ thay đổi nhanh hơn họ có thể học. Sự thật trấn an là bạn không cần phải làm vậy. Các ứng dụng cụ thể sẽ liên tục thay đổi; khuôn mẫu nền tảng — thao túng, tống tiền, sự thân mật được chế tạo — thì không. Một phụ huynh hiểu khuôn mẫu, và mà con mình sẽ nói chuyện cùng, đã được trang bị cho công cụ tiếp theo cũng như công cụ hiện tại.

Báo cáo lạm dụng AI và tìm sự trợ giúp

Bạn không cần có bằng chứng, sự chắc chắn hay một bức tranh đầy đủ để thực hiện một báo cáo. Các cơ quan tiếp nhận báo cáo dự kiến nhận được thông tin chưa đầy đủ và thà nhận được một báo cáo hóa ra là chuyện nhỏ còn hơn bỏ lỡ một báo cáo không phải vậy. Phần này là một tấm bản đồ, không phải tư vấn pháp lý; với bất cứ điều gì có thể liên quan đến các cáo buộc hình sự, hãy tham vấn một luật sư có trình độ tại khu vực pháp lý của bạn. Trước khi báo cáo bất cứ điều gì, hãy lưu giữ bằng chứng — ảnh chụp màn hình bức ảnh, tài khoản, tên người dùng và mọi tin nhắn — bởi vì chặn hoặc xóa trước có thể phá hủy chính những gì làm nền cho một báo cáo.

Bắt đầu từ đâu tùy thuộc vào việc bạn ở đâu. Các thẻ bên dưới cho biết kênh báo cáo đầu tiên theo khu vực; chi tiết đầy đủ sẽ theo sau.

• Hoa Kỳ Báo cáo việc bóc lột tình dục, dụ dỗ hoặc tống tiền tình dục đối với trẻ vị thành niên — bao gồm cả các bức ảnh khêu gợi do AI tạo ra về một thanh thiếu niên — cho NCMEC CyberTipline. Với các tội phạm có yếu tố trực tuyến hoặc tài chính, hãy báo cả Trung tâm Khiếu nại Tội phạm Internet (IC3) của FBI. Với các thiệt hại do lừa đảo, ReportFraud.ftc.gov.
• Vương quốc Anh Báo cáo lo ngại rằng một trẻ em đang bị bóc lột trực tuyến cho CEOP, một phần của Cơ quan Tội phạm Quốc gia. Hỗ trợ gỡ ảnh dành cho người dưới 18 tuổi qua Internet Watch Foundation và công cụ Report Remove của Childline.
• Liên minh châu Âu Sử dụng đường dây nóng quốc gia tương ứng được điều phối qua mạng lưới INHOPE đối với nội dung bất hợp pháp và bóc lột trẻ em.
• Các nơi khác Liên hệ cảnh sát quốc gia hoặc địa phương và đường dây nóng bảo vệ trẻ em hoặc tố giác mạng tại nước bạn; nhiều đường dây nóng quốc gia được liệt kê trong danh bạ quốc tế của INHOPE.

Ở mọi khu vực, hãy báo cáo cả với nền tảng — nhưng hãy xem báo cáo nền tảng là phần bổ sung cho kênh thực thi pháp luật, không bao giờ là phần thay thế. Để làm chậm việc tiếp tục chia sẻ một bức ảnh khêu gợi, dịch vụ miễn phí Take It Down, do NCMEC vận hành, tạo ra một dấu băm kỹ thuật số mà các nền tảng tham gia sử dụng để phát hiện và chặn các bản sao trùng khớp của các hình ảnh về đối tượng dưới 18 tuổi — bao gồm cả, ở nơi dịch vụ và các nền tảng tham gia hỗ trợ trùng khớp nội dung tổng hợp, các hình ảnh do AI tạo ra về trẻ vị thành niên. Đối với những người đã trên 18 tuổi khi bức ảnh được chụp, StopNCII.org cung cấp dịch vụ tương đương. Cả hai đều không phải là một nút xóa hoàn toàn, nhưng cả hai đều làm chậm đáng kể sự lan rộng tiếp theo.

Để có hướng dẫn liên tục cho phụ huynh, tổ chức nghiên cứu phi lợi nhuận về an toàn trẻ em Thorn công bố các nghiên cứu về AI và an toàn trẻ em; Internet Matters và NSPCC xuất bản tài liệu miễn phí và được cập nhật thường xuyên cho các gia đình; còn Pew Research Center theo dõi cách thanh thiếu niên thực sự sử dụng công nghệ.

Câu hỏi thường gặp