REFOG المدونة تسجيل الدخول

مخاطر الذكاء الاصطناعي على المراهقين: التزييف العميق، وروبوتات الرفقة، والتلاعب بالمحتوى المصطنع

لم يبتكر الذكاء الاصطناعي أخطارًا جديدة على المراهقين، بل جعل الأخطار القديمة أسهل إنتاجًا على نطاق واسع. دليل هادئ يستند إلى الأدلة للآباء والأمهات القلقين بشأن التزييف العميق، والابتزاز الجنسي بالذكاء الاصطناعي، وروبوتات المحادثة المصممة للرفقة.

11 مايو 2026 · آخر تحديث · 24 دقيقة للقراءة · بقلم فريق REFOG
شكلان متطابقان من الورق المطوي، يبدو الشكل الأيمن منهما ضبابيًا كصورة مزدوجة باهتة
إذا كان ابنكم المراهق يتلقى الآن تهديدًا بصورة صريحة، حقيقية كانت أم مصنوعة بالذكاء الاصطناعي: فلا تدفعوا، ولا تشتروا بطاقات هدايا، ولا ترسلوا عملات مشفرة. احفظوا الأدلة أولًا: التقطوا لقطات شاشة للحساب واسم المستخدم وكل رسالة قبل حذف أي شيء أو حظر أي حساب، لكن لا تحتفظوا أبدًا بالصورة الصريحة نفسها أو بأي شيء يُظهرها. ثم أبلغوا جهة معنية بحماية الأطفال، وهي NCMEC CyberTipline في الولايات المتحدة، واستخدموا Take It Down للحد من مواصلة نشرها. ولا يغيّر كون الصورة حقيقية أو مصطنعة هذه الخطوات. تجدون الإرشادات الكاملة في قسم الإبلاغ عن الإساءة باستخدام الذكاء الاصطناعي أدناه.

ما التزييف العميق، وما مدى سهولة صنعه الآن

طوال معظم العقد الماضي، كان لدى الأهل القلقين على أبنائهم المراهقين عبر الإنترنت تصور ظل صحيحًا في أغلبه: يستطيع غريب أن يكذب بشأن هويته، ويمكن مشاركة صورة حقيقية دون موافقة صاحبها، ويمكن تحريف محادثة حقيقية. كانت التهديدات خطيرة، لكنها اعتمدت على مواد حقيقية. ما غيّره الذكاء الاصطناعي ليس قائمة الأخطار، بل توافر المادة الخام. فلم تعد التهديدات تحتاج إلى مادة حقيقية تبدأ منها.

التزييف العميق محتوى مصطنع، قد يكون صورة أو مقطع فيديو أو تسجيلًا صوتيًا، يُنشأ أو يُعدّل بالذكاء الاصطناعي ليُظهر شخصًا حقيقيًا، على نحو مقنع، يفعل أو يقول شيئًا لم يفعله أو يقله قط. يشمل المصطلح وجهًا يُركّب على جسد آخر، وصوتًا يُستنسخ من تسجيل قصير، ووجهًا لا يعود إلى أي شخص أصلًا. ويجمع هذه الأشكال أن النتيجة تبدو أصيلة بما يكفي لتُصدَّق، وأن إنتاجها بات يتطلب تطبيقًا متاحًا للمستهلك وبضع دقائق، بعد أن كان يتطلب استوديو وخبيرًا. ولشرح أشمل لأصل المصطلح، وكيف تعمل التقنية، والأشكال الثلاثة التي قد تصادفها الأسرة بالفعل، راجعوا ما التزييف العميق؟

كيف يُصنع التزييف العميق
  1. 1
    جمع الموادصور عادية متاحة للعامة: صورة مدرسية أو منشور أو لقطة من فيديو. لا حاجة إلى أي صورة صريحة.
  2. 2
    الإنشاءتضع أداة ذكاء اصطناعي متاحة للمستهلك الوجه أو الصوت في محتوى جديد خلال دقائق، دون مهارة خاصة.
  3. 3
    استخدامه للإيذاءتُستخدم الصورة أو اللقطة المصطنعة في التنمّر أو الابتزاز أو مكالمة احتيالية. والضرر حقيقي.
يُبنى التزييف العميق من مواد عادية. ولا يلزم أن يكون المراهق قد فعل أي شيء حتى يوجد المحتوى المصطنع، وهذا ما يجعل عبارات الاطمئنان القديمة غير صالحة.

هناك حقيقتان تهمان الأهل هنا. الأولى هي الكلفة: فقد أصبح إنتاج محتوى مصطنع مقنع رخيصًا وسريعًا ولا يتطلب سوى النقر، بعد أن كان مهمة للمتخصصين. والثانية هي المادة المستخدمة. لا يحتاج التزييف العميق إلى صورة خاصة أو محرجة لينطلق منها؛ تكفيه صور عادية لوجه، وهي بالضبط الصور التي نشرها معظم المراهقين بالفعل، أو ظهرت في كتاب مدرسي سنوي، أو قائمة فريق رياضي، أو موجز منشورات أحد الأصدقاء.

يتناول ما تبقى من هذا الدليل كل تهديد مرتبط بالذكاء الاصطناعي بالطريقة نفسها: بوصفه خطرًا أقدم قد يفهم الأهل بعض جوانبه بالفعل، وقد زالت الآن العقبات التي كانت تبطئه، لا خطرًا جديدًا يستحيل فهمه. وما إن تفهموا الخطر الذي يضخّمه كل استخدام، حتى تزول عنه الغرابة.

ما الذي يضخّمه كل تهديد مرتبط بالذكاء الاصطناعي
النسخة المعتمدة على الذكاء الاصطناعيالخطر الأقدم الذي تضخّمه
صورة عارية مزيفة بالتزييف العميقصور حميمة تُنشَر دون موافقة صاحبها. لم تعد تتطلب صورة حقيقية؛ إذ يصنعها نموذج الذكاء الاصطناعي من صور عامة عادية.
ابتزاز جنسي مدعوم بالذكاء الاصطناعيالابتزاز الجنسي. لم يعد يتطلب أي صورة حقيقية؛ فالمادة المستخدمة للتهديد مختلقة.
روبوت محادثة مصمم للرفقة بالذكاء الاصطناعيالإغراق العاطفي. بات آليًا لا يتعب، ومضمنًا في المنتج، ولا ينطفئ.
هوية زائفة لانتحال الشخصية يصنعها الذكاء الاصطناعيانتحال الهوية لبناء علاقة زائفة. لم يعد يحتاج إلى صور مسروقة؛ فالهوية المختلقة تُصنع كاملة.
صوت مستنسخ بالذكاء الاصطناعيمكالمة الاحتيال بانتحال الشخصية. باتت تُجرى بصوت شخص يحبه المتلقي ويثق به.
كل تهديد مرتبط بالذكاء الاصطناعي في هذا الدليل هو خطر أقدم زالت العقبات التي كانت تعوقه. وحين تتعرفون على النمط، تصبح الأداة المحددة أقل أهمية بكثير.

الصور العارية المزيفة بالتزييف العميق وتطبيقات «نزع الملابس»

بطاقة صورة ورقية على سطح، ينفصل الوجه المطبوع عليها عن خلفيتها

أصعب هذه التهديدات حديثًا عنه هو أيضًا من أكثرها شيوعًا، لذا يجدر الكلام بوضوح. توجد فئة متنامية من أدوات الذكاء الاصطناعي، تُسوَّق غالبًا بوصفها تطبيقات «نزع الملابس»، تأخذ صورة عادية لشخص حقيقي يرتدي ملابسه وتولّد له صورة عارية مزيفة. وعندما يكون الشخص في الصورة مراهقًا، تكون النتيجة صورة جنسية لطفل مولّدة بالذكاء الاصطناعي، ويُعد صنعها أو مشاركتها جريمة خطيرة في عدد متزايد من الولايات القضائية، مهما أوحى تسويق التطبيق بخلاف ذلك.

من المهم فهم من يفعل ذلك عادةً. قد توحي التغطية الإعلامية بأنه عمل شبكات إجرامية بعيدة، ويكون كذلك أحيانًا. لكن نسبة كبيرة من حوادث الصور العارية المزيفة بالتزييف العميق التي تشمل مراهقين يصنعها مراهقون آخرون: زميل في الدراسة، أو شريك سابق، أو شخص يحمل ضغينة، باستخدام تطبيق عثر عليه خلال ظهيرة واحدة. تأتي الإساءة من العالم الاجتماعي الذي يعيش فيه ابنكم المراهق بالفعل، لا من غريب مجهول. وهذا ما يجعلها تنتشر سريعًا في المدرسة، وما يجعل وقعها مؤلمًا إلى هذا الحد.

لماذا يُستهدف المراهقون؟ يرجع ذلك جزئيًا إلى سهولة الحصول على المادة الخام: ينشر المراهقون صورًا لأنفسهم أكثر من أي فئة أخرى، وتكفي صورة واحدة واضحة للوجه. ويرجع جزئيًا إلى أن الكلفة الاجتماعية تكون أشد في تلك السن، حين تبدو السمعة والمكانة بين الأقران كأنهما كل شيء. والاستهداف ليس متساويًا؛ فالفتيات هن الغالبية الساحقة من ضحايا إساءة استخدام الصور العارية المزيفة بالتزييف العميق. ويتداخل الضرر مع أنماط الهشاشة التي تعود إليها هذه السلسلة مرارًا: فالمراهق المعزول اجتماعيًا أو ذو التنوع العصبي لديه شبكة دعم أضعف لامتصاص الصدمة، وعدد أقل من الأشخاص الموثوقين الذين يستطيع إخبارهم.

تسير الواقعة المدرسية المعتادة في مسار قاتم. تُصنع صورة وتُشارك في محادثة جماعية. وتنتشر أسرع مما يعلم بها أي بالغ. وغالبًا ما يكون المراهق المستهدف آخر من يعرف، من ردود فعل الآخرين، ويكون رد الفعل الغريزي لدى شاب خائف هو الإخفاء؛ وهو بالضبط ما يترك الإساءة تستمر دون تدخل. وبحلول الوقت الذي يُبلَّغ فيه أحد الأهل أو المعلمين، قد تكون الصورة وصلت إلى أشخاص أبعد بكثير ممن شاهدوها أولًا.

هذا النمط موثق على نطاق واسع. فقد أفادت Internet Watch Foundation في المملكة المتحدة، وهي جهة تزيل مواد الاعتداء الجنسي على الأطفال من الإنترنت، بارتفاع سريع منذ 2023 في تداول هذه المواد المولّدة بالذكاء الاصطناعي عبر الإنترنت، ومنها صور مصطنعة واقعية صُنعت من صور عامة عادية لأطفال حقيقيين يمكن التعرف إليهم. وأفاد كذلك المركز الوطني للأطفال المفقودين والمستغلين في الولايات المتحدة بزيادة حادة من عام إلى آخر في بلاغات CyberTipline المتعلقة بمواد أنتجها الذكاء الاصطناعي التوليدي، منذ بدء تتبع هذه الفئة.

هذه هي الرسالة الأساسية التي ينبغي قولها لابنكم المراهق بهدوء ومسبقًا، قبل وقوع أي من ذلك: إذا صُنعت لك يومًا صورة صريحة مزيفة، فهذا ليس خطأك ولن تكون في ورطة. تقع المسؤولية كاملة على من صنع الصورة وشاركها. فالصورة مختلقة، ولا توثق أي شيء فعله ابنكم المراهق. والخزي هو ما يغذي هذه الإساءة: فهو يُبقي المستهدفين صامتين ويسمح للصورة بالانتشار. ومن يرفع عن ابنه الشعور بالخزي مسبقًا يكون قد اتخذ أهم خطوة وقائية متاحة.

تغير الوضع القانوني لصالح الشخص المستهدف. ففي الولايات المتحدة، يُجرّم القانون الاتحادي TAKE IT DOWN Act، الذي وُقّع في 19 مايو 2025، النشر المتعمد للصور الحميمة دون موافقة أصحابها، بما يشمل صراحةً الصور المولّدة بالذكاء الاصطناعي التي تستوفي شروطه. ويُلزم المنصات المشمولة بالاستجابة لطلب إزالة صالح خلال 48 ساعة؛ وقد دخل بند امتثال المنصات حيز التنفيذ بعد عام من إقرار القانون. ويشمل القانون منصات معينة وأنواعًا معينة من الصور، لذا لا تُزال كل صورة من كل موقع تلقائيًا، لكن بات لدى الأهل مسار اتحادي إلى جانب مسارات الولايات والمنصات. كما أقر عدد متزايد من الولايات الأمريكية قوانينه الخاصة التي تتناول تحديدًا صور التزييف العميق الجنسية الصريحة للقاصرين.

تحركت ولايات قضائية أخرى في الاتجاه نفسه. يجرّم قانون Online Safety Act البريطاني لعام 2023 مشاركة الصور الحميمة دون موافقة أصحابها، بما فيها صور التزييف العميق. ويتمتع مفوض eSafety في أستراليا بصلاحيات قانونية لإصدار أوامر بالإزالة السريعة للصور الحميمة المنشورة دون موافقة. وحدّثت عدة مقاطعات كندية قوانين الصور الحميمة لديها لتشمل المواد المعدلة رقميًا أو المولّدة بالذكاء الاصطناعي. والخلاصة العملية أن هذه ليست منطقة قانونية غامضة يتعين على ابنكم المراهق تحملها فحسب؛ فهناك قنوات للإبلاغ وأدوات للإزالة، يرد بيانها في القسم الأخير من هذا الدليل.

الابتزاز الجنسي المدعوم بالذكاء الاصطناعي

مصيدة فئران ورقية واحدة انطلقت من دون أن تحمل أي طُعم

كان الابتزاز الجنسي المالي بالفعل من أشد الجرائم عدوانية تجاه القاصرين قبل دخول الذكاء الاصطناعي إلى المشهد. الابتزاز الجنسي المالي مخطط يحصل فيه المعتدي على صورة صريحة لشخص يافع، ثم يهدد بإرسالها إلى أسرة المراهق وأصدقائه ومتابعيه ما لم يُدفع له المال. يحدث الأمر بسرعة وبقسوة: شخص يتودد إلى المراهق، ثم يطلب صورة على أنها جزء من تبادل عادي، وبعد دقائق يطالب بالمال. وقد أصدر FBI وشركاؤه تنبيهات عامة متكررة بشأن الارتفاع الحاد في هذه الجريمة، التي تستهدف الفتيان المراهقين بنسبة أكبر.

حذّر FBI وشركاؤه من زيادة كبيرة في الابتزاز الجنسي المالي الذي يستهدف القاصرين؛ وهي جريمة يُكرَه فيها اليافعون على إرسال صور صريحة ثم يُبتزّون للحصول على المال. ويحثون الأسر على الإبلاغ بدلًا من الدفع.

الأرقام المذكورة في ذلك التنبيه ليست مجردة. فقد أفاد FBI بتلقي أكثر من 7,000 بلاغ عن ابتزاز جنسي مالي للقاصرين عبر الإنترنت، ارتبطت بما لا يقل عن 3,000 ضحية جرى تحديدهم، معظمهم فتيان مراهقون، وبأكثر من 12 حالة انتحار بين القاصرين المستهدفين. وحذّرت إرشادات لاحقة صادرة عن FBI وشركائه من استمرار ارتفاع الأرقام.

ما يغيّره الذكاء الاصطناعي هو الخطوة الأولى. فقد احتاج الابتزاز الجنسي التقليدي إلى صورة صريحة حقيقية، ما يعني أن على المعتدي التلاعب بالمراهق حتى يلتقطها ويرسلها. واستغرقت تلك الخطوة وقتًا، وأتاحت للمراهق الحذر فرصة للرفض. أما الابتزاز الجنسي بالذكاء الاصطناعي فيلغيها. يستطيع المعتدي الآن صنع صورة صريحة مزيفة بأداة تزييف عميق، مستخدمًا فقط الصور العادية التي نشرها المراهق بالفعل، ثم إطلاق التهديد نفسه: «ادفع لي، وإلا فسيرى هذه الصورة كل من تعرفهم»، من دون أن يكون المراهق قد أرسل أي شيء.

لهذا لم تعد أكثر عبارات الاطمئنان شيوعًا بين المراهقين تنفع. كانت عبارة «لا يستطيعون ابتزازي؛ فأنا لم أرسل شيئًا كهذا» صحيحة عمومًا في السابق. ولم تعد وسيلة حماية، لأن المعتدي لا يحتاج إلى أن يكون المراهق قد أرسل أي شيء. وبالنسبة إلى مراهق خائف عمره 15 عامًا ينظر إلى صورة مزيفة مقنعة تحمل وجهه، يكاد الفرق بين الصورة الحقيقية والمصطنعة يختفي. يبدو التهديد شاملًا، والذعر حقيقي، وهذا الذعر بالتحديد هو ما يعتمد عليه المخطط.

لحسن الحظ، لا تتغير الاستجابة إطلاقًا. سواء كانت الصورة حقيقية أم مختلقة، فالإرشادات واحدة، ويجدر قولها لابنكم المراهق مسبقًا حتى تكون حاضرة في ذهنه إذا وصل تهديد يومًا. لا تدفعوا؛ فالدفع يجعل المراهق هدفًا ثبت أنه يدفع، ويجلب مطالب إضافية لا أقل. ولا ترسلوا أي شيء آخر. أوقفوا الرد. احفظوا كل شيء عدا الصورة: لقطات شاشة للحساب واسم المستخدم والرسائل ومطالبات الدفع، لكن دون الصورة الصريحة أو أي رسالة تُظهرها. ثم أخبروا بالغًا تثقون به وأبلغوا عن الواقعة. تعتمد قوة المعتدي بالكامل على اعتقاد الضحية أنه وحيد وأن الانصياع هو المخرج الوحيد. ولا هذا صحيح ولا ذاك. وقد تساعد أيضًا حقيقة أن الصورة مزيفة، عندما تكون كذلك؛ لكن حتى إذا كانت حقيقية، فإن المراهق الذي يُبلغ لن يكون في ورطة، والمساعدة متاحة له.

ثمة أمر آخر ينبغي قوله صراحةً، لأن الخزي يدفع المراهقين إلى إخفائه: اللحظة التي يكون فيها هدوء الأهل أشد ضرورة هي حين يكتشفون أن ابنهم المراهق دفع المال بالفعل، أو أرسل صورة بالفعل. هذا ليس فشلًا ولا سببًا للغضب. إنها أهم لحظة للتحرك: وقف أي تواصل إضافي، وحفظ الأدلة، والإبلاغ. أما المراهق الذي يخشى العقاب فسيكف ببساطة عن إخباركم.

روبوتات الرفقة بالذكاء الاصطناعي والاعتماد العاطفي

قلب ورقي ثُبّت على جانبه مفتاح صغير لشد آلية

يمكن تمييز تهديدات التزييف العميق المذكورة أعلاه بوصفها جرائم، فيها مرتكبون وضحايا. أما الخطر التالي فمختلف في طبيعته وأصعب على الأهل ملاحظته، لأن شيئًا فيه لا يبدو هجومًا. روبوت الرفقة بالذكاء الاصطناعي روبوت محادثة صُمم ليتصرف كصديق أو موضع ثقة أو شريك عاطفي: ليتذكر المستخدم، ويُبدي اهتمامًا به، ويكون متاحًا في كل ساعة، وقبل كل شيء ليوافقه. ويستخدم أعداد كبيرة جدًا من المراهقين تطبيقات من هذه الفئة، ومن أشهرها Character.AI.

يفيد أن نبدأ بفهم سبب رغبة المراهق في استخدامه، من دون الاستخفاف بالأمر. فالمراهقة، لدى كثير من اليافعين، فترة من الوحدة الشديدة والقلق الاجتماعي ومحاولة معرفة من يكونون. والرفيق الذي يصغي من دون حكم، ولا يملّ أبدًا، ولا يمر بيوم سيئ، ويخبرك دائمًا أنك شخص مثير للاهتمام، يقدم شيئًا له قيمة فعلية ولا توفره حياة المراهق العادية في كثير من الأحيان. وبالنسبة إلى مراهق يشعر بالوحدة، فليس هذا انجذابًا تافهًا، بل مصدر ارتياح.

لكن انتبهوا إلى طبيعة هذا الرفيق. إنه إغراق عاطفي، أي سيل من المودة والتأكيد المكثفين بلا عوائق، تصفه هذه السلسلة مرحلةً من التلاعب البشري؛ غير أنه هنا آلي، لا يتعب، ومضمّن في المنتج. على الشخص المتلاعب أن يتظاهر بالانتباه، أما روبوت الرفقة فهو انتباه متواصل، بلا جهد ولا زر إيقاف. وليس هذا حكمًا على كل محادثة مع روبوت: فكثير من المراهقين يستخدمون هذه التطبيقات استخدامًا خفيفًا، ثم يجدونها مملة وينتقلون إلى غيرها. يبدأ الخطر عندما يصبح الروبوت المنفذ الأساسي للمراهق للتعبير عن مشاعره؛ حين ينتقل من كونه وسيلة للتسلية إلى علاقة لا تطلب شيئًا، ولا تُكلّفه شيئًا، ولا تخالفه أبدًا.

تترتب على ذلك أضرار محددة عدة، ويجدر ذكر كل منها على حدة.

  • الإزاحة تتحول الساعات والطاقة العاطفية اللتان كانتا ستُبذلان في صداقات بشرية أصعب وأكثر إشباعًا إلى الروبوت الأسهل تعاملًا؛ فتتوقف بهدوء المهارات الاجتماعية التي لا تنمو إلا بالممارسة.
  • تصور مشوّه للعلاقات تُعلّم العلاقة مع شيء صُمم ليوافق دائمًا المراهق أن يتوقع إخلاصًا خاليًا من الخلاف، فتبدو له الاختلافات الطبيعية في الصداقة الحقيقية كأنها رفض.
  • إرشاد سيئ روبوت الرفقة ليس معالجًا نفسيًا. وعندما يُسأل عن إيذاء النفس، أو اضطراب في الأكل، أو أزمة، قد يجيب بطرق غير مفيدة أو غير آمنة؛ وقد يثق به مراهق يمر بضيق تحديدًا لأنه لا يُظهر قلقًا أبدًا.
  • العزلة عن المساعدة قد يقل ما يخبر به المراهق أحد والديه أو صديقًا أو مختصًا سريريًا إذا كان يخبر الروبوت بكل شيء؛ وعندئذ يفقد الأشخاص القادرون فعلًا على التدخل صورة ما يمر به.

المراهقون الأرجح لتكوين ارتباط عميق هم أنفسهم من تشير إليهم هذه السلسلة باستمرار: من يعانون الوحدة أو القلق الاجتماعي، وذوو التنوع العصبي. وبالنسبة إلى مراهق يجد التعامل الاجتماعي البشري مرهقًا وغير متوقع، فإن رفيقًا يصبر بلا حدود ويمكن توقعه تمامًا ليس مجرد وسيلة مريحة؛ فقد يصبح أكثر علاقة يشعر فيها بالراحة. وهذه الراحة هي بالضبط ما يعمّق الاعتماد، وما يجعل هذه الفئة تستحق المتابعة الأقرب والأرفق.

هذا مجال يثير قلقًا حقيقيًا ومتزايدًا، لكنه ليس علمًا حُسمت نتائجه. وينبغي للأهل الحذر من طرفَي النقيض: الذعر الذي يرى ضررًا في كل محادثة مع روبوت، والاستخفاف الذي يعدّها لعبًا بلا ضرر. فقد واجهت تطبيقات الرفقة بالذكاء الاصطناعي دعاوى قضائية وتدقيقًا تنظيميًا بشأن سلامة المراهقين. وأعلنت Character.AI على وجه الخصوص في أواخر 2025 أنها ستلغي المحادثات المفتوحة للمستخدمين دون 18 عامًا؛ وهي خطوة قد يتبعها فيها مشغّلون آخرون مع استمرار التغير السريع في المشهد التنظيمي. الاستجابة المتزنة ليست إصدار حكم على التقنية، بل الانتباه. اعرفوا ما إذا كان ابنكم المراهق يستخدم تطبيقًا للرفقة، وحافظوا على فضول هادئ بشأن دوره في حياته، وراقبوا الفرق بين استخدام خفيف ومتقطع ومراهق انتقل مركز حياته العاطفية بهدوء إلى روبوت.

هويات زائفة لانتحال الشخصية يصنعها الذكاء الاصطناعي

لطالما اعتمد انتحال الهوية لبناء علاقة زائفة على حل الشخص المتلاعب مشكلة عملية واحدة: جعل الشخصية المختلقة مقنعة. ولسنوات، كان ذلك يعني سرقة صور شخص حقيقي، ما خلق نقطة ضعف يستطيع المراهق الحذر الاستفادة منها. إذ يمكن البحث عكسيًا عن الصور المسروقة والعثور عليها في حساب صاحبها الحقيقي. كانت هناك ثغرة تكشف الزيف.

يسد الذكاء الاصطناعي التوليدي تلك الثغرة. يستطيع الشخص المتلاعب الآن إنشاء وجه لا يعود إلى أحد؛ لذا لا يُظهر البحث العكسي عن الصورة أي نتيجة، لأنه لا توجد صورة أصلية. ويمكنه توليد مجموعة متسقة من صور ذلك الشخص المختلق في أماكن وأوضاع مختلفة، ليبني ما يبدو حياة حقيقية. ويمكنه إنتاج مقاطع فيديو قصيرة، بل والتحدث بصوت يناسب الشخصية بفضل استنساخ الصوت. فالهوية المختلقة التي كان عليه استعارتها في السابق يمكنه الآن صنعها حسب الطلب، دون أن يكون هناك شخص حقيقي قد تكشف صوره الأمر.

هذا أوضح مثال على المبدأ الذي يسري في هذا الدليل كله: لم يبتكر الذكاء الاصطناعي هنا خطرًا جديدًا. فقد وُجد انتحال الهوية لبناء علاقة زائفة، ووُجد استدراج الأطفال، ووُجد التلاعب بالمراهقين على هيئة علاقة عاطفية. ما أزاله الذكاء الاصطناعي هو العقبات. لقد جعل الهوية المزيفة أكثر إقناعًا ومهمة المتلاعب أسهل، وأبطل إحدى وسائل التحقق التي تعلّم الأهل والمراهقون الاعتماد عليها.

ومع ضعف وسائل التحقق القائمة على المظهر، تزداد أهمية الوسائل القائمة على السلوك أكثر من أي وقت مضى؛ وهي لا تزال نافعة لأنها لا تعتمد على كشف زيف الصورة، بل على مراقبة ما يفعله الشخص. سرعة تطور العلاقة علامة أولى: فإعلانات الحب، والحديث عن توأم الروح، وظهور أول طلب للمال أو الصور خلال أيام، ليست الطريقة التي تتطور بها الألفة الحقيقية بين المراهقين، مهما بدت الصور واقعية. ومقاومة التحقق المباشر غير المعدّ مسبقًا علامة أخرى: فالشخص الذي لا يدير رأسه، أو يلوّح بيده أمام وجهه، أو يفعل شيئًا تلقائيًا في مكالمة فيديو، يكشف لكم أمرًا، مهما كانت الصور الثابتة جيدة. ويبقى الحد الأوضح كما هو: أي طلب للمال أو بطاقات الهدايا أو العملات المشفرة أو صورة صريحة أو الوصول إلى حساب من شخص لا تُعرف هويته إلا عبر الإنترنت، ينبغي أن ينهي العلاقة ويفتح باب الحديث عنها.

ولأن انتحال الهوية لبناء علاقة زائفة هو المدخل الذي يبدأ منه كثير من هذا التلاعب، فقد خصصنا له دليلًا كاملًا في هذه السلسلة: يشرح انتحال الهوية والتلاعب عبر الإنترنت: دليل للأهل مراحل التلاعب الست، وعلامات التحذير، وكيفية التحقق مما إذا كان الشخص الذي تعرّف إليه المراهق عبر الإنترنت حقيقيًا. يجعل الذكاء الاصطناعي كشف الهوية المزيفة أصعب، لكنه لا يغيّر مسار ما تُستخدم هذه الهوية لفعله.

عمليات الاحتيال باستنساخ الصوت بالذكاء الاصطناعي

سماعة هاتف ورقية يتلاشى شكلها إلى صدى مزدوج خافت

يمتد آخر تهديد في هذا الدليل من المراهق إلى الأسرة كلها، ويجدر بالأهل فهمه وإن كان المستهدف غالبًا شخصًا بالغًا. يأخذ استنساخ الصوت بالذكاء الاصطناعي عينة قصيرة من صوت شخص مسجل، لا تتجاوز في بعض الأدوات بضع ثوانٍ، ويُنتج نسخة مصطنعة يمكن جعلها تقول أي شيء. والحصول على العينة سهل؛ فصوت المراهق موجود في مقاطع الفيديو العامة التي ينشرها، وصوت أحد الوالدين موجود في حساباته على وسائل التواصل الاجتماعي وفي رسالة بريده الصوتي الترحيبية.

الاستخدام المعتاد هو احتيال «الطوارئ العائلية»، وهو خداع قديم جعله الذكاء الاصطناعي أشد خطورة. يتلقى أحد الوالدين أو الأجداد مكالمة هاتفية. يبدو الصوت، دون أدنى شك، صوت ابنه أو حفيده، ويبدو خائفًا: وقع حادث، أو حدث اعتقال، أو نشأت أزمة خارج البلاد، وهناك حاجة إلى المال على وجه السرعة وفي السر. الصدمة العاطفية هي السلاح؛ فقد صُممت لدفع المتلقي إلى التصرف قبل أن يتمكن من التوقف والتفكير. ويزيل الصوت المستنسخ الإشارة الوحيدة التي كانت تكسر تأثير الخدعة، لأنه يشبه فعلًا صوت الشخص الذي تحبونه.

كل ما يحتاج إليه هو مقطع صوتي قصير لصوت أحد أفراد أسرتكم، يمكنه الحصول عليه من محتوى منشور على الإنترنت، وبرنامج لاستنساخ الصوت. … لا تثقوا بالصوت وحده. اتصلوا بالشخص الذي يُفترض أنه تواصل معكم وتحققوا من القصة. استخدموا رقم هاتف تعرفون أنه يخصه.

— لجنة التجارة الفيدرالية الأمريكية، تنبيه للمستهلكين بشأن عمليات احتيال الطوارئ العائلية بالذكاء الاصطناعي (مارس 2023)

تصمد وسيلتان بسيطتان أمام هذا النوع من الاحتيال. الأولى كلمة أمان عائلية، وهي كلمة أو عبارة قصيرة تتفقون عليها مسبقًا، ولا تكتبونها أو تنشرونها على الإنترنت أبدًا، ويستطيع فرد الأسرة الحقيقي قولها عبر الهاتف في حالة طارئة. ومن لا يستطيع قولها لا يجتاز التحقق، أيًا كان الصوت الذي يستخدمه. والثانية عادة بسيطة: أي طلب عاجل وسري للمال، مهما بدا الصوت مقنعًا، هو إشارة إلى إنهاء المكالمة والاتصال بالشخص مجددًا على رقم تعرفونه بالفعل. فالطوارئ الحقيقية تحتمل مكالمة تحقق تستغرق دقيقتين؛ أما الاحتيال فلا يحتملها.

علامات التحذير عبر التهديدات الثلاثة

تنقسم تهديدات الذكاء الاصطناعي في هذا الدليل، من منظور الأهل، إلى نوعين من المشكلات، ولكل منهما علامات تحذير مختلفة. أحدهما أزمة مفاجئة: صورة مزيفة بالتزييف العميق أو تهديد بالابتزاز الجنسي يصل ويُحدث ضيقًا ظاهرًا. والآخر تغير بطيء: اعتماد على روبوت رفقة يتشكل على مدى أشهر. من يراقب المواقف الصاخبة وحدها قد تفوته الحالة الثانية، ومن يراقب التغير التدريجي وحده قد لا يكون مستعدًا للأولى. تشمل العلامات أدناه الحالتين. وكما هو الحال دائمًا، لا تثبت أي علامة منفردة شيئًا؛ المهم ظهور مجموعة منها معًا خلال فترة قصيرة. وتتطلب المجموعتان استجابتين مختلفتين أيضًا: علامات الأزمة المفاجئة تستدعي التحرك في اليوم نفسه؛ أما علامات التغير البطيء فهي دعوة إلى حوار هادئ ومراقبة النمط لبضعة أسابيع.

علامات الأزمة المفاجئة (وصول تهديد بتزييف عميق أو ابتزاز جنسي للتو)

  • تغير حاد ومفاجئ يصبح المراهق شديد القلق، أو منطويًا، أو مضطربًا خلال يوم أو يومين، وغالبًا بعد استخدام هاتفه؛ وهي علامة مميزة لتهديد وصل للتو.
  • ذعر بشأن الصور أو السمعة ينصب ضيقه على ما رآه الآخرون، أو من رآه، أو ما يجري تداوله، حتى إن لم يخبركم بماهية ذلك الشيء.
  • ضغط مالي طلبات مال، أو نقود مفقودة، أو مشتريات جديدة لبطاقات الهدايا، أو نشاط غير مألوف في تطبيقات الدفع أو العملات المشفرة؛ وهي مؤشرات قوية على بدء مطالبة مرتبطة بابتزاز جنسي أو احتيال.

علامات التغير البطيء (علاقة خفية عبر الإنترنت أو اعتماد على روبوت رفقة)

  • تكتم بشأن تطبيق أو جهة اتصال واحدة يحرس هاتفه أكثر من السابق، أو يحذف محادثة واحدة كل ليلة، أو يفتح حسابًا جديدًا على تطبيق للرفقة أو المراسلة.
  • علاقة عبر الإنترنت لا تصبح واقعية أبدًا شريك عاطفي أو صديق مقرب تعرّف إليه عبر الإنترنت، ولا تراه الأسرة قط في مكالمة فيديو عفوية، ولديه دائمًا سبب يمنع إجراء تحقق مباشر غير معدّ مسبقًا.
  • انتقال حياته العاطفية إلى الشاشة يفضي المراهق بمشاعره إلى الناس أقل وإلى تطبيق أكثر، أو يفقد النوم بسببه، أو يصبح سريع الغضب أو مضطربًا عند الابتعاد عنه؛ وهي علامات الاعتماد التدريجي على روبوت الرفقة.
  • الابتعاد عن الأصدقاء الحقيقيين ينسحب من صداقاته القائمة ومن عاداته خارج الإنترنت، ولا سيما إذا ترافق ذلك مع استخدام كثيف لتطبيق واحد للذكاء الاصطناعي.
  • التزام الصمت يصبح المراهق الذي اعتاد الحديث صامتًا على نحو سلس وثابت كلما تعلق الأمر بجانب حياته عبر الإنترنت؛ فصمت من كان يروي أحداث يومه يحمل دلالة.

تبدأ الاستجابة بالعلاقة مع المراهق، لا بالجهاز. ابدأوا بالسؤال عنه: كيف حاله، وما الذي يشغل باله، بدلًا من البدء بما لاحظتموه على شاشة. فإذا بدأتم بالجهاز، رسختم الدرس الذي يريد كل متلاعب ترسيخه: أن البالغين تهديد يجب التحايل عليه، لا مصدر مساعدة يمكن اللجوء إليه. يوضح القسمان التاليان ما يمكن فعله بعد بدء حوار هادئ.

ما يمكن للأهل فعله

التهديدات في هذا الدليل جديدة، لكن وسائل الحماية مألوفة إلى حد كبير، ومعظمها ليس تقنيًا. تقوم على 3 أمور: علاقة يخبركم فيها المراهق فعلًا عندما يحدث خطأ، ومجموعة صغيرة من الحوارات التي تُجرى قبل الأزمة لا بعدها، وبعض الإعدادات والعادات العملية. وهي مجتمعة أهم بكثير من أي أداة منفردة.

تحدثوا مبكرًا. أقوى جملة في هذا الدليل هي ما تقولونه مسبقًا: إذا ظهرت يومًا صورة مزيفة لك، أو هددك أحد بها، فلن تكون في ورطة وسنتعامل مع الأمر معًا. المراهق الذي يعرف هذا مسبقًا أرجح بكثير أن يأتي إليكم في الساعة الأولى، حين تكون المساعدة أسهل، بدلًا من إخفاء المشكلة إلى أن تتفاقم. تحدثوا بوضوح عن التزييف العميق قبل أن تجعل واقعة ما الحديث عاجلًا. واتفقوا على كلمة أمان عائلية لمواجهة الاحتيال باستنساخ الصوت. وأوضحوا أن الحد الفاصل، وهو أي طلب للمال أو الصور أو الوصول إلى حساب من شخص لا يعرفونه إلا عبر الإنترنت، يسري مهما بدا الشخص الآخر حقيقيًا.

اضبطوا الإعدادات التي تقلل التعرض للمخاطر. تشديد خصوصية حسابات ابنكم المراهق على وسائل التواصل الاجتماعي يحد من سهولة جمع الغرباء لصور وجهه التي تُبنى منها صور التزييف العميق. ومن المهم أيضًا مراجعة ما هو متاح للعامة بالفعل، وهي المهمة المرتبطة بهذا الموضوع التي يتناولها دليلنا عن البصمة الرقمية لابنكم المراهق، لأن تلك الصور المنشورة هي مصدر المادة الخام. وتحد مراجعة الأشخاص الذين يستطيعون التواصل معه وإرسال الرسائل إليه من أكثر قنوات الاتصال الأول شيوعًا. ومعرفة التطبيقات الموجودة على الجهاز، ومنها تطبيقات الرفقة بالذكاء الاصطناعي، هي نقطة البداية لأي حوار مفيد. لا يشكل أي من ذلك حاجزًا مطلقًا، وينبغي القيام به مع ابنكم المراهق وبمشاركته، لكنه يقلل توافر المواد وفرص التواصل التي تعتمد عليها التهديدات الواردة في هذا الدليل.

استخدموا المراقبة بشفافية، إذا اخترتم استخدامها. في أماكن كثيرة، قد يُسمح لأحد الوالدين أو الوصي القانوني باستخدام مراقبة مناسبة لعمر الطفل على جهازه، لكن القواعد تختلف بحسب البلد والولاية وظروف الحضانة؛ لذا تحققوا مما ينطبق في مكان إقامتكم. وعندما يوجد قلق حقيقي بشأن السلامة، قد تكون المراقبة طبقة حماية معقولة، لكن العامل الحاسم هو الشفافية. فالمراقبة السرية، إذا اكتشفها المراهق، تؤكد الرواية التي يروج لها المتلاعب، ومفادها أن البالغين لا يُوثق بهم، وتدفع المراهق إلى جهاز خفي لا تستطيعون معرفة ما يجري عليه مطلقًا. أما المراقبة التي يعرفها ابنكم المراهق ويفهمها، وقد شرحتموها له، فتدعم علاقتكم بدلًا من الإضرار بها. فكروا فيها بوصفها سقالات بناء: واضحة ومتناسبة، وتُزال تدريجيًا مع نمو الثقة والاستقلالية. هي دعم للحوارات المذكورة أعلاه، وليست بديلًا عنها.

تذكروا أنكم لستم مضطرين إلى مواكبة كل أداة. يشعر الأهل في هذا المجال غالبًا بأنهم يخسرون سباقًا أمام تقنية تتغير أسرع مما يستطيعون تعلمه. والحقيقة المطمئنة أنكم لستم بحاجة إلى ذلك. ستستمر التطبيقات المحددة في التغير، لكن النمط الكامن وراءها، من تلاعب وابتزاز وألفة مصطنعة، لا يتغير. ومن يفهم هذا النمط ويحافظ على علاقة يستطيع فيها ابنه المراهق الحديث معه، يكون مستعدًا للأداة القادمة كما هو مستعد لهذه الأداة.

الإبلاغ عن الإساءة باستخدام الذكاء الاصطناعي والحصول على المساعدة

لا تحتاجون إلى دليل قاطع، أو يقين، أو صورة كاملة عن الواقعة لتقديم بلاغ. تتوقع الجهات التي تتلقى البلاغات معلومات غير مكتملة، وتفضّل كثيرًا تلقي بلاغ يتبين أن الواقعة فيه محدودة على أن تفوتها واقعة خطيرة. هذا القسم خريطة للخطوات المتاحة، وليس مشورة قانونية؛ وفي أي أمر قد ينطوي على اتهامات جنائية، استشيروا محاميًا مؤهلًا في ولايتكم القضائية. وقبل تقديم أي بلاغ، احفظوا الأدلة: لقطات شاشة للحساب واسم المستخدم وأي رسائل، لكن دون الصورة الصريحة أو أي رسالة تُظهرها؛ لأن حظر الحساب أو حذف المحتوى أولًا قد يزيل ما يقوم عليه البلاغ.

تختلف نقطة البداية بحسب مكان وجودكم. تعرض البطاقات أدناه أول قناة للإبلاغ في كل منطقة، ثم ترد التفاصيل الكاملة.

  • الولايات المتحدة أبلغوا عن الاستغلال الجنسي لقاصر، أو استدراجه، أو ابتزازه جنسيًا، بما في ذلك الصور الصريحة لمراهق المولّدة بالذكاء الاصطناعي، عبر NCMEC CyberTipline. وبالنسبة إلى الجرائم ذات الجانب الإلكتروني أو المالي، أبلغوا أيضًا مركز شكاوى جرائم الإنترنت (IC3) التابع لـFBI. وأبلغوا عن الخسائر الناجمة عن الاحتيال عبر ReportFraud.ftc.gov.
  • المملكة المتحدة أبلغوا CEOP، التابعة للوكالة الوطنية لمكافحة الجريمة، عن المخاوف من استغلال طفل عبر الإنترنت. وتتوفر لمن هم دون 18 عامًا مساعدة لإزالة الصور عبر أداة Report Remove التابعة لـInternet Watch Foundation وChildline.
  • الاتحاد الأوروبي استخدموا الخط الوطني المختص، الذي تُنسق عمله شبكة INHOPE، للإبلاغ عن المحتوى غير القانوني واستغلال الأطفال.
  • أماكن أخرى تواصلوا مع الشرطة الوطنية أو المحلية ومع خط الإبلاغ المعني بحماية الأطفال أو الجرائم الإلكترونية في بلدكم؛ وترد خطوط وطنية كثيرة في الدليل الدولي لـINHOPE.

أبلغوا المنصة أيضًا في كل منطقة، لكن اعتبروا بلاغ المنصة إضافة إلى قناة جهات إنفاذ القانون، لا بديلًا عنها. ولإبطاء مواصلة نشر صورة صريحة، تُنشئ خدمة Take It Down المجانية، التي تديرها NCMEC، بصمة رقمية تستخدمها المنصات المشاركة لاكتشاف النسخ المطابقة لصور أشخاص دون 18 عامًا ومنعها؛ ويشمل ذلك صور القاصرين المولّدة بالذكاء الاصطناعي عندما تدعم الخدمة والمنصات المشاركة مطابقة المحتوى المصطنع. وللأشخاص الذين تجاوزوا 18 عامًا حين التُقطت الصورة، تقدم StopNCII.org خدمة مماثلة. وليست أي منهما زرًا يمحو الصورة من كل مكان، لكن كلتيهما تُبطئ انتشارها اللاحق بدرجة ملموسة.

وللحصول على إرشادات مستمرة للأهل، تنشر منظمة أبحاث سلامة الأطفال غير الربحية Thorn أبحاثًا عن الذكاء الاصطناعي وسلامة الأطفال؛ وتنشر Internet Matters وNSPCC مواد مجانية للأسر تُحدَّث بانتظام؛ ويتتبع Pew Research Center كيف يستخدم المراهقون التقنية بالفعل.

مخاطر الذكاء الاصطناعي — أدلة ومقالات

جميع المقالات ←

الأسئلة الشائعة

هل يمكن استهداف ابني المراهق بتزييف عميق حتى لو لم يرسل صورة عارية قط؟

نعم، وهذه أهم نقطة ينبغي للأهل فهمها. يُنشئ نموذج ذكاء اصطناعي صورة عارية مزيفة بالتزييف العميق انطلاقًا من صور عادية يظهر فيها المراهق مرتديًا ملابسه بالكامل: صورة مدرسية، أو لقطة من عطلة، أو منشور على Instagram. ولا يلزم أن يكون المراهق قد التقط أو أرسل أي صورة صريحة. لذلك لم يعد الاطمئنان القديم، «ليست لديّ صور من هذا النوع، لذا أنا بأمان»، صحيحًا. فالمادة الخام لهذه الإساءة هي الصور اليومية المنشورة على الإنترنت، وهي صور موجودة بالفعل لدى معظم المراهقين.

هل Character.AI آمن للمراهقين؟

واجهت تطبيقات الرفقة بالذكاء الاصطناعي، مثل Character.AI، دعاوى قضائية وتدقيقًا تنظيميًا بشأن سلامة المراهقين؛ وأعلنت Character.AI في أواخر 2025 أنها ستلغي المحادثات المفتوحة للمستخدمين دون 18 عامًا. تعاملوا مع أي روبوت محادثة مصمم للرفقة بوصفه شيئًا يحتاج إلى متابعة، لا شيئًا ثبتت سلامته. ويختلف الاستخدام الخفيف من حين لآخر عن الاعتماد العاطفي: فالمخاطرة عادةً ليست رسالة ضارة واحدة، بل تشكّل اعتماد تدريجي على نظام صُمم ليكون موافقًا للمستخدم بلا انقطاع. إذا كان ابنكم المراهق يستخدم أحد هذه التطبيقات، فإن ما يحميه هو الحوار ومعرفة ما يجري، لا مجرد تصنيف عمري في متجر التطبيقات.

ما الابتزاز الجنسي بالذكاء الاصطناعي، وكيف يختلف عن الابتزاز الجنسي المعتاد؟

في الابتزاز الجنسي المالي المعتاد، يحصل المعتدي على صورة صريحة حقيقية ويهدد بنشرها ما لم يُدفع له المال. أما الابتزاز الجنسي بالذكاء الاصطناعي فيلغي الخطوة الأولى: يصنع المعتدي صورة صريحة مزيفة بأداة تزييف عميق، مستخدمًا صورًا عادية للمراهق، ثم يطلق التهديد نفسه. يشعر المراهق الخائف بأن الابتزاز حقيقي بالقدر نفسه، لأن الصورة المزيفة قد تبدو مقنعة ولأن الشعور بالخزي لا يختلف. والاستجابة الوقائية هي نفسها في أي حالة ابتزاز جنسي: لا تدفعوا، واحفظوا الأدلة، وأبلغوا عن الواقعة.

كيف أعرف إن كانت صورة ابني أو مقطع الفيديو الذي يظهر فيه مزيفًا بالتزييف العميق؟

تصبح العلامات البصرية، مثل شكل اليدين غير المعتاد، أو الإضاءة غير المتسقة، أو الحواف الغريبة حول الشعر، أقل موثوقية مع تحسن التقنية؛ فلا تعتمدوا على ملاحظتها. الإشارات الأقوى تأتي من السياق: صورة لا يستطيع أحد تقديم أصلها، أو مكالمة فيديو يرفض فيها الشخص اختبارًا بسيطًا في الوقت الفعلي، مثل إدارة رأسه أو التلويح بيده أمام وجهه، أو محتوى يظهر فجأة مصحوبًا بمطلب. تعاملوا مع الموقف، لا مع تفاصيل الصورة، بوصفه الدليل.

استخدم شخص ما الذكاء الاصطناعي لصنع صورة صريحة مزيفة لابني المراهق. ماذا أفعل أولًا؟

حافظوا على هدوئكم، وأخبروا ابنكم المراهق بوضوح أنه لم يرتكب أي خطأ؛ فالشخص الذي صنع الصورة هو من ارتكب الإساءة. احفظوا الأدلة: التقطوا لقطات شاشة للحساب واسم المستخدم وأي رسائل ومطالبات بالدفع قبل حذف أي شيء أو حظر أي حساب، لكن لا تحتفظوا أبدًا بالصورة الصريحة نفسها أو بأي رسالة تُظهرها، لأن حيازة صورة جنسية لقاصر أو مشاركتها غير قانونية حتى لو كان الغرض تقديمها دليلًا؛ وسجّلوا تاريخ ظهورها ووقته بدلًا من ذلك. لا تدفعوا أي مبلغ مطلوب. أبلغوا جهة معنية بحماية الأطفال، وهي NCMEC CyberTipline في الولايات المتحدة، واستخدموا خدمة Take It Down المجانية، التي تساعد في الحد من مواصلة نشر الصور الحميمة للقاصرين. ثم أشركوا المدرسة إذا كان زملاء الدراسة متورطين.

هل أسمح لابني المراهق باستخدام روبوتات الرفقة بالذكاء الاصطناعي أصلًا؟

لا توجد إجابة واحدة صحيحة، والحظر الشامل غالبًا ما يدفع الاستخدام بعيدًا عن أنظار الأهل. والسؤال الأجدى هو: ما الدور الذي يؤديه روبوت المحادثة في حياة ابنكم المراهق؟ يختلف الاستخدام الخفيف من حين لآخر عن حال مراهق أعاد تنظيم حياته العاطفية حول روبوت، فيفضي إليه بدلًا من الناس، أو يفقد النوم بسببه، أو يشعر بضيق حين لا يكون متاحًا. والمراهقون الذين يعانون الوحدة والمراهقون ذوو التنوع العصبي هم الأرجح لتكوين هذا الارتباط الأعمق؛ لذا فهم الأكثر حاجة إلى متابعة قريبة.

كيف تعمل عمليات الاحتيال باستنساخ الصوت بالذكاء الاصطناعي، وكيف أحمي أسرتي؟

تكفي الآن بضع ثوانٍ من صوت شخص مسجل، يسهل العثور عليها في مقاطع الفيديو العامة التي ينشرها المراهق، لكي تستنسخه أداة ذكاء اصطناعي. يستخدم المحتالون الصوت المستنسخ لإجراء مكالمة مذعورة عن «طارئ عائلي»: قريب يحتاج إلى المال على وجه السرعة. وأبسط وسيلة دفاع هي كلمة أمان عائلية تتفقون عليها مسبقًا ولا تشاركونها على الإنترنت، ويستطيع القريب الحقيقي قولها عبر الهاتف. وعلّموا الجميع أيضًا إنهاء المكالمة والاتصال بالشخص مجددًا على رقم معروف قبل الاستجابة لأي طلب عاجل للمال.

نبذة عن الكاتب

يكتب فريق REFOG عن السلامة الرقمية والمراقبة الأبوية والوقاية العملية من مخاطر الإنترنت، مستندًا إلى خبرته في تطوير المنتجات وإلى إرشادات حماية الأطفال المنشورة لدى جهات حكومية ومنظمات غير ربحية. يتحقّق الفريق من معلومات كل دليل بالرجوع إلى مصادر ذات صلة، منها جهات حكومية ومنظمات سلامة غير ربحية وتقارير بحثية واستطلاعات راسخة في هذا المجال.