كانت فرانشيسكا ماني تبلغ من العمر 14 عامًا عندما تم استدعاء اسمها عبر مكبر الصوت في مدرسة ويستفيلد الثانوية في نيوجيرسي. وتوجهت إلى مكتب المدير، حيث علمت أنه تم تحويل صورة لها إلى صورة عارية باستخدام الذكاء الاصطناعي.
لم يسمع ماني مطلقًا عن موقع أو تطبيق “nudify” من قبل. عندما غادرت مكتب المدير، قالت إنها رأت مجموعة من الأولاد يضحكون على مجموعة من الفتيات اللاتي كن يبكين.
وقال ماني: “وعندها أدركت أنني يجب أن أتوقف عن البكاء وأنني يجب أن أغضب، لأن هذا غير مقبول”.
ماذا حدث لفرانشيسكا ماني
كانت ماني تجلس في فصل التاريخ بالمدرسة الثانوية في أكتوبر الماضي عندما سمعت إشاعة مفادها أن بعض الأولاد لديهم صور عارية لزميلاتهم في الفصل. وسرعان ما علمت أنها تم استهدافها هي والعديد من الفتيات الأخريات في مدرسة ويستفيلد الثانوية.
وفقًا للدعوى القضائية التي رفعتها لاحقًا إحدى الضحايا الآخرين من خلال والديها، قام صبي في المدرسة بتحميل صور من Instagram إلى موقع يسمى Clothoff، وهو أحد أشهر مواقع “التعري”. 60 دقيقة وقد قررت تسمية الموقع للتوعية بمخاطره المحتملة. كانت هناك أكثر من 3 ملايين زيارة إلى موقع Clothoff الشهر الماضي وحده، وفقًا لشركة Graphika، وهي شركة تحلل الشبكات الاجتماعية. يعرض الموقع “التعري” لكل من الذكور والإناث، لكن النساء العارية أكثر شيوعًا بكثير.
60 دقيقة
يمكن لزوار الموقع تحميل صورة، أو الحصول على عرض توضيحي مجاني، تظهر فيه صورة امرأة وهي ترتدي ملابس، ثم تظهر عارية بعد ثوانٍ فقط. تبدو النتائج حقيقية للغاية.
يتم إخبار مستخدمي Clothoff أنه يجب أن يبلغوا 18 عامًا أو أكبر لدخول الموقع، وأنه لا يمكنهم استخدام صور الآخرين دون إذن. يدعي موقع الويب أن “معالجة القاصرين أمر مستحيل”، لكن لم يستجب أحد في الشركة متى 60 دقيقة تم إرساله عبر البريد الإلكتروني يطلب أدلة على ذلك بالإضافة إلى العديد من الأسئلة الأخرى.
لم تر ماني أبدًا ما حدث لصورتها، ولكن وفقًا لنفس الدعوى القضائية، تمت مشاركة صورة عارية لطالب واحد على الأقل تعمل بالذكاء الاصطناعي على Snapchat وشاهدها العديد من الأطفال في المدرسة.
وقالت إن الطريقة التي اكتشف بها ماني أمر صورتها جعلت الأمر أسوأ. وتذكرت كيف تم استدعاؤها هي والفتيات الأخريات بالاسم إلى مكتب المدير عبر نظام العناوين العامة بالمدرسة.
وقالت: “أشعر أن هذا كان انتهاكًا كبيرًا لخصوصيتنا، بينما تم إخراج الممثلين السيئين من فصولهم الدراسية على انفراد”.
بعد ظهر ذلك اليوم، أرسل مدير مدرسة ويستفيلد بريدًا إلكترونيًا إلى أولياء الأمور يبلغهم فيه أن “بعض طلابنا استخدموا الذكاء الاصطناعي لإنشاء صور إباحية من الصور الأصلية”. وقال المدير أيضًا إن المدرسة تحقق في الأمر و”في الوقت الحالي نعتقد أنه تم حذف أي صور تم إنشاؤها ولم يتم تداولها”.
صور مزيفة، ضرر حقيقي
ولم تكن والدة ماني، دوروتا، وهي معلمة أيضًا، مقتنعة. إنها تشعر بالقلق من عدم حذف أي شيء تمت مشاركته عبر الإنترنت فعليًا.
قالت: “من طبع؟ من التقط لقطة الشاشة؟ من قام بالتنزيل؟ لا يمكنك مسحها حقًا”.
ولم تؤكد المنطقة التعليمية أي تفاصيل حول الصور أو الطلاب المشاركين أو اتخاذ إجراء تأديبي 60 دقيقة. وفي بيان له، قال المشرف إن المنطقة قامت بمراجعة سياسة المضايقة والترهيب والتنمر الخاصة بها لتشمل الذكاء الاصطناعي، وهو أمر يقول آل ماني إنهم أمضوا أشهر في حث مسؤولي المدرسة على القيام به.
تشعر فرانشيسكا ماني أن الفتيات اللاتي تم استهدافهن دفعن ثمناً أكبر من الصبي أو الأولاد الذين صنعوا الصور.
وقالت: “لأنه عليهم فقط أن يتعايشوا مع معرفة أنه ربما تكون هناك صورة ما، فإن صورتهم تطفو على الإنترنت”. ” وعليهم فقط التعامل مع ما فعله الأولاد.”
وقالت دوروتا ماني إنها قدمت بلاغًا للشرطة، لكن لم يتم توجيه أي اتهامات لها.
يوتا سوراس هي كبيرة المسؤولين القانونيين في المركز الوطني للأطفال المفقودين والمستغلين. تعمل منظمتها مع شركات التكنولوجيا للإبلاغ عن المحتوى غير المناسب على مواقعها. وتقول إنه على الرغم من أن الصور التي تم إنشاؤها على مواقع “التعري” التي تعمل بالذكاء الاصطناعي مزيفة، إلا أن الضرر الذي يمكن أن تسببه للضحايا حقيقي.
وقال سوراس: “سوف يعانون، كما تعلمون، من ضائقة في الصحة العقلية وضرر في السمعة”. “في بيئة المدرسة، يتم تضخيم الأمر حقًا، لأن أحد أقرانهم قام بإنشاء هذه الصور. لذلك هناك فقدان للثقة. فقدان الثقة.”
النضال من أجل التغيير
60 دقيقة ووجدت ما يقرب من 30 حالة مماثلة في المدارس في الولايات المتحدة على مدار العشرين شهرًا الماضية، إلى جانب حالات إضافية حول العالم.
وفي ثلاث من هذه الحالات على الأقل، ورد أن Snapchat تم استخدامه لنشر صور عارية مدعومة بالذكاء الاصطناعي. قال أحد الوالدين 60 دقيقة استغرق الأمر أكثر من ثمانية أشهر لإزالة الحسابات التي شاركت الصور. وفقًا لسوراس، فإن عدم الاستجابة للضحايا يمثل مشكلة متكررة يراها المركز الوطني للأطفال المفقودين والمستغلين عبر شركات التكنولوجيا.
“هذه ليست الطريقة التي ينبغي أن تكون عليها الأمور. أليس كذلك؟ أعني، لا ينبغي على أحد الوالدين الذي لديه طفل لديه صور استغلالية أو إباحية للأطفال على الإنترنت أن يعتمد على التواصل مع طرف ثالث، وجعله يتصل بشركة التكنولوجيا. التكنولوجيا وقالت: “يجب أن تتحمل الشركة المسؤولية على الفور لإزالة هذا المحتوى”.
60 دقيقة
60 دقيقة سألت Snapchat عن الوالدة التي قالت إن الشركة لم ترد عليها لمدة ثمانية أشهر. وقال متحدث باسم Snapchat إنهم لم يتمكنوا من تحديد موقع طلبها، وقال جزئيًا: “لدينا آليات فعالة للإبلاغ عن هذا النوع من المحتوى”. ومضى المتحدث ليقول إن Snapchat لديه “سياسة عدم التسامح مطلقًا مع مثل هذا المحتوى” و”… التصرف بسرعة لمعالجته بمجرد الإبلاغ عنه”.
وتقول وزارة العدل إن الصور العارية للقاصرين باستخدام الذكاء الاصطناعي تعتبر غير قانونية بموجب القوانين الفيدرالية المتعلقة باستغلال الأطفال في المواد الإباحية إذا كانت تصور ما يعرف بأنه “سلوك جنسي صريح”. لكن سوراس يشعر بالقلق من أن بعض الصور التي تم إنشاؤها بواسطة مواقع “التعري” قد لا تتوافق مع هذا التعريف.
في العام الذي انقضى منذ أن اكتشفت فرانشيسكا ماني أنها مستهدفة، قامت هي ووالدتها، دوروتا، بتشجيع المدارس على تنفيذ سياسات حول الذكاء الاصطناعي. لقد عملوا أيضًا مع أعضاء الكونجرس لمحاولة تمرير عدد من مشاريع القوانين الفيدرالية. أحد مشاريع القوانين هذه، وهو قانون Take It Down Act، الذي شارك في رعايته عضوا مجلس الشيوخ تيد كروز وإيمي كلوبوشار، تم تمريره عبر مجلس الشيوخ في وقت سابق من هذا الشهر وهو الآن في انتظار التصويت في مجلس النواب. ومن شأنه أن يفرض عقوبات جنائية على مشاركة الصور العارية التي تعمل بتقنية الذكاء الاصطناعي، وسيطلب من شركات التواصل الاجتماعي التقاط الصور في غضون 48 ساعة من تلقي الطلب.
