تحقيق يكشف شبكة تضم أكثر من 400 تطبيق وموقع تخفي أدوات التزييف العميق الجنسي على متجري آبل وجوجل، وسط تحركات لحذف التطبيقات والحسابات الإعلانية.
كشف تحقيق أجرته مجلة WIRED بالتعاون مع منظمة AI Forensics وشركة الأمن السيبراني Infoblox عن شبكة تضم أكثر من 400 تطبيق وموقع إلكتروني مرتبط بأدوات التزييف العميق الجنسي (Deepfake)، كانت تتخفى وراء تطبيقات تبدو عادية على متجري Apple App Store وGoogle Play.
وبحسب التحقيق، كان بعض هذه التطبيقات يُسوّق على أنه مخصص لتعليم اللغات أو تعديل صور الحيوانات الأليفة، بينما يخفي أدوات ذكاء اصطناعي تسمح بإنشاء صور وفيديوهات إباحية مزيفة لأشخاص حقيقيين، من خلال إزالة ملابسهم رقميًا أو إدراج صورهم في مشاهد جنسية دون موافقتهم.
تطبيقات بريئة تخفي وظائف إباحية
من بين التطبيقات التي كشفها التحقيق تطبيق Viefur، الذي كان يقدم نفسه كأداة لتعديل صور الحيوانات الأليفة، لكنه احتوى على وظائف مخفية لإنشاء محتوى إباحي باستخدام صور أشخاص حقيقيين.
واعتمد المطورون على تقنية تسمح بتفعيل النسخة الإباحية عن بُعد بعد اجتياز التطبيق مراجعة المتاجر الرسمية، وذلك من خلال خوادم تتحكم في المحتوى الذي يظهر للمستخدم بحسب بعض المعايير، مثل موقعه ولغته ومعلومات جهازه.
إقرأ أيضا تطبيق إباحي على هواتف آيفون
مئات التطبيقات وآلاف الحسابات الإعلانية
أوضح التحقيق أن الشبكة مرتبطة بأكثر من 400 تطبيق وموقع، ونحو 500 نطاق إلكتروني، تديرها جهات تطوير صينية وشركة مسجلة في هونغ كونغ تُدعى KeLing Technology Limited.
كما استخدم المطورون إعلانات على فيسبوك وإنستغرام للترويج لهذه الخدمات، بعضها احتوى على صور إباحية لأطفال مولدة بالذكاء الاصطناعي.
وبعد كشف تفاصيل الشبكة، اتخذت ميتا إجراءات ضد نحو 11,600 حساب إعلاني، وحظرت إعلانات 209 تطبيقات.
آبل وجوجل تتحركان لحذف التطبيقات
عقب التحقيق، حذفت آبل نحو 19 تطبيقًا مرتبطًا بالشبكة، من بينها Viefur، بينما أزالت جوجل تطبيق DiffAI، الذي تجاوز عدد تنزيلاته 100 ألف مرة، إلى جانب تطبيقات أخرى.
وتثير هذه القضية تساؤلات حول فعالية أنظمة مراجعة التطبيقات في المتاجر الرسمية، خصوصًا عندما يتمكن المطورون من إخفاء وظائف خطيرة أثناء عملية الفحص ثم تفعيلها لاحقًا عن بُعد.
إقرأ أيضا فرنسا تُفكك شبكة واسعة لاعتداءات الأطفال على تليغرام: 55 شخصًا معتقلين
مخاطر متزايدة للتزييف العميق باستخدام الذكاء الاصطناعي
تسلط هذه القضية الضوء على التهديد المتزايد الذي تشكله أدوات التزييف العميق الجنسي، والتي يمكن استخدامها لانتهاك خصوصية الأشخاص وتشويه سمعتهم وإنشاء محتوى جنسي دون موافقتهم.
كما تؤكد أهمية تشديد الرقابة على تطبيقات الذكاء الاصطناعي، ومراجعة المحتوى الذي يتم تحميله من خوادم خارجية، وليس الاكتفاء بفحص التطبيق وقت نشره.
الخلاصة:
تكشف هذه الواقعة أن وجود تطبيق على متجر رسمي لا يعني بالضرورة أنه آمن، وأن أدوات الذكاء الاصطناعي قد تُستغل في إنشاء محتوى جنسي مزيف بطرق يصعب اكتشافها. وتبقى حماية الخصوصية ومكافحة التزييف العميق من أبرز التحديات التي تواجه شركات التكنولوجيا.
تعليقات: (0) إضافة تعليق