في تطور مثير للقلق، تواجه شركة OpenAI انتقادات شديدة بعد اكتشاف ثغرة في منصة ChatGPT سمحت للمستخدمين القُصّر بتوليد محادثات ذات طابع جنسي. هذا الخلل يطرح تساؤلات جدية حول أمان الذكاء الاصطناعي الموجّه للفئات العمرية الحساسة، ويضع OpenAI في موقف دفاعي حرج.
تفاصيل الخلل:
وفقًا لتقرير نشره موقع TechCrunch، قام فريق الاختبار بإنشاء حسابات لمستخدمين تتراوح أعمارهم بين 13 و17 عامًا، وتمكنوا بسهولة من توليد محادثات تحتوي على أوصاف جنسية صريحة باستخدام ChatGPT. ورغم أن OpenAI تزعم فرض قيود عمرية وموافقة أبوية، إلا أن نظام التسجيل لا يفرض تحققًا فعليًا من أعمار المستخدمين أو هوية أوليائهم.
رد OpenAI:
أقرت الشركة بوجود خلل في نظام الحماية الخاص بها، وأكدت أنها بدأت على الفور في تنفيذ إصلاحات عاجلة. وصرّح متحدث باسم الشركة أن ما حدث لا يتوافق مع معايير السلامة التي تلتزم بها OpenAI، مشددًا على أهمية حماية المستخدمين القُصّر من الوصول إلى محتوى غير مناسب.
أسباب محتملة للمشكلة:
في أوائل عام 2025، قامت OpenAI بإجراء تعديلات على نموذج ChatGPT لتقليل عدد الحالات التي يرفض فيها الرد على الأسئلة "الحساسة"، وذلك استجابة لانتقادات تتعلق بـ"الرقابة المفرطة".
هذه التعديلات يبدو أنها قلّلت من صرامة المرشحات المسؤولة عن منع ظهور المحتوى الجنسي، حتى في سياق الحسابات المسجلة لفئات عمرية صغيرة.
مخاطر وتحديات:
هذا الحادث يُعيد إلى الواجهة النقاش حول أخلاقيات الذكاء الاصطناعي، خصوصًا فيما يتعلق بحماية الفئات العمرية الضعيفة. إذا كانت الأنظمة التلقائية قادرة على توليد محتوى غير لائق للقُصّر، فإن ذلك يشكل تهديدًا مباشرًا للسلامة الرقمية ويفرض تحديات قانونية وتنظيمية مستقبلية على مطوري النماذج اللغوية الكبرى (LLMs).
ماذا بعد؟
من المتوقع أن تقوم OpenAI بتشديد الضوابط وتحديث أنظمة التحقق من العمر خلال الأسابيع المقبلة. كما دعا العديد من الخبراء إلى وضع لوائح صارمة تنظم عمل أدوات الذكاء الاصطناعي التي تُستخدم على نطاق واسع، خاصة من قبل المراهقين والأطفال.
تعليقات: (0) إضافة تعليق