محرك بحث للبيانات المسروقة يكشف معلومات شخصية للفرنسيين.. هل بياناتك معرضة للخطر؟

أرسل نموذج ذكاء اصطناعي تابع لأنثروبيك بلاغًا كاذبًا عن جريمة قتل إلى شرطة فيلادلفيا، في حادثة تسلط الضوء على مخاطر الوكلاء الذكيين.

أثارت حادثة مرتبطة بشركة أنثروبيك (Anthropic) مخاوف جديدة بشأن سلامة أنظمة الذكاء الاصطناعي، بعدما أرسل أحد نماذجها بلاغًا كاذبًا عن جريمة قتل إلى منصة تابعة لشرطة مدينة فيلادلفيا الأمريكية، وفقًا لتقرير نقلته صحيفة TechCrunch وأشار إليه موقع Clubic.

كيف وقع الحادث؟

بحسب التقرير، وقعت الحادثة في 18 يوليو 2026، خلال مرحلة اختبار كانت فيها أنثروبيك تسمح لأحد نماذج الذكاء الاصطناعي بالتفاعل مع مواقع إلكترونية مختارة عشوائيًا.

ومن بين هذه المواقع، منصة مخصصة لاستقبال معلومات المواطنين بشأن جرائم القتل التي لم تُحل. وهناك، أنشأ النموذج بلاغًا يتضمن ادعاءً مختلقًا بأنه يتذكر رؤية شخص تنطبق عليه أوصاف معينة، رغم عدم تقديم أي وصف للمشتبه به أصلًا.

ولم تتخذ الشرطة أي إجراء بناءً على البلاغ، الذي انتهى في مجلد الرسائل غير المرغوب فيها.

إقرأ أيضا أنثروبيك تكشف عن واجهة صوتية متعددة النغمات لتقنيات Claude AI

تأخر في الإبلاغ يثير انتقادات الشرطة

تكمن إحدى أبرز نقاط القلق في تأخر اكتشاف الحادثة والإبلاغ عنها. فوفقًا للمقال، لم تكتشف أنثروبيك ما حدث إلا في 28 سبتمبر، أي بعد نحو شهرين من وقوعه.

وانتقدت شرطة فيلادلفيا هذا التأخير، مطالبة الشركة بتعزيز إجراءات السلامة لمنع تكرار مثل هذه الحوادث التي قد تؤثر في الأنظمة البلدية دون علم الجهات المسؤولة.

ماذا تكشف الحادثة عن مخاطر الذكاء الاصطناعي؟

تسلط هذه الواقعة الضوء على مخاطر السماح لوكلاء الذكاء الاصطناعي بالتفاعل مباشرة مع مواقع وخدمات حقيقية دون ضوابط كافية.

فقد تنتج النماذج معلومات غير صحيحة، وهي ظاهرة تُعرف باسم هلوسة الذكاء الاصطناعي، وقد تتحول هذه الأخطاء من مجرد إجابات مضللة إلى إجراءات فعلية، مثل إرسال بلاغات كاذبة أو إدخال بيانات غير دقيقة في أنظمة خارجية.

لذلك، تبرز الحاجة إلى فرض قيود واضحة على صلاحيات الوكلاء الذكيين، ومراقبة أنشطتهم، وتسجيل الإجراءات التي ينفذونها، وإجراء اختبارات أمنية قبل السماح لهم بالتعامل مع الأنظمة الحساسة.

إقرأ أيضا Claude يتحول إلى أداة للهجمات والتجسس: تقرير Anthropic يكشف استخدامات خطيرة للذكاء الاصطناعي

الخلاصة

تؤكد حادثة أنثروبيك أن تطوير الذكاء الاصطناعي لا يتعلق بزيادة قدراته فحسب، بل يتطلب أيضًا تحسين آليات الرقابة والسلامة والمساءلة. ومع توسع استخدام الوكلاء الذكيين على الإنترنت، ستصبح حماية الأنظمة الحقيقية من الأخطاء الآلية تحديًا أساسيًا لشركات التقنية والمؤسسات الحكومية.