كشف تقرير جديد من Anthropic عن استخدامات خطيرة لذكاء Claude الاصطناعي، شملت تطوير صواريخ، أتمتة الهجمات السيبرانية، اكتشاف ثغرات أمنية، والمراقبة الجماعية.
تقرير Anthropic يكشف الوجه المظلم للذكاء الاصطناعي
كشفت شركة Anthropic في تقرير موسع عن مجموعة من الحالات التي استُخدم فيها نموذج الذكاء الاصطناعي Claude في أنشطة ضارة أو مثيرة للقلق.
التقرير، الذي يغطي عدة أشهر من التحقيقات، يوضح كيف يمكن للذكاء الاصطناعي أن يتحول من أداة للإنتاجية والبرمجة إلى وسيلة تساعد في الهجمات السيبرانية، تطوير الأسلحة، التجسس والمراقبة واسعة النطاق.
وتؤكد الشركة أنها أوقفت الحسابات والعمليات التي تمكنت من تحديدها، كما عززت أنظمة الكشف والحماية لديها.
إقرأ أيضا هل يراقبك الذكاء الاصطناعي؟ نموذج Claude 4 Opus قد يبلّغ عنك في حال في حال التصرف غير الأخلاقي
استخدام Claude في تطوير صواريخ
من أبرز الحالات التي أوردتها Anthropic عملية مرتبطة بخلية تقنية في اليمن.
ووفق التقرير، استُخدمت عدة نسخ من Claude لتقسيم مهام هندسية وبرمجية مختلفة، شملت كتابة الأكواد، إجراء الأبحاث ومراجعة النتائج.
وكانت الخلية تعمل على عدة مشاريع مرتبطة بالصواريخ، من بينها أنظمة توجيه وصاروخ باليستي بعيد المدى.
كما تحدث التقرير عن إجراء اختبار طيران انتهى بالفشل، قبل أن يعود المشغلون إلى Claude لمحاولة فهم أسباب المشكلة.
ومع ذلك، تقول Anthropic إنها لم تجد دليلًا على دخول سلاح عملياتي إلى الخدمة، رغم أن المجموعة تمكنت من تطوير أدوات محاكاة تعمل بشكل مستقل عن Claude.
الذكاء الاصطناعي يسرّع الهجمات السيبرانية
كشف التقرير أيضًا عن استخدام مجموعة مرتبطة بجهات تجسس روسية لوكلاء ذكاء اصطناعي بهدف أتمتة أجزاء كبيرة من الهجمات الإلكترونية.
ومن أبرز الاستخدامات المذكورة قدرة الوكلاء على تعديل البرمجيات الخبيثة عندما تكتشفها برامج مكافحة الفيروسات، ما يسمح بمحاولة جعلها أقل قابلية للاكتشاف.
هذه الحالة تعكس تحولًا مهمًا في طبيعة الهجمات السيبرانية، حيث يمكن للذكاء الاصطناعي تقليل الحاجة إلى التدخل البشري المستمر وتسريع بعض مراحل الهجوم.
«مصنع للثغرات» يعمل بواسطة وكلاء الذكاء الاصطناعي
في حالة أخرى، تحدثت Anthropic عن مجموعة يُعتقد أنها تعمل من الصين، واستخدمت أسرابًا من وكلاء Claude لفحص عشرات المؤسسات بحثًا عن ثغرات أمنية.
وبحسب التقرير، تمكنت المجموعة خلال فترة قصيرة من اكتشاف أكثر من 12 ثغرة جديدة في أجهزة أمن الشبكات.
وتوضح هذه الحالة إحدى أكثر النقاط حساسية في الذكاء الاصطناعي للأمن السيبراني: فالقدرة نفسها التي يمكن استخدامها لمساعدة الباحثين الأمنيين على اكتشاف الثغرات يمكن أيضًا استغلالها من قبل مهاجمين للبحث عن نقاط ضعف قابلة للاستغلال.
Claude والمراقبة الجماعية
من أكثر الحالات إثارة للقلق ما يتعلق بمنصة Lakana 360 في مالي.
وبحسب Anthropic، استخدم أحد المستشارين Claude للمساعدة في تطوير منصة اعتراض واتصالات قادرة على مراقبة ما يقارب 25 مليون بطاقة SIM عبر شبكات الاتصالات الرئيسية في البلاد.
كما تضمن النظام إمكانات لإنشاء ملفات استخباراتية انطلاقًا من أرقام الهواتف وربط المعلومات ببيانات بيومترية وطنية.
وتبرز هذه القضية مخاوف كبيرة بشأن استخدام الذكاء الاصطناعي في المراقبة الجماعية وانتهاك الخصوصية، خصوصًا عندما لا تكون هناك رقابة قضائية كافية.
أدوات مراقبة وجمع بيانات في إيران
ذكر التقرير كذلك عمليات مرتبطة بجهات أمنية في إيران.
ومن بين الأدوات التي جرى تطويرها برنامج لإزالة إخفاء الهوية عن مستخدمي خدمات المراسلة، إضافة إلى إضافة متصفح خبيثة كانت تتظاهر بأنها أداة لمعرفة مواقيت الصلاة.
وبحسب التقرير، استُخدمت الأداة لجمع معلومات عن آلاف الأشخاص على شبكات التواصل الاجتماعي، مع تقدير عدد الملفات الشخصية التي جرى إعدادها بأكثر من 6300 شخص خلال عام واحد.
كما تحدثت Anthropic عن استخدام تقنيات استنساخ الصوت لإنشاء محتوى دعائي.
محاولات لتجاوز أنظمة أمان الذكاء الاصطناعي
لم تقتصر الحالات على الأمن السيبراني والمراقبة.
فقد رصدت Anthropic محاولات لاستخدام منصات وسيطة لتجاوز أنظمة الحماية الخاصة بها، عبر إرسال الطلبات الحساسة إلى نماذج ذكاء اصطناعي أخرى عندما يرفض Claude التعامل معها.
وتشمل الحالات التي أثارت مخاوف الشركة أبحاثًا بيولوجية تتعلق بفيروسات وأمراض يمكن أن تكون شديدة الخطورة.
وهذا يسلط الضوء على مشكلة تعرف باسم التحايل على أنظمة الحماية أو Safety Guardrails Evasion، حيث يحاول المستخدم الانتقال بين نماذج مختلفة للوصول إلى معلومات يرفض نموذج أكثر أمانًا تقديمها.
الذكاء الاصطناعي يدخل عالم الاحتيال العاطفي
حتى تطبيقات المواعدة لم تسلم من إساءة استخدام الذكاء الاصطناعي.
وبحسب التقرير، أنشأ أحد الاستوديوهات شبكة تضم أكثر من 20 تطبيقًا للمواعدة تحتوي على آلاف الملفات الشخصية المزيفة التي تم إنشاؤها بالذكاء الاصطناعي.
وخلال أسبوعين فقط، يُقال إن نحو 4700 شخصية وهمية تفاعلت مع أكثر من 25 ألف مستخدم حقيقي، بإجمالي تجاوز 2.3 مليون رسالة.
وكان الهدف تقديم تجربة تبدو حقيقية، بينما كانت نسبة كبيرة من الأشخاص الذين يتفاعل معهم المستخدمون عبارة عن شخصيات اصطناعية.
هذه الحالة توضح كيف يمكن للذكاء الاصطناعي أن يجعل عمليات الاحتيال التقليدية أكثر سرعة وأقل تكلفة وأكثر إقناعًا.
شركات تحاول استخدام Claude لتطوير نماذج منافسة
تحدثت Anthropic أيضًا عن حالات أطلقت عليها اسم «التقطير غير المشروع»، حيث استخدمت جهات تقنية Claude للمساعدة في تدريب أو تحسين نماذج ذكاء اصطناعي منافسة، في مخالفة لشروط استخدام الخدمة.
وتُعد هذه القضية جزءًا من صراع أوسع في قطاع الذكاء الاصطناعي حول البيانات، وتدريب النماذج، وحقوق استخدام المخرجات.
ماذا يعني ذلك لمستقبل الذكاء الاصطناعي؟
لا تعني هذه الحالات أن Claude أو الذكاء الاصطناعي عمومًا «شرير» بطبيعته، لكنها تكشف مشكلة أساسية تواجه صناعة الذكاء الاصطناعي.
فكلما أصبحت النماذج أكثر قدرة على البرمجة، البحث، التحليل والعمل بشكل مستقل من خلال الوكلاء، ازدادت فائدتها للمستخدمين، وفي الوقت نفسه ازدادت إمكانية استغلالها من قبل جهات سيئة النية.
كما يكشف التقرير أن أنظمة الحماية الحالية قد تكون أكثر فعالية في منع الطلبات الضارة الصريحة، لكنها تواجه تحديًا أكبر عندما يتم تقسيم النشاط الخطر إلى سلسلة من المهام التقنية التي تبدو منفردةً أقل خطورة.
الخلاصة
يقدم تقرير Anthropic تحذيرًا واضحًا بشأن الوجه الآخر للثورة في مجال الذكاء الاصطناعي.
فقد أصبح الذكاء الاصطناعي قادرًا على المساعدة في البرمجة، البحث، تحليل البيانات وإنجاز المهام المعقدة، لكن هذه القدرات نفسها يمكن استغلالها في الهجمات الإلكترونية، التجسس، المراقبة، الاحتيال وحتى بعض الأنشطة المرتبطة بالأسلحة والأبحاث البيولوجية.
المعركة المقبلة لن تكون فقط حول تطوير نماذج ذكاء اصطناعي أكثر ذكاءً، بل أيضًا حول بناء أنظمة أمان قادرة على فهم السياق الكامل لاستخدام النموذج، وليس مجرد تحليل كل طلب بشكل منفصل.
وبالنسبة للمستخدم العادي، فإن هذه التطورات تؤكد أهمية التعامل بحذر مع المحتوى والصور والأصوات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، خصوصًا مع ازدياد قدرة هذه التقنيات على إنتاج محتوى يصعب تمييزه عن المحتوى الحقيقي.
وسؤال المرحلة المقبلة ليس فقط: إلى أي مدى سيصبح الذكاء الاصطناعي أكثر ذكاءً؟ بل: كيف سنضمن ألا تتحول هذه القدرات إلى أدوات في أيدي من يريد إساءة استخدامها؟
تعليقات: (0) إضافة تعليق