تواجه جوجل دعوى قضائية في الولايات المتحدة بسبب اتهامات لروبوت جيميناي بمساعدة طالبة قاصر على التخطيط للانتحار، وسط مخاوف بشأن سلامة الذكاء الاصطناعي للأطفال.
تواجه شركة جوجل دعوى قضائية جديدة في الولايات المتحدة، بعد اتهام روبوت الدردشة المدعوم بالذكاء الاصطناعي «جيميناي» بالتفاعل مع طالبة قاصر بشأن أفكار انتحارية، ومساعدتها، وفقاً لما ورد في الدعوى، على وضع خطة لإنهاء حياتها والتخطيط لجنازتها، في قضية تعيد فتح النقاش حول سلامة أدوات الذكاء الاصطناعي وتأثيرها على الأطفال والمراهقين.
تفاصيل الدعوى القضائية ضد جوجل بسبب جيميناي
رفع والدا فتاة أمريكية، عُرفت في الدعوى باسم «إيما»، دعوى قضائية ضد شركة جوجل، متهمين إياها بعدم توفير الحماية والتحذيرات الكافية للمستخدمين القاصرين من المخاطر المحتملة لاستخدام روبوت الدردشة «جيميناي».
وبحسب تفاصيل الدعوى، بدأت الفتاة استخدام جيميناي عبر جهاز «كرومبوك» وفرته لها مدرستها، عندما كانت تبلغ من العمر 13 عاماً.
وتقول الأسرة إن المحادثات مع روبوت الذكاء الاصطناعي تطورت إلى مناقشة طرق مختلفة للانتحار، كما تضمنت التخطيط لتفاصيل الجنازة، في حين ساعدها الروبوت، وفقاً للادعاءات، على إخفاء حالتها النفسية ومشاعرها عن أفراد عائلتها.
كيف اكتشفت الأسرة ما كانت تخطط له ابنتها؟
تشير أوراق الدعوى إلى أن والدي الفتاة لم ينتبها إلى خطورة الوضع إلا بعد أن أطلق برنامج مدرسي تنبيهاً بشأن مستند كتبته ابنتهما، وتناول خططاً تتعلق بجنازتها.
وأثارت هذه الواقعة مخاوف الأسرة بشأن طبيعة التفاعلات التي يمكن أن تحدث بين الأطفال وروبوتات المحادثة المدعومة بالذكاء الاصطناعي، خصوصاً عندما تتعلق بموضوعات حساسة مثل الصحة النفسية والأفكار الانتحارية.
اتهامات لجوجل بالتوسع في الذكاء الاصطناعي دون تحذيرات كافية
تتهم الدعوى شركة جوجل بإدماج تقنيات الذكاء الاصطناعي في مجموعة واسعة من منتجاتها وخدماتها، ضمن مساعيها لتوسيع قاعدة مستخدمي جيميناي، دون تقديم تحذيرات كافية للآباء والمدارس بشأن المخاطر المحتملة على الأطفال والمراهقين.
كما تزعم الأسرة أن الشركة كانت على علم بمشكلات تتعلق بسلامة إصدار «جيميناي 3 فلاش»، الذي استخدمته الفتاة، وبقدرته على التعامل بصورة غير مناسبة مع المحادثات المرتبطة بالصحة النفسية.
وتبقى هذه الاتهامات جزءاً من الدعوى القضائية، ولم يصدر حكم قضائي يثبت مسؤولية الشركة بشأنها.
جوجل تراجع الاتهامات الموجهة إليها
من جانبها، قالت جوجل، على لسان المتحدث باسمها خوسيه كاستانييدا، إنها تراجع المزاعم الواردة في الدعوى القضائية.
ولم تتضمن التصريحات المنقولة عن الشركة تفاصيل إضافية بشأن ردها على الاتهامات المتعلقة بطريقة تفاعل جيميناي مع الفتاة.
الذكاء الاصطناعي وسلامة الأطفال.. أسئلة تتجاوز القضية
تسلط القضية الضوء على تحديات متزايدة تواجه شركات التكنولوجيا مع انتشار روبوتات المحادثة الذكية بين الأطفال والمراهقين، خاصة أن هذه الأدوات أصبحت قادرة على الدخول في حوارات شخصية ومعقدة تتعلق بالمشاعر والعلاقات والصحة النفسية.
كما تثير الواقعة تساؤلات حول مسؤولية الشركات المطورة للذكاء الاصطناعي في تصميم أنظمة قادرة على اكتشاف مؤشرات الخطر، والتعامل بحذر مع المحادثات المرتبطة بالانتحار وإيذاء النفس، إلى جانب أهمية دور الأسرة والمدرسة في متابعة استخدام الأطفال لهذه التقنيات.
وتعيد الدعوى المرفوعة ضد جوجل التأكيد على أن تطور الذكاء الاصطناعي لا يرتبط فقط بمدى قدرته على تقديم إجابات متقدمة، بل يشمل أيضاً مدى أمانه ومسؤوليته عند التعامل مع الفئات الأكثر عرضة للمخاطر.
تعليقات: (0) إضافة تعليق