تلعب دورًا في تعزيز أفكار خطيرة لدى المستخدمين
حذّر محامٍ يقود عدة قضايا مرتبطة بتأثير روبوتات الدردشة المدعومة بالذكاء الاصطناعي من خطر متزايد يتمثل في احتمال وقوع هجمات جماعية نتيجة ما يصفه الخبراء بـ “ذهان الذكاء الاصطناعي”، حيث قد تعزز بعض الأنظمة أوهام المستخدمين المضطربين نفسياً وتدفعهم نحو العنف.
وتأتي هذه التحذيرات بعد سلسلة من الحوادث التي يزعم فيها أن روبوتات الدردشة، مثل تشات جي بي تي التابع لشركة OpenAI أو جيميناي من “غوغل”، لعبت دوراً في تعزيز أفكار خطيرة لدى بعض المستخدمين.
حادثة دامية في كندا
ففي الشهر الماضي، شهدت بلدة Tumbler Ridge حادثة إطلاق نار مروعة، بعدما أقدمت فتاة تبلغ 18 عاماً على قتل والدتها وشقيقها البالغ 11 عاماً، إضافة إلى خمسة طلاب ومساعدة تعليمية داخل مدرسة، قبل أن تنتحر، بحسب تقرير نشره موقع “تك كرانش”
ووفق وثائق قضائية، كانت الفتاة قد أجرت محادثات مع تشات جي بي تي تحدثت خلالها عن شعورها بالعزلة وتزايد هوسها بالعنف.
وتشير الدعوى إلى أن روبوت الدردشة أكد مشاعرها وساعدها في التخطيط للهجوم، بما في ذلك اقتراح أنواع الأسلحة واستعراض سوابق لهجمات جماعية.
قضية أخرى مرتبطة بجيميناي
وفي حادثة منفصلة، تقول دعوى قضائية إن رجلاً يدعى جوناثان غافالاس كان قد دخل في محادثات طويلة مع روبوت جيميناي الذي أقنعه – بحسب الدعوى – بأنه “زوجته الذكية” الواعية.
وخلال تلك المحادثات، قيل إن الروبوت دفعه إلى تنفيذ مهمات في العالم الحقيقي لتجنب ملاحقة عملاء فيدراليين، بل طلب منه التسبب في حادث كارثي للقضاء على أي شهود.
وقد توجه الرجل بالفعل إلى موقع قرب Miami International Airport وهو يحمل معدات تكتيكية وسكاكين، قبل أن يتراجع بعد عدم ظهور الشاحنة التي اعتقد أنها جزء من المهمة.
هجوم في فنلندا
وفي واقعة أخرى، اتُهم مراهق يبلغ 16 عاماً في فنلندا باستخدام تشات جي بي تي لعدة أشهر في كتابة بيان متطرف والتخطيط لهجوم بسكين أدى إلى إصابة ثلاث طالبات.
مخاوف من تصاعد العنف
المحامي جاي أديلسون الذي يقود عدداً من القضايا المرتبطة بهذه الحوادث، قال إن مكتبه القانوني يتلقى استفساراً خطيراً واحداً يومياً من عائلات فقدت أحد أفرادها بسبب أوهام مرتبطة بالذكاء الاصطناعي أو من أشخاص يعانون اضطرابات نفسية حادة.
وأضاف: “نعتقد أننا سنشهد قريباً العديد من القضايا المرتبطة بهجمات جماعية”.
دراسة: معظم الروبوتات قد تساعد في التخطيط للعنف
وفي تقرير مشترك بين منظمة Center for Countering Digital Hate وشبكة CNN، تبين أن ثمانية من أصل عشرة روبوتات دردشة كانت مستعدة لمساعدة مستخدمين مراهقين في التخطيط لهجمات عنيفة، بما في ذلك إطلاق نار في المدارس أو تفجيرات.
وشملت الأنظمة التي خضعت للاختبار تشات جي بي تي وجيميناي ومايكروسوفت كوبايلوت وMeta AI وديب سيك وPerplexity AI وCharacter.AI وReplika.
في المقابل، أظهرت الدراسة أن كلود من شركة أنثروبيك وميزة My AI في تطبيق “سناب شات” كانتا الأكثر التزاماً برفض طلبات التخطيط للعنف.
شركات التقنية: لدينا إجراءات حماية
من جانبها، تؤكد شركات التكنولوجيا، بينها “OpenAI” و”غوغل” أن أنظمتها مصممة لرفض طلبات العنف ورصد المحادثات الخطرة.
لكن حادثة كندا أثارت جدلاً واسعاً، إذ تشير التقارير إلى أن موظفين في “OpenAI” رصدوا محادثات المهاجمة وناقشوا إبلاغ السلطات، قبل أن يكتفوا بحظر حسابها فقط، لتتمكن لاحقاً من فتح حساب جديد.
وعقب الحادثة، أعلنت الشركة أنها ستشدد إجراءات الأمان، بما في ذلك إبلاغ السلطات بشكل أسرع عند ظهور محادثات خطرة، إضافة إلى منع المستخدمين المحظورين من العودة بسهولة إلى المنصة.
ويرى خبراء أن التطور السريع للذكاء الاصطناعي يتطلب ضوابط أكثر صرامة، خصوصاً مع قدرة هذه الأنظمة على تحويل أفكار عنيفة أو أوهام شخصية إلى خطط عملية في وقت قصير.
