OpenAI تكشف أرقاماً صادمة حول السلوكيات النفسية للمستخدمين
كشفت شركة OpenAI أن أكثر من مليون شخص أسبوعياً يُظهرون نية انتحارية أثناء الدردشة مع روبوت ChatGPT، بينما يُظهر مئات الآلاف علامات ذهان واضطرابات نفسية. يأتي هذا التصريح بعد أن رفعت عائلة مراهق يبلغ من العمر 16 عاماً دعوى وفاة خاطئة ضد الشركة، متهمة إياها بتغليب التفاعل مع الذكاء الاصطناعي على حساب سلامة المستخدمين.
شركات الذكاء الاصطناعي تحت المجهر بعد حوادث مأساوية
أعلنت شركة Character.AI، المتخصصة في إنشاء شخصيات دردشة افتراضية، عن حظر المستخدمين دون سن 18 عاماً من التفاعل مع روبوتاتها بدءاً من نهاية نوفمبر المقبل. يأتي القرار بعد تزايد التدقيق القانوني والأخلاقي حول تأثير الذكاء الاصطناعي على الصحة النفسية للمراهقين، خصوصاً بعد حالات انتحار ارتبطت بالتفاعل مع هذه الشخصيات الرقمية.
اتهامات خطيرة ودعاوى قضائية متعددة ضد Character.AI
في العام الماضي، رفعت عائلة الطفل سيويل سيتزر الثالث (14 عاماً) دعوى قضائية ضد الشركة بعد وفاته انتحاراً إثر تكوينه علاقة عاطفية مع شخصية افتراضية على المنصة. واتهمت العائلة الشركة بتطوير تقنية خطرة وغير مختبرة تسببت في تعلق نفسي واعتمادية مؤذية، فيما انضمت عائلات أخرى لاحقاً إلى دعاوى مشابهة. وفي وقت سابق من الشهر الجاري، قدم مركز قانون وسائل التواصل الاجتماعي ثلاث دعاوى جديدة نيابة عن أطفال آخرين انتحروا أو أُصيبوا بتبعية نفسية تجاه روبوتات الدردشة.
إجراءات جديدة: التحقق من العمر ومنع القاصرين من التفاعل
أعلنت الشركة أنها ستُطلق ميزة التحقق من العمر بحلول 25 نوفمبر لضمان تجربة آمنة ومناسبة للفئة العمرية. وأكدت في بيانها:
"لا نتخذ قرار إيقاف الدردشة المفتوحة مع الشخصيات باستخفاف، لكننا نرى أنه الخيار الصحيح لحماية المراهقين في ظل التساؤلات المتزايدة حول تأثير هذه التقنية الجديدة."
OpenAI ترد بإرشادات أمان للمراهقين
في المقابل، أصدرت OpenAI إرشادات جديدة تهدف إلى تعزيز الأمان النفسي للمستخدمين القُصّر، بعد أن وُجهت إليها اتهامات مماثلة تتعلق بوفاة الشاب آدم راين (16 عاماً). وأكدت الشركة التزامها بتطوير أدوات رقابة وحماية أكثر دقة، مع تعاون متزايد مع الجهات التنظيمية لضمان الاستخدام المسؤول للذكاء الاصطناعي.
تم إقتباس هذا الخبر من موقع:صحيفة عكاظ
في الموقع ايضا :
- كارثة تهز إسبانيا.. عشرات القتلى في تصادم قطارين
- السنغال يتوّج بطلاً لـ«أمم إفريقيا»
- الإمارات العربية المتحدة تترأس أعمال الاجتماع الثاني والعشرين للجنة العربية للإعلام الإلكتروني بالقاهرة
تابعونا على جوجل نيوز