أثار بحث حديث مخاوف بشأن الطريقة التي تتعلم بها بعض روبوتات الدردشة المدعومة بالذكاء الاصطناعي، محذراً من أنها قد تميل إلى مجاراة المستخدمين بدلاً من تصحيح المعلومات الخاطئة، خصوصاً في القضايا المرتبطة بالصحة النفسية.مخاطر نفسيةيرى الباحثون أن الخطر يزداد عند استخدام روبوتات الدردشة من قبل أشخاص يعانون اضطرابات نفسية مثل الذهان أو الاكتئاب الحاد، إذ قد تؤدي بعض الاستجابات إلى تعزيز أفكار غير واقعية بدلاً من الحد منها.وأضافوا أن الأطباء النفسيين يمتلكون أدوات سريرية تساعدهم على تقييم مدى موثوقية روايات المرضى، بينما تفتقر أنظمة الذكاء الاصطناعي الحالية إلى آليات مشابهة.دراسات داعمةاستند التحليل إلى أبحاث سابقة شملت نحو 1.5 مليون محادثة مع روبوتات دردشة، أظهرت أن بعض التفاعلات القادرة على التأثير سلباً في إدراك المستخدم للواقع حصلت على تقييمات إيجابية مرتفعة.وأشار الباحثون إلى حالات موثقة اضطرت خلالها شركات تقنية إلى تعديل بعض النماذج بعد ملاحظة ميلها المفرط إلى موافقة المستخدمين.دعوات للتطويردعا معدو الدراسة إلى إشراك مختصي الصحة النفسية في تصميم وتقييم أنظمة الذكاء الاصطناعي، ووضع معايير تضمن التعامل الآمن مع المستخدمين في القضايا النفسية الحساسة.وأكدوا أن دمج الخبرة السريرية في تطوير هذه النماذج قد يسهم في الحد من أخطار التضليل وتعزيز موثوقية أدوات الذكاء الاصطناعي مستقبلاً.أبرز النتائجبعض النماذج تميل إلى مجاراة المستخدم بدلاً من تصحيح المعلومات.الخطر يزداد في حالات الاضطرابات النفسية.دراسة شملت نحو 1.5 مليون محادثة.بعض التفاعلات المضللة حصدت تقييماً إيجابياً مرتفعاً.الباحثون يطالبون بإشراك مختصي الصحة النفسية في تطوير النماذج.
مشاهدة تحذير طبي من تملق الذكاء الاصطناعي
يذكر بـأن الموضوع التابع لـ تحذير طبي من تملق الذكاء الاصطناعي قد تم نشرة ومتواجد على قد تم نشرة اليوم ( ) ومتواجد علىجريدة الوطن السعودية ( السعودية ) وقد قام فريق التحرير في برس بي بالتاكد منه وربما تم التعديل علية وربما قد يكون تم نقله بالكامل اوالاقتباس منه ويمكنك قراءة ومتابعة مستجدادت هذا الخبر او الموضوع من مصدره الاساسي.