كشفت دراسة علمية حديثة عن معادلة رياضية يمكنها التكهن باقتراب نماذج الذكاء الاصطناعي من تقديم إجابات ضارة، حتى عندما تكون المعلومات الواردة فيها صحيحة من الناحية الواقعية.
وتعتمد هذه التقنية على رصد مؤشر داخل إحدى وحدات الانتباه في نماذج الذكاء الاصطناعي، وهي آلية تساعدها على تحديد المعلومات المهمة أثناء معالجة الأسئلة وصياغة الإجابات. وأطلق الباحثون على المعادلة اسم نقطة التحول، بهدف الكشف المبكر عن احتمال صدور محتوى غير مرغوب فيه.
واختبر الباحثون المعادلة على سبعة نماذج طورتها ثلاث شركات مختلفة، ونجحت في رصد التحول في 18 حالة من أصل 19، وفق نتائج الدراسة.
وشملت الاختبارات موضوعات حساسة، مثل اللقاحات وإيذاء النفس أو الآخرين، وأظهرت أن ترتيب الأسئلة وطريقة صياغتها قد يؤثران في الإجابات، التي يمكن أن تنتقل من ردود مقبولة إلى أخرى تنطوي على مخاطر.
ويرى الباحثون أن هذه التقنية قد تفيد القطاعات الحساسة التي تستخدم الذكاء الاصطناعي دون اتصال بالإنترنت، مثل المؤسسات الطبية ومكاتب المحاماة والقطاعات العسكرية، حيث تكون إمكانات التحديث والحماية الخارجية محدودة.
مشاهدة معادلة رياضية تتنبأ بتحول الذكاء الاصطناعي إلى تقديم إجابات ضارة
يذكر بـأن الموضوع التابع لـ معادلة رياضية تتنبأ بتحول الذكاء الاصطناعي إلى تقديم إجابات ضارة قد تم نشرة ومتواجد على قد تم نشرة اليوم ( ) ومتواجد على اليوم 24 ( المغرب ) وقد قام فريق التحرير في برس بي بالتاكد منه وربما تم التعديل علية وربما قد يكون تم نقله بالكامل اوالاقتباس منه ويمكنك قراءة ومتابعة مستجدادت هذا الخبر او الموضوع من مصدره الاساسي.
التفاصيل من المصدر - اضغط هنا :::
وختاما نتمنى ان نكون قد قدمنا لكم من موقع Pressbee تفاصيل ومعلومات، معادلة رياضية تتنبأ بتحول الذكاء الاصطناعي إلى تقديم إجابات ضارة.
في الموقع ايضا :