تتزايد التحذيرات داخل أروقة شركات الذكاء الاصطناعي الكبرى، بقيادة OpenAI وAnthropic، حول ضرورة إخضاع النماذج المتقدمة لاختبارات مستقلة وصارمة قبل طرحها للاستخدام العام، وذلك في ظل التطور المتسارع لقدرات هذه الأنظمة.
تجد الشركات المطورة نفسها في موقف مزدوج؛ فهي تسعى من جهة إلى تعزيز قدرات نماذجها التنافسية، ومن جهة أخرى تضغط لفرض أطر تنظيمية تضمن السلامة. وتأتي هذه الدعوات، وفقاً لتقارير صحفية، كجزء من محاولات هذه الشركات للمشاركة في صياغة القوانين المنظمة للقطاع، خاصة مع وصول الذكاء الاصطناعي إلى مستويات متقدمة في كتابة الأكواد البرمجية وتنفيذ المهام المعقدة متعددة الخطوات.
لا تهدف هذه التحركات إلى وقف عجلة الابتكار، بل إلى إعادة صياغة معايير قياس الأمان. فالاختبارات التقليدية التي كانت تكتفي بفحص النصوص الناتجة لم تعد كافية في عصر "الوكلاء الأذكياء" الذين يمتلكون القدرة على التفاعل مع البيئات الخارجية وتنفيذ إجراءات فعلية بدلاً من مجرد تقديم الإجابات.
وتشدد الشركات على أهمية تقييم السلوك الفعلي للنماذج في بيئات العمل الحقيقية، والتأكد من التزامها الكامل بالصلاحيات المحددة لها. كما تبرز الحاجة لمراقبة دقيقة لكيفية تصرف الأنظمة عند مواجهة العقبات، لضمان عدم تجاوزها للحدود الأمنية أو تنفيذ مهام غير متوقعة قد تشكل خطراً على المستخدمين أو الأنظمة الرقمية.
مشاهدة openai وanthropic تطالبان باختبارات مستقلة لضبط مخاطر الذكاء الاصطناعي
يذكر بـأن الموضوع التابع لـ openai وanthropic تطالبان باختبارات مستقلة لضبط مخاطر الذكاء الاصطناعي قد تم نشرة ومتواجد على قد تم نشرة اليوم ( ) ومتواجد على وكالة خبر ( اليمن ) وقد قام فريق التحرير في برس بي بالتاكد منه وربما تم التعديل علية وربما قد يكون تم نقله بالكامل اوالاقتباس منه ويمكنك قراءة ومتابعة مستجدادت هذا الخبر او الموضوع من مصدره الاساسي.
التفاصيل من المصدر - اضغط هنا :::
وختاما نتمنى ان نكون قد قدمنا لكم من موقع Pressbee تفاصيل ومعلومات، OpenAI وAnthropic تطالبان باختبارات مستقلة لضبط مخاطر الذكاء الاصطناعي.
في الموقع ايضا :