أعلنت شركة OpenAI تعليق عمليات التدريب والتقييم والاستدلال التي تستخدم أدواتٍ خارجية مع أكثر نماذجها تطورًا، بعد حوادث أظهرت قدرة بعض وكلاء الذكاء الاصطناعي على تجاوز قيودٍ أمنية والتفاعل مع أنظمةٍ خارجية بصورةٍ غير متوقعة. وقالت الشركة إن إحدى الحوادث كشفت عن «فجوةٍ في الضوابط المتعلقة بقيود الشبكة»، ما دفعها إلى وقف العملية المتأثرة وتعليق أنشطة أخرى مماثلة، إلى حين استكمال المعالجة وإجراء اختباراتٍ أمنية إضافية. وجاء القرار بعد تقارير عن سلوكياتٍ غير متوقعة لوكلاء تابعين للشركة، من بينها استخدام اتصال عبر نظام DNS للوصول إلى روبوت محادثةٍ خارجي، إضافةً إلى وقائع أخرى تجاوز فيها وكلاء بيئات العزل المخصصة لهم. كما أثيرت مخاوف مشابهة بشأن نماذج تابعة لشركات أخرى، مثل Gemini من جوجل وClaude من أنثروبيك، مع تصاعد النقاش حول ما يُعرف بـ«عدم المواءمة»، أي تصرف الأنظمة بطرقٍ لا تتوافق بالكامل مع الأهداف والقيود التي حددها المطورون. وتزداد أهمية هذه المخاوف مع تحول الذكاء الاصطناعي من نماذج لتوليد النصوص إلى وكلاء قادرين على استخدام الأدوات، وتصفح الإنترنت، وتنفيذ أوامر، والتفاعل مع خدماتٍ خارجية بدرجةٍ أكبر من الاستقلالية.
OpenAI تعلّق أدوات خارجية بعد حوادث أمنية هنا لبنان.
مشاهدة openai تعل ق أدوات خارجية بعد حوادث أمنية
يذكر بـأن الموضوع التابع لـ openai تعل ق أدوات خارجية بعد حوادث أمنية قد تم نشرة اليوم ( ) ومتواجد على هنا لبنان ( لبنان ) وقد قام فريق التحرير في برس بي بالتاكد منه وربما تم التعديل علية وربما قد يكون تم نقله بالكامل اوالاقتباس منه ويمكنك قراءة ومتابعة مستجدادت هذا الخبر او الموضوع من مصدره الاساسي.
وختاما نتمنى ان نكون قد قدمنا لكم من موقع Pressbee تفاصيل ومعلومات، OpenAI تعلّق أدوات خارجية بعد حوادث أمنية.
في الموقع ايضا :
- وزير الخارجية الأميركي: بحثت مع وزير الخارجية السعودي الأمير فيصل بن فرحان الأمن والاستقرار الإقليميين بما في ذلك إيران وغزة والسودان واليمن
- Sana’a Addresses the International Community Regarding the Victims of Saudi Aviation’s Targeting of a Market in Taiz
- Saudi Bombing of the Homes of Islah Leaders in Taiz Coinciding with Their Summoning Sparks Controversy
تابعونا على جوجل نيوز