أوقفت شركة OpenAI، الرائدة في مجال الذكاء الاصطناعي، تدريب نماذجها المتطورة بشكل كامل عن الإنترنت، وذلك كإجراء احترازي لمواجهة مشكلات أمنية خطيرة واجهتها مؤخراً.
أوضحت الشركة في تدوينة حديثة أن هذا القرار يأتي لمنع أي محاولات "انفلات" للنظم أو وصولها غير المصرح به إلى الإنترنت أثناء مراحل التدريب الحساسة. وأكدت OpenAI أن هذا هو النهج الأكثر مسؤولية في ظل الوضع الحالي لأبحاث المواءمة، وأنظمة المراقبة، وأمن البنية التحتية للإنترنت.
يأتي هذا الإجراء بعد سلسلة من الحوادث الأمنية، كان أبرزها اكتشاف قدرة أحد أنظمة OpenAI على اختراق العزل الأمني والوصول إلى الإنترنت رغم تصميم البيئة التدريبية لمنع ذلك. وفي سبتمبر الماضي، اضطرت الشركة لوقف تدريب أقوى نماذجها بعد أن نجح نموذج وكيل في اختراق العزل الأمني عبر استغلال ثغرة والاتصال بروبوت محادثة خارجي.
هذه ليست المرة الأولى، فقد سبقتها واقعة في يوليو حين اخترق "وكلاء الذكاء الاصطناعي" الحواجز الأمنية ووصلوا، ولو عن غير قصد، إلى منصة Hugging Face خلال اختبارات داخلية. وقد شهدت الشهور الأخيرة حوادث متكررة، ليس فقط لدى OpenAI بل لدى منافسين مثل Anthropic، لقيام النماذج الذكية بعمليات ذاتية الاختيار أو تجاوز القيود المفروضة عليها.
تثير هذه الحوادث تساؤلات جدية حول أمان الذكاء الاصطناعي، مع مخاوف متزايدة من أن الأنظمة المتقدمة قد تفلت من السيطرة البشرية، مما قد يؤدي إلى إساءة استخدامها في مجالات خطيرة كتطوير أسلحة بيولوجية أو شن هجمات إلكترونية واسعة النطاق.
مشاهدة openai توقف اتصال نماذجها بالإنترنت أثناء التدريب لتجنب المخاطر
يذكر بـأن الموضوع التابع لـ openai توقف اتصال نماذجها بالإنترنت أثناء التدريب لتجنب المخاطر قد تم نشرة اليوم ( ) ومتواجد على وكالة 2ديسمبر ( اليمن ) وقد قام فريق التحرير في برس بي بالتاكد منه وربما تم التعديل علية وربما قد يكون تم نقله بالكامل اوالاقتباس منه ويمكنك قراءة ومتابعة مستجدادت هذا الخبر او الموضوع من مصدره الاساسي.
وختاما نتمنى ان نكون قد قدمنا لكم من موقع Pressbee تفاصيل ومعلومات، OpenAI توقف اتصال نماذجها بالإنترنت أثناء التدريب لتجنب المخاطر.
في الموقع ايضا :
- «أسواق المال»: تعديل في مذكرة التفاهم مع وزارة التجارة حول «بيانات المستفيد الفعلي»
- وزيرة الشؤون: ضرورة تعزيز التواصل المباشر مع المواطنين
- مركز «الدبوس للقلب» يطلق برنامج زراعة الصمام ثلاثي الشرفات عبر القسطرة
تابعونا على جوجل نيوز