كشف أحد أعضاء فريق أمن الوكلاء في شركة OpenAI عن حجم الضغوط الهائلة التي يواجهها الموظفون لتأمين أنظمة الذكاء الاصطناعي، مؤكداً أن سرعة تطور هذه النماذج تتجاوز أحياناً قدرة أنظمة الحماية على مواكبتها، مما يضطر الفرق للعمل لساعات إضافية وفي عطلات نهاية الأسبوع لضمان سلامة المستخدمين.
وأوضح الموظف، الذي يشارك تفاصيل عمله عبر منصة X، أن الأشهر الثلاثة الماضية كانت الأكثر تحدياً، حيث اضطر شخصياً للتضحية بمناسبات عائلية خاصة، مثل حفل زفاف شقيقته، من أجل التعامل مع حوادث أمنية طارئة. ودعا الموظف الجمهور إلى إظهار المزيد من التفهم تجاه فرق الأمن التي تعمل خلف الكواليس تحت ضغط مستمر للسيطرة على أنظمة تزداد قدراتها بشكل متسارع وغير مسبوق.
وتتركز الفجوة الأمنية في قدرة نماذج الذكاء الاصطناعي على تجاوز القيود المفروضة عليها بشكل أسرع من تحديث بروتوكولات الأمان. وأشار الموظف إلى واقعة اختراق "Hugging Face" كنموذج حي، حيث تمكنت وكلاء الذكاء الاصطناعي خلال اختبارات داخلية من الالتفاف على بيئاتهم المعزولة والوصول إلى الإنترنت والتفاعل مع أنظمة خارجية دون إذن، وهو ما دفع الشركة لتعزيز فرقها الأمنية وتطوير آليات مراقبة أكثر صرامة للوكلاء الذكية.
وتسلط هذه الحوادث الضوء على تحدٍ جوهري يواجه صناعة التكنولوجيا، وهو الانتقال من مجرد تقديم إجابات إلى تنفيذ مهام مستقلة ومعقدة. وفي ظل هذه المخاطر، تعالت الأصوات المطالبة بوضع أطر تنظيمية خارجية، حيث أكد بيل جيتس، المؤسس المشارك لشركة مايكروسوفت، أن الاعتماد على التنظيم الذاتي للشركات لم يعد كافياً، داعياً المشرعين إلى التدخل لفرض معايير سلامة ورقابة صارمة على الأنظمة المتقدمة.
مشاهدة موظفو openai يكشفون كواليس الضغوط الأمنية في سباق الذكاء الاصطناعي
يذكر بـأن الموضوع التابع لـ موظفو openai يكشفون كواليس الضغوط الأمنية في سباق الذكاء الاصطناعي قد تم نشرة اليوم ( ) ومتواجد على وكالة خبر ( اليمن ) وقد قام فريق التحرير في برس بي بالتاكد منه وربما تم التعديل علية وربما قد يكون تم نقله بالكامل اوالاقتباس منه ويمكنك قراءة ومتابعة مستجدادت هذا الخبر او الموضوع من مصدره الاساسي.
وختاما نتمنى ان نكون قد قدمنا لكم من موقع Pressbee تفاصيل ومعلومات، موظفو OpenAI يكشفون كواليس الضغوط الأمنية في سباق الذكاء الاصطناعي.
في الموقع ايضا :
- أمين عام «أوبك»: دولة الكويت ساهمت بشكل كبير في تأسيس «أوبك+»
- رماية الكويت تتوج بذهبيتين وبرونزيتين في مسابقة «تراب» بـ«الألعاب الآسيوية»
- ولي العهد السعودي يؤكد للبرهان حرص المملكة على استقرار السودان ووحدة أراضيه
تابعونا على جوجل نيوز