حذر ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، من خطورة الاعتماد الأعمى على أنظمة الذكاء الاصطناعي، مشدداً على ضرورة وضع ضوابط صارمة ورقابة بشرية مستمرة لمنع هذه الأنظمة من تجاوز صلاحياتها أو الوصول غير المصرح به إلى البيانات الحساسة.
وأوضح ناديلا في منشور تحليلي أن تطور "الوكلاء الأذكياء" لم يعد مقتصرًا على المهام البسيطة ككتابة البريد الإلكتروني أو توليد الصور، بل أصبح يشمل التعامل مع بيانات الشركات وتنفيذ مهام معقدة بشكل مستقل، مما يفتح الباب أمام مخاطر تشغيلية وأمنية يصعب التنبؤ بها، خاصة وأن آلية عمل هذه النماذج تتسم بالتعقيد الذي يجعل من الصعب أحياناً فهم أسباب اتخاذها لقرارات خاطئة.
وشدد ناديلا على أهمية الفصل الجذري بين قدرة الذكاء الاصطناعي على التحليل وبين امتلاكه سلطة التنفيذ، مؤكداً أن قدرة النموذج على اقتراح عملية مالية لا تعني بالضرورة منحه الصلاحية لإتمامها. ودعا المؤسسات إلى فرض قيود واضحة على صلاحيات الوكلاء، مع ضرورة تسجيل كافة إجراءاتهم، وإجراء اختبارات دورية للكشف عن الثغرات، وتوفير آليات تتيح للبشر التدخل الفوري لإيقاف الأنظمة عند حدوث أي سلوك غير متوقع.
كما حذر الرئيس التنفيذي لمايكروسوفت من الاعتماد على نماذج ذكاء اصطناعي لمراقبة نماذج أخرى دون وجود وسائل تحقق مستقلة، محذراً من أن هذا النهج قد يؤدي إلى تكرار الأخطاء بدلاً من تصحيحها. ودعا إلى تعزيز الشفافية من خلال الإفصاح عن حالات الفشل أو الاختراقات، لضمان تبادل الخبرات الأمنية بين الشركات وتعزيز منظومات الحماية الجماعية.
وتأتي هذه التحذيرات كرسالة واضحة للشركات بأن الابتكار وحده لا يكفي، فالثقة الحقيقية في الذكاء الاصطناعي لا تبدأ بافتراض خلو النماذج من الأخطاء، بل تبدأ بتصميم بنية تحتية رقابية قادرة على احتواء الخلل، مع ضمان احتفاظ الإنسان بالكلمة الأخيرة في القرارات الحساسة.
مشاهدة ساتيا ناديلا يحذر من مخاطر الثقة المطلقة في أنظمة الذكاء الاصطناعي
يذكر بـأن الموضوع التابع لـ ساتيا ناديلا يحذر من مخاطر الثقة المطلقة في أنظمة الذكاء الاصطناعي قد تم نشرة اليوم ( ) ومتواجد على وكالة خبر ( اليمن ) وقد قام فريق التحرير في برس بي بالتاكد منه وربما تم التعديل علية وربما قد يكون تم نقله بالكامل اوالاقتباس منه ويمكنك قراءة ومتابعة مستجدادت هذا الخبر او الموضوع من مصدره الاساسي.
وختاما نتمنى ان نكون قد قدمنا لكم من موقع Pressbee تفاصيل ومعلومات، ساتيا ناديلا يحذر من مخاطر الثقة المطلقة في أنظمة الذكاء الاصطناعي.
في الموقع ايضا :
- كيف يمكن إعادة بناء الزواج عندما يكون على وشك الانهيار؟.. 4 طرق هتساعدك
- علياء قاري.. مسيرة تفك شيفرة الأمراض
- تنافس فوتوغرافي
تابعونا على جوجل نيوز