كشفت شركة مايكروسوفت عن استراتيجية أمنية جديدة تهدف إلى مراقبة وكلاء الذكاء الاصطناعي داخل بيئات العمل، محذرة من أن هذه الأنظمة قد تشكل مخاطر أمنية حتى في حال عدم تعرضها للاختراق، وذلك من خلال طرح مفهوم Guardian Agents للتحكم في الصلاحيات وضبط الأداء.
وأوضحت مايكروسوفت في مدونتها الرسمية أن الاعتماد الكلي على النماذج الذكية دون رقابة يعد مخاطرة، حيث إن هذه الأنظمة مصممة لتحقيق الأهداف المطلوبة، لكنها قد تتصرف بطرق غير متوافقة مع سياسات المؤسسة أو التقديرات البشرية، مما يستدعي نهجاً جديداً يركز على تأمين الوكلاء من الداخل.
وتعتمد الرؤية الجديدة للشركة على مشروع Project Perception، الذي يعمل على جمع البيانات من الشبكات، الهويات، والبيئات السحابية لمتابعة أنشطة الوكلاء بدقة. تهدف هذه المنظومة إلى تقييم المخاطر المرتبطة بكل عملية قبل تنفيذها، مع استخدام وكلاء مراقبة لضبط السلوك وفقاً لمستوى الخطورة المحتملة.
وتشدد مايكروسوفت على أن وسائل الحماية التقليدية لم تعد كافية، نظراً لأن وكلاء الذكاء الاصطناعي باتوا يمتلكون صلاحيات واسعة للوصول إلى الملفات واتخاذ قرارات تنفيذية. هذا الانحراف السلوكي المحتمل يتطلب مراقبة مستمرة وقدرة على تعديل الصلاحيات بشكل فوري أثناء العمليات.
وفي ختام رؤيتها، أكدت الشركة أن التقنيات وحدها لا تكفي، مشيرة إلى ضرورة وجود مراجعة بشرية مستمرة لفهم أسباب المخاطر وتحديث قواعد الأمان، بدلاً من الاكتفاء بالضمانات التي تقدمها الشركات المطورة للنماذج الذكية، لضمان توافق تام مع معايير العمل المؤسسي.
مشاهدة مايكروسوفت تطرح حلولا جديدة لمراقبة مخاطر وكلاء الذكاء الاصطناعي داخل المؤسسات
يذكر بـأن الموضوع التابع لـ مايكروسوفت تطرح حلولا جديدة لمراقبة مخاطر وكلاء الذكاء الاصطناعي داخل المؤسسات قد تم نشرة ومتواجد على قد تم نشرة اليوم ( ) ومتواجد على وكالة خبر ( اليمن ) وقد قام فريق التحرير في برس بي بالتاكد منه وربما تم التعديل علية وربما قد يكون تم نقله بالكامل اوالاقتباس منه ويمكنك قراءة ومتابعة مستجدادت هذا الخبر او الموضوع من مصدره الاساسي.
التفاصيل من المصدر - اضغط هنا :::
وختاما نتمنى ان نكون قد قدمنا لكم من موقع Pressbee تفاصيل ومعلومات، مايكروسوفت تطرح حلولاً جديدة لمراقبة مخاطر وكلاء الذكاء الاصطناعي داخل المؤسسات.
في الموقع ايضا :