أطلقت شركة أنثروبيك ميزة أمان مبتكرة لنموذج الذكاء الاصطناعي "كلود" تتيح له تقييم محادثاته تلقائياً في الخلفية لرصد أي إساءة استخدام، وذلك دون مقاطعة تجربة المستخدم أو إظهار تنبيهات مزعجة، مع إحالة الحالات المشبوهة للمراجعة البشرية.
تعتمد هذه التقنية، التي تحمل اسم "التقييم الذاتي" وتعمل عبر نماذج مثل Claude Fable 5، على تدريب النموذج ليقوم بتقييم أمان المحادثة فور تقديم كل إجابة. وبدلاً من الاعتماد على قوائم قواعد جامدة، يستخدم كلود قدراته التحليلية الخاصة لتحديد طبيعة أي ضرر محتمل ودرجة خطورته، مما يجعله أكثر دقة في كشف الأنماط المعقدة التي قد تغفل عنها أنظمة الحماية التقليدية.
تتم العملية في الخلفية عبر تعليمات مخفية تُضاف بعد صياغة الإجابة، حيث يحدد النظام ما إذا كان الطلب ضاراً ويصنف أولويته للمراجعة البشرية. وتتميز هذه الطريقة بكفاءة عالية، إذ لا تستهلك سوى زيادة طفيفة في تكاليف الحوسبة لا تتجاوز 2%، مقارنة بأنظمة سابقة كانت تستهلك ما يصل إلى 24%، مع الحفاظ على دقة مبهرة بلغت 78% في رصد المحادثات الضارة و94% للحالات ذات الأولوية العالية.
وقد أثبت النظام فعالية كبيرة في الواقع، حيث رصد في شهر أغسطس وحده أكثر من 100 ألف حالة مرتبطة بمواد استغلال الأطفال لدى عميل واحد، مما أتاح للشركة سرعة إبلاغ السلطات. كما أظهرت الاختبارات قدرة كلود على استنتاج التهديدات الجديدة ذاتياً، حتى تلك التي لم يتم تدريبه عليها بشكل صريح، بفضل المعرفة العامة الواسعة التي يمتلكها النموذج.
ورغم هذا التطور، تؤكد أنثروبيك أن "التقييم الذاتي" ليس حلاً سحرياً بحد ذاته؛ فهو مصمم للمراقبة اللاحقة وليس لمنع الهجمات في لحظتها. لذا، تواصل الشركة استخدامه كطبقة حماية إضافية مكملة لأنظمة الحماية المستقلة القوية، لضمان أعلى مستويات الأمان دون التضحية بسلاسة تجربة المستخدم أو استنزاف الموارد الحوسبية.
مشاهدة كلود يطلق ميزة التقييم الذاتي لرصد المحادثات الضارة في الخلفية
يذكر بـأن الموضوع التابع لـ كلود يطلق ميزة التقييم الذاتي لرصد المحادثات الضارة في الخلفية قد تم نشرة اليوم ( ) ومتواجد على وكالة خبر ( اليمن ) وقد قام فريق التحرير في برس بي بالتاكد منه وربما تم التعديل علية وربما قد يكون تم نقله بالكامل اوالاقتباس منه ويمكنك قراءة ومتابعة مستجدادت هذا الخبر او الموضوع من مصدره الاساسي.
وختاما نتمنى ان نكون قد قدمنا لكم من موقع Pressbee تفاصيل ومعلومات، كلود يطلق ميزة "التقييم الذاتي" لرصد المحادثات الضارة في الخلفية.
في الموقع ايضا :
- جيش الاحتلال الإسرائيلي ينفذ عمليات قصف وتفجير وتمشيط بجنوب لبنان
- وزير الخارجية يبحث «هاتفياً» مع رئيس مجلس الوزراء ووزير خارجية قطر اخر المستجدات
- «العدل»: فتح باب التوظيف لوظيفة باحث قانوني مبتدئ تمهيداً للعمل وكيلاً للنيابة
تابعونا على جوجل نيوز