الرئيس التنفيذي لشركة مايكروسوفت ساتيا ناديلا يدعو إلى التعامل مع نماذج الذكاء الاصطناعي المتقدمة كمخاطر أمنية داخلية

صرح ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت (MSFT)، بضرورة إدارة نماذج الذكاء الاصطناعي المتقدمة كمخاطر تشغيلية داخلية بدلاً من إلقاء المسؤولية الأمنية الكاملة على مزودي النماذج. وأوضح ناديلا أنه نظراً لأن أنظمة الذكاء الاصطناعي الحالية تفتقر إلى التتبع الميكانيكي الواضح بينما تمتلك صلاحية الوصول إلى البيانات الحساسة والبنية التحتية الحيوية، فإنه يجب على المؤسسات افتراض أن هذه النماذج قد ترتكب أخطاء أو تتعرض للاختراق. وجرى تداول أسهم مايكروسوفت عند 535.10 دولاراً، بارتفاع نسبته 2.38%.

وعلى عكس البرمجيات التقليدية التي يمكن تتبع سلوكها مباشرة إلى مسارات برمجية محددة، تتخذ أنظمة الذكاء الاصطناعي المتقدمة قرارات يصعب فحصها ميكانيكياً. وللحد من المخاطر، دعا ناديلا إلى فصل ذكاء النموذج عن وظائف التفويض، ووضع ضوابط الأذونات والتحقق من الهوية وحدود الإجراءات خارج نموذج الذكاء الاصطناعي نفسه. وشدد على أن العمليات الحيوية يجب أن تترك سجلات مقاومة للتلاعب وأن تحافظ على الإشراف البشري إلى جانب الاختبارات المستمرة.

وبالنظر إلى المستقبل، سيراقب عملاء التكنولوجيا من الشركات والمستثمرون كيفية تطبيق شركات البرمجيات لأطر السلامة الخارجية وحدود العزل. وستعتمد التطورات في هذا القطاع على ما إذا كانت السجلات المعيارية، وإمكانيات الإيقاف في منتصف التشغيل، وتبادل الدروس بين القطاعات ستصبح معايير تشغيلية واسعة الانتشار.