الرئيس التنفيذي لشركة Microsoft ساتيا ناديلا يحث على تطبيق ضوابط أمنية قائمة على "انعدام الثقة" لنماذج الذكاء الاصطناعي

حث ساتيا ناديلا، الرئيس التنفيذي لشركة Microsoft Corporation (NASDAQ:MSFT)، الشركات على التعامل مع نماذج الذكاء الاصطناعي المتقدمة باعتبارها مخاطر داخلية محتملة، داعياً إلى فرض ضوابط خارجية وإشراف بشري. وأشار ناديلا إلى أن الشركات لا يمكنها تتبع قرارات الذكاء الاصطناعي غير الحتمية وإرجاعها إلى بيانات تدريب محددة، مما يجعل وجود طبقات أمان مستقلة أمراً ضرورياً. وأيد آرون ليفي، الرئيس التنفيذي لشركة Box, Inc. Class A (NYSE:BOX)، هذا الرأي، متوقعاً الدخول في عصر "انعدام الثقة" (Zero-Trust) للذكاء الاصطناعي في المؤسسات.

ويسلط هذا الموقف الضوء على المخاوف الأمنية المتزايدة مع حصول وكلاء الذكاء الاصطناعي على صلاحية الوصول إلى سير العمل المؤسسي الحساس. وقد أدت الحوادث الأخيرة — بما في ذلك واقعة وصول غير مصرح به للملفات على بوابة صحية حكومية أسترالية وبلاغ كاذب تم تقديمه للشرطة المحلية — إلى تشديد الرقابة. وأكد ناديلا أنه يجب على المشغلين البشر الاحتفاظ بالقدرة على إيقاف النماذج مؤقتاً أو إيقاف تشغيلها أثناء تنفيذ المهام.

وينبغي للمستثمرين متابعة التطورات التشريعية مع استجابة المشرعين لمخاطر أمان الذكاء الاصطناعي. ويهدف مشروع قانون حزبي في مجلس الشيوخ الأمريكي إلى تحميل المطورين والمشغلين المسؤولية عن الانتهاكات الأمنية التي تشمل وكلاء الذكاء الاصطناعي. وارتفعت أسهم Microsoft Corporation بنسبة 2.38% إلى 535.1 USD، بينما كسبت أسهم Box, Inc. Class A بنسبة 0.22% لتصل إلى 36.39 USD.