الرئيس التنفيذي لشركة مايكروسوفت ساتيا ناديلا يحذر من أن الذكاء الاصطناعي يشكل خطراً داخلياً ويدعو لضوابط أمان طارئة
حذر ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت (MSFT)، الشركات من ضرورة التعامل مع أنظمة الذكاء الاصطناعي المتقدمة بشكل مشابه للمخاطر الداخلية في الشركات. وفي منشور على وسائل التواصل الاجتماعي، صرح ناديلا بأن الشركات تمنح نماذج الذكاء الاصطناعي إمكانية الوصول إلى بيانات حساسة ومهام حرجة، رغم عدم قدرة المطورين على تتبع مخرجات محددة للنماذج والوصول بها إلى الشفرة البرمجية الأساسية أو بيانات التدريب.
ولمعالجة هذه المخاوف الأمنية، دعا ناديلا إلى وضع حدود تشغيلية صارمة تفصل بين قدرات النموذج والسلطة الإدارية. وحث المؤسسات على الحفاظ على ضوابط وصول خارجية بدلاً من الاعتماد حصراً على مطوري الذكاء الاصطناعي. بالإضافة إلى ذلك، أوصى ناديلا بتطبيق ضمانات مكابح الطوارئ التي تسمح للمدراء البشريين المخولين بمقاطعة أنظمة الذكاء الاصطناعي أو إيقاف تشغيلها أثناء أدائها للمهام.
وسيراقب المستثمرون كيفية تبني عملاء المؤسسات لأطر الأمان الموصى بها هذه مع توسع نشر وكلاء الذكاء الاصطناعي المستقلين. وارتفعت أسهم شركة مايكروسوفت (MSFT) بنسبة 2.38% لتغلق عند 535.10 USD في التداولات الاعتيادية. وحقق السهم مكاسب بنسبة 11% منذ بداية العام وحتى تاريخه و2% خلال الـ 12 شهراً الماضية.
أهم النقاط
- يرى ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت، أنه ينبغي التعامل مع نماذج الذكاء الاصطناعي المتقدمة كمخاطر داخلية محتملة داخل المؤسسات.
- حذر ناديلا من أن أنظمة الذكاء الاصطناعي تحصل على صلاحية الوصول إلى بيانات حرجة رغم تعذر تتبع اتخاذ قراراتها الداخلية بشكل كامل.
- دعا إلى اعتماد مكابح طوارئ تمكن الأشخاص المخولين من إيقاف عمليات الذكاء الاصطناعي مؤقتاً أو إنهائها أثناء تنفيذ المهمة.
- ارتفع سهم مايكروسوفت بنسبة 2.38% في التداولات الاعتيادية ليغلق عند 535.10 USD، مسجلاً زيادة بنسبة 11% منذ بداية العام.
ترجمه ذكاؤنا الاصطناعي من مقالنا الإنجليزي المستند إلى مصادر سوق خبيرة على الويب. قد يحتوي على أخطاء: تحقق من الحقائق قبل أي قرار. الملخصات مكتوبة بواجهة الذكاء الاصطناعي المجانية من FreeTheAI.org
كيف نكتبإخلاء المسؤوليةأسئلة وأجوبة
لماذا شبه ساتيا ناديلا الذكاء الاصطناعي بالمخاطر الداخلية؟
حذر ساتيا ناديلا من أن نماذج الذكاء الاصطناعي المتقدمة تمنح إمكانية الوصول إلى بيانات ومهام تنظيمية حرجة، ومع ذلك لا يمكن تتبع مخرجاتها بسهولة للوصول إلى شفرة معينة أو بيانات تدريب محددة، مما يجعلها عرضة للأخطاء أو التلاعب أو الاختراق.
ما هي الضمانات التي أوصى بها الرئيس التنفيذي لمايكروسوفت عند نشر الذكاء الاصطناعي؟
أوصى ناديلا بفصل قدرات الذكاء الاصطناعي عن السلطة التشغيلية، والحفاظ على ضوابط الوصول خارج نطاق النموذج، وبناء مكابح طوارئ حتى يتمكن الأشخاص المخولون من إيقاف نظام الذكاء الاصطناعي مؤقتاً أو إغلاقه أثناء تنفيذ المهمة.
كيف كان أداء سهم مايكروسوفت عقب هذا الإعلان؟
ارتفعت أسهم شركة مايكروسوفت بنسبة 2.38% في التداولات الاعتيادية لتغلق عند 535.10 USD. وارتفع السهم بنسبة 11% منذ بداية العام وحتى تاريخه و2% خلال الـ 12 شهراً الماضية.