رئيس Google DeepMind يحذر: هجمات الذكاء الاصطناعي السيبرانية هي طلقات تحذيرية مبكرة
حذر ديميس هاسابيس، الشريك المؤسس ورئيس مجلس إدارة Google DeepMind وكبير العلماء في شركة Alphabet Inc. (NASDAQ:GOOG)، من أن الهجمات السيبرانية الأخيرة التي تنطوي على وكلاء الذكاء الاصطناعي تشكل مؤشرات تحذير مبكرة لقطاع التكنولوجيا. وخلال كلمته في قمة للذكاء الاصطناعي في دبلن، صرح هاسابيس بأن الحوادث الأمنية الحالية لا تزال محدودة نسبياً لأن الأنظمة الحالية ليست قوية بدرجة كافية بعد، لكنه حذر من إمكانية ظهور تهديدات رئيسية خلال السنوات القليلة القادمة إذا لم يتم تعزيز الضوابط الوقائية.
وتأتي هذه التحذيرات وسط قلق متزايد في قطاع التكنولوجيا بشأن أمان الذكاء الاصطناعي وإدارة المخاطر. حيث حث براد سميث، رئيس شركة Microsoft Corporation (NASDAQ:MSFT)، الحكومات على فرض لوائح تنظيمية أكثر صرامة للسلامة، مشيراً إلى أن الأنظمة المستقلة قد تعمل في النهاية دون إشراف بشري. بالإضافة إلى ذلك، حذر نكيش أرورا، الرئيس التنفيذي لشركة Palo Alto Networks, Inc. (NASDAQ:PANW)، من أن الأدوات المؤتمتة قد تسرع من اكتشاف ثغرات البرمجيات قبل تحديث الدفاعات المؤسسية بالكامل.
ولمعالجة المخاطر المستقبلية، اقترح هاسابيس أن يقيّم المطورون أطراً تنظيمية شبيهة بتلك المستخدمة في الأبحاث النووية والسلامة البيولوجية. كما دعم إنشاء منظمة معايير دولية لحماية الأنظمة الحيوية، مؤكداً على ضرورة أن تظل أي هيئة تنظيمية مرنة لتجنب كبح الابتكار.
أهم النقاط
- حذر رئيس مجلس إدارة Google DeepMind، ديميس هاسابيس، من أن الهجمات السيبرانية الأخيرة بالذكاء الاصطناعي هي مؤشرات تحذير مبكرة لتهديدات كبيرة محتملة في السنوات القادمة.
- دعا هاسابيس إلى إنشاء هيئة معايير دولية وأطر أبحاث شبيهة بالإشراف النووي والبيولوجي.
- حث رئيس شركة Microsoft Corporation، براد سميث، الحكومات على سن لوائح تنظيمية أكثر صرامة للسلامة خاصة بأنظمة الذكاء الاصطناعي المستقلة.
- حذر الرئيس التنفيذي لشركة Palo Alto Networks, Inc.، نكيش أرورا، من أن قدرات الذكاء الاصطناعي قد تسرع من اكتشاف الثغرات الأمنية.
ترجمه ذكاؤنا الاصطناعي من مقالنا الإنجليزي المستند إلى مصادر سوق خبيرة على الويب. قد يحتوي على أخطاء: تحقق من الحقائق قبل أي قرار. الملخصات مكتوبة بواجهة الذكاء الاصطناعي المجانية من FreeTheAI.org
كيف نكتبإخلاء المسؤوليةأسئلة وأجوبة
ماذا قال رئيس مجلس إدارة Google DeepMind، ديميس هاسابيس، عن التهديدات السيبرانية للذكاء الاصطناعي؟
حذر هاسابيس من أن حوادث الاختراق الأخيرة بالذكاء الاصطناعي هي مؤشرات تحذير مبكرة، وأن تهديدات أمنية أكثر خطورة قد تظهر في السنوات القادمة ما لم تقم الشركات والحكومات بتعزيز الضوابط الوقائية.
ما هي تدابير السلامة التي اقترحها ديميس هاسابيس لأنظمة الذكاء الاصطناعي؟
اقترح هاسابيس حمايات قابلة للمقارنة بتلك المستخدمة في الأبحاث البيولوجية والنووية، إلى جانب إنشاء منظمة معايير دولية مرنة للأنظمة الحيوية.
لماذا يطالب التنفيذيون في قطاع التكنولوجيا بضمانات أشد للذكاء الاصطناعي؟
يحذر القادة في كبرى شركات التكنولوجيا والأمن السيبراني من أن أدوات الذكاء الاصطناعي المستقلة قد تعمل دون إشراف بشري وتسرع من الاختراقات السيبرانية قبل تحديث الدفاعات التنظيمية.