Líder de Google DeepMind advierte que los ciberataques de IA son señales de alerta

Demis Hassabis, cofundador y presidente de Google DeepMind y director científico de Alphabet Inc. (NASDAQ:GOOG), advirtió que los recientes ciberataques con agentes de inteligencia artificial son señales de alerta temprana para el sector tecnológico. Durante una cumbre de IA en Dublín, Hassabis declaró que los incidentes de seguridad actuales siguen siendo relativamente menores porque los sistemas existentes aún no son lo suficientemente potentes, pero advirtió que podrían surgir amenazas mayores en los próximos años si no se refuerzan las salvaguardias.

Las advertencias se producen en medio de una creciente preocupación en toda la industria tecnológica sobre la seguridad y la gestión de riesgos de la inteligencia artificial. Brad Smith, presidente de Microsoft Corporation (NASDAQ:MSFT), instó a los gobiernos a establecer regulaciones de seguridad más estrictas, señalando que los sistemas autónomos podrían eventualmente operar fuera de la supervisión humana. Además, Nikesh Arora, director ejecutivo de Palo Alto Networks, Inc. (NASDAQ:PANW), advirtió que las herramientas automatizadas podrían acelerar el descubrimiento de vulnerabilidades de software antes de que las defensas corporativas estén completamente actualizadas.

Para abordar los riesgos futuros, Hassabis sugirió que los desarrolladores evalúen marcos regulatorios similares a los utilizados en la investigación nuclear y la seguridad biológica. También respaldó la creación de un organismo internacional de normas para proteger los sistemas críticos, enfatizando que cualquier organismo regulador debe mantenerse flexible para evitar reprimir la innovación.