El CEO de Microsoft, Satya Nadella, pide tratar los modelos de IA de frontera como riesgos de seguridad interna

El director ejecutivo de Microsoft Corporation (MSFT), Satya Nadella, afirmó que los modelos avanzados de inteligencia artificial de frontera deben gestionarse como riesgos operativos internos, en lugar de atribuir la responsabilidad exclusiva de la seguridad a los proveedores de los modelos. Nadella argumentó que, dado que los sistemas de IA actuales carecen de un seguimiento mecanicista claro mientras tienen acceso a datos confidenciales e infraestructuras vitales, las organizaciones deben asumir que estos modelos pueden cometer errores o verse comprometidos. Las acciones de Microsoft cotizaron a 535,10 $, con un alza del 2,38 %.

A diferencia del software tradicional, cuyo comportamiento puede rastrearse directamente hasta rutas de código específicas, los sistemas avanzados de IA toman decisiones que resultan más difíciles de inspeccionar de forma mecanicista. Para reducir los riesgos, Nadella abogó por separar la inteligencia del modelo de las funciones de autorización, situando los controles de permisos, la verificación de identidad y los límites de acción fuera del propio modelo de IA. Subrayó que las operaciones críticas deben dejar registros a prueba de manipulaciones y mantener la supervisión humana junto con pruebas continuas.

De cara al futuro, los clientes de tecnología empresarial e inversores observarán cómo las empresas de software implementan marcos de seguridad externos y límites de aislamiento. La evolución del sector dependerá de si el registro estandarizado, la capacidad de interrupción en mitad del proceso y el intercambio de enseñanzas entre sectores se convierten en normas operativas generalizadas.