El CEO de Microsoft, Satya Nadella, advierte que la IA plantea un riesgo interno y pide controles de seguridad de emergencia
Satya Nadella, director ejecutivo de Microsoft Corporation (MSFT), advirtió a las empresas que los sistemas avanzados de inteligencia artificial deben tratarse de forma similar a los riesgos internos corporativos. En una publicación en redes sociales, Nadella afirmó que las compañías están concediendo a los modelos de IA acceso a datos confidenciales y tareas críticas, a pesar de que los desarrolladores no pueden rastrear los resultados específicos de los modelos hasta el código subyacente o los datos de entrenamiento.
Para abordar estas preocupaciones de seguridad, Nadella pidió límites operativos estrictos que separen las capacidades del modelo de la autoridad administrativa. Instó a las organizaciones a mantener controles de acceso externos en lugar de confiar únicamente en los desarrolladores de IA. Además, Nadella recomendó implementar mecanismos de freno de emergencia que permitan a los administradores humanos autorizados interrumpir o apagar los sistemas de IA mientras ejecutan tareas.
Los inversores observarán cómo los clientes empresariales adoptan estos marcos de seguridad recomendados a medida que los agentes de IA autónomos tengan un despliegue más amplio. Las acciones de Microsoft Corporation (MSFT) subieron un 2,38% para cerrar en 535,10 USD en la sesión ordinaria. El valor acumula una revalorización del 11% en lo que va de año y del 2% en los últimos 12 meses.
Puntos clave
- El CEO de Microsoft, Satya Nadella, sostuvo que los modelos avanzados de IA deben tratarse como potenciales riesgos internos en las organizaciones.
- Nadella advirtió que los sistemas de IA reciben acceso a datos críticos aunque su toma de decisiones interna no se puede rastrear por completo.
- Defendió el uso de frenos de emergencia que permitan a personal humano autorizado pausar o finalizar operaciones de IA a mitad de tarea.
- Las acciones de Microsoft subieron un 2,38% en la sesión ordinaria hasta cerrar en 535,10 USD, acumulando una ganancia del 11% en el año.
Traducido por nuestra IA a partir de nuestro artículo en inglés, basado en fuentes expertas del mercado en la web. Puede contener errores: verifica los datos antes de actuar. Resúmenes creados con la API de IA gratis de FreeTheAI.org
Cómo escribimosAviso legalPreguntas y respuestas
¿Por qué comparó Satya Nadella la IA con un riesgo interno?
Satya Nadella advirtió que los modelos avanzados de IA reciben acceso a datos y tareas organizativas críticas, aunque sus resultados no se pueden rastrear fácilmente hasta un código o datos de entrenamiento específicos, lo que los hace vulnerables a errores, manipulaciones o compromisos de seguridad.
¿Qué salvaguardas recomendó el CEO de Microsoft para el despliegue de la IA?
Nadella recomendó separar la inteligencia de la IA de la autoridad operativa, mantener los controles de acceso de forma externa al modelo y crear frenos de emergencia para que humanos autorizados puedan pausar o apagar un sistema de IA a mitad de tarea.
¿Cómo cotizaron las acciones de Microsoft tras el anuncio?
Las acciones de Microsoft Corporation subieron un 2,38% en la rueda ordinaria para cerrar en 535,10 USD. El valor sube un 11% en el año y un 2% en los últimos 12 meses.