Ejecutivos de Microsoft piden normas gubernamentales obligatorias y revisiones de seguridad previas para la IA
El presidente de Microsoft Corporation (NASDAQ:MSFT), Brad Smith, está instando a los gobiernos a establecer requisitos de seguridad vinculantes para la inteligencia artificial, argumentando que los sistemas actuales enfrentan menos regulaciones que bienes de consumo comunes como lavadoras o leche. Smith propuso notificaciones obligatorias para las brechas causadas por agentes de IA autónomos, interruptores de apagado de emergencia para detener modelos impredecibles y revisiones gubernamentales previas al lanzamiento para sistemas con capacidades significativas de ciberseguridad.
El impulso para una regulación legal se produce mientras los líderes tecnológicos expresan su preocupación por el acceso de sistemas autónomos a infraestructuras críticas y datos confidenciales. El director ejecutivo de Microsoft, Satya Nadella, señaló que los modelos avanzados presentan riesgos internos potenciales porque las empresas no pueden rastrear de manera confiable el comportamiento de los modelos hasta datos de entrenamiento específicos. Aunque actores clave de la industria, incluidos NVIDIA Corporation (NASDAQ:NVDA), Meta Platforms Inc. (NASDAQ:META) y Alphabet Inc. (NASDAQ:GOOG), firmaron recientemente un compromiso voluntario para permitir auditorías de seguridad independientes, los ejecutivos de Microsoft sostienen que la autorregulación voluntaria es insuficiente para gestionar los riesgos en toda la industria.
Los inversores y observadores de la industria vigilarán si los legisladores traducen estas propuestas en legislación exigible o mandatos de pruebas estandarizadas. Las áreas de enfoque clave incluyen cómo la supervisión gubernamental potencial podría afectar los plazos de desarrollo de modelos de alta capacidad y si otras grandes empresas tecnológicas respaldan las evaluaciones obligatorias previas al lanzamiento. Tras las declaraciones de los ejecutivos, las acciones de Microsoft Corporation (NASDAQ:MSFT) subieron un 2,38% a $535,10.
Puntos clave
- El presidente de Microsoft, Brad Smith, instó a los gobiernos a implementar regulaciones obligatorias de seguridad de IA, incluidas evaluaciones previas al lanzamiento para modelos de alto riesgo.
- Smith propuso interruptores de apagado de emergencia para sistemas impredecibles e informes obligatorios cuando los agentes de IA vulneren las redes de seguridad.
- Los ejecutivos de Microsoft afirmaron que los compromisos voluntarios firmados por las principales empresas tecnológicas ya no son suficientes para gobernar la seguridad de la IA.
- El CEO Satya Nadella advirtió que los modelos avanzados de IA presentan riesgos internos potenciales que las empresas no pueden rastrear completamente utilizando datos internos.
Traducido por nuestra IA a partir de nuestro artículo en inglés, basado en fuentes expertas del mercado en la web. Puede contener errores: verifica los datos antes de actuar. Resúmenes creados con la API de IA gratis de FreeTheAI.org
Cómo escribimosAviso legalPreguntas y respuestas
¿Qué reglas de seguridad de IA propone Microsoft para los gobiernos?
Microsoft propuso exigir notificaciones de brechas para incidentes de IA, interruptores de apagado de emergencia obligatorios para sistemas impredecibles y revisiones independientes previas al lanzamiento para modelos de IA con riesgos potenciales de ciberseguridad.
¿Por qué cree Microsoft que los compromisos voluntarios sobre IA no son suficientes?
Los ejecutivos de Microsoft argumentan que los compromisos voluntarios son insuficientes porque las empresas menos responsables pueden ignorarlos y los sistemas avanzados de IA conllevan riesgos que el rastreo interno no puede gestionar por completo.
¿Cómo reaccionaron las acciones de Microsoft a los comentarios sobre la regulación de la IA?
Las acciones de Microsoft Corporation subieron un 2,38% a $535,10 tras las declaraciones sobre las reglas de seguridad de la IA.