Executivos da Microsoft pedem regras governamentais obrigatórias e avaliações de segurança de IA antes do lançamento
O presidente da Microsoft Corporation (NASDAQ:MSFT), Brad Smith, está pedindo aos governos que estabeleçam requisitos vinculantes de segurança para a inteligência artificial, argumentando que os sistemas atuais enfrentam menos regulamentações do que bens de consumo comuns, como máquinas de lavar ou leite. Smith propôs notificações obrigatórias para violações causadas por agentes autônomos de IA, botões de emergência para interromper modelos imprevisíveis e revisões governamentais pré-lançamento para sistemas com capacidades significativas de cibersegurança.
O impulso para uma regulamentação estatutária ocorre no momento em que líderes de tecnologia expressam preocupação com o acesso de sistemas autônomos a infraestruturas críticas e dados confidenciais. O CEO da Microsoft, Satya Nadella, observou que modelos avançados apresentam potenciais riscos internos porque as empresas não conseguem rastrear com precisão o comportamento dos modelos até dados de treinamento específicos. Embora grandes empresas do setor — incluindo NVIDIA Corporation (NASDAQ:NVDA), Meta Platforms Inc. (NASDAQ:META) e Alphabet Inc. (NASDAQ:GOOG) — tenham assinado recentemente um compromisso voluntário para permitir auditorias independentes de segurança, os executivos da Microsoft sustentam que a autorregulamentação voluntária é insuficiente para gerenciar os riscos em todo o setor.
Investidores e observadores do setor acompanharão se os legisladores traduzirão essas propostas em legislação aplicável ou mandatos de testes padronizados. As principais áreas de foco incluem como uma potencial supervisão governamental pode afetar os prazos de desenvolvimento de modelos de alta capacidade e se outras grandes empresas de tecnologia apoiam avaliações pré-lançamento obrigatórias. Após as declarações dos executivos, as ações da Microsoft Corporation (NASDAQ:MSFT) subiram 2,38%, para US$ 535,10.
Pontos principais
- O presidente da Microsoft, Brad Smith, pediu aos governos que implementem regulamentações obrigatórias de segurança de IA, incluindo avaliações pré-lançamento para modelos de alto risco.
- Smith propôs botões de emergência para sistemas imprevisíveis e notificação obrigatória quando agentes de IA violarem redes de segurança.
- Executivos da Microsoft afirmaram que compromissos voluntários assinados por grandes empresas de tecnologia não são mais suficientes para governar a segurança da IA.
- O CEO Satya Nadella alertou que modelos avançados de IA apresentam potenciais riscos internos que as empresas não conseguem rastrear totalmente usando dados internos.
Traduzido pela nossa IA a partir do nosso texto em inglês, baseado em fontes especializadas do mercado na web. Pode conter erros: confira os fatos antes de agir. Resumos feitos com a API de IA grátis da FreeTheAI.org
Como escrevemosAviso legalPerguntas e respostas
Quais regras de segurança de IA a Microsoft está propondo para os governos?
A Microsoft propôs exigir notificações de violação para incidentes de IA, botões de emergência obrigatórios para sistemas imprevisíveis e revisões independentes antes do lançamento de modelos de IA com potenciais riscos de cibersegurança.
Por que a Microsoft acredita que compromissos voluntários de IA não são suficientes?
Os executivos da Microsoft argumentam que compromissos voluntários são insuficientes porque empresas menos responsáveis podem ignorá-los, e sistemas avançados de IA trazem riscos que o rastreamento interno não consegue gerenciar totalmente.
Como as ações da Microsoft reagiram aos comentários sobre regulamentação de IA?
As ações da Microsoft Corporation subiram 2,38%, para US$ 535,10, após as declarações sobre as regras de segurança de IA.