CEO da Microsoft, Satya Nadella alerta que IA representa risco interno e pede controles de segurança de emergência
O diretor executivo da Microsoft Corporation (MSFT), Satya Nadella, alertou as empresas de que os sistemas avançados de inteligência artificial devem ser tratados de forma semelhante aos riscos corporativos internos. Em uma publicação nas redes sociais, Nadella afirmou que as empresas estão concedendo aos modelos de IA acesso a dados confidenciais e tarefas críticas, apesar da incapacidade dos desenvolvedores de rastrear as respostas específicas dos modelos até o código subjacente ou os dados de treinamento.
Para abordar essas preocupações de segurança, Nadella defendeu limites operacionais rígidos que separem as capacidades do modelo da autoridade administrativa. Ele incentivou as organizações a manterem controles de acesso externos em vez de confiar apenas nos desenvolvedores de IA. Além disso, Nadella recomendou a implementação de mecanismos de freio de emergência que permitam a gestores humanos autorizados interromper ou desligar sistemas de IA enquanto realizam tarefas.
Os investidores acompanharão como os clientes corporativos adotarão essas estruturas de segurança recomendadas à medida que agentes autônomos de IA tenham uma implantação mais ampla. As ações da Microsoft Corporation (MSFT) subiram 2,38%, fechando em 535,10 USD no pregão regular. O papel acumula alta de 11% no ano e de 2% nos últimos 12 meses.
Pontos principais
- O CEO da Microsoft, Satya Nadella, argumentou que modelos avançados de IA devem ser tratados como potenciais riscos internos nas organizações.
- Nadella alertou que os sistemas de IA estão recebendo acesso a dados críticos, embora seu processo interno de tomada de decisão não possa ser totalmente rastreado.
- Ele defendeu freios de emergência que permitam a humanos autorizados pausar ou encerrar operações de IA no meio de uma tarefa.
- As ações da Microsoft avançaram 2,38% no pregão regular, fechando em 535,10 USD, registrando um ganho de 11% no ano.
Traduzido pela nossa IA a partir do nosso texto em inglês, baseado em fontes especializadas do mercado na web. Pode conter erros: confira os fatos antes de agir. Resumos feitos com a API de IA grátis da FreeTheAI.org
Como escrevemosAviso legalPerguntas e respostas
Por que Satya Nadella comparou a IA a um risco interno?
Satya Nadella alertou que modelos avançados de IA recebem acesso a dados e tarefas organizacionais críticas, mas suas respostas não podem ser facilmente rastreadas até códigos ou dados de treinamento específicos, tornando-os vulneráveis a erros, manipulação ou comprometimento.
Quais salvaguardas o CEO da Microsoft recomendou para a implantação da IA?
Nadella recomendou separar a inteligência da IA da autoridade operacional, manter controles de acesso externos ao modelo e criar freios de emergência para que humanos autorizados possam pausar ou desligar um sistema de IA no meio de uma tarefa.
Como as ações da Microsoft se comportaram após o anúncio?
As ações da Microsoft Corporation subiram 2,38% no pregão regular, fechando a 535,10 USD. O papel acumula valorização de 11% no ano e de 2% nos últimos 12 meses.