CEO da Microsoft, Satya Nadella defende tratar modelos de IA de fronteira como riscos de segurança interna

O diretor executivo da Microsoft Corporation (MSFT), Satya Nadella, declarou que modelos avançados de inteligência artificial de fronteira devem ser gerenciados como riscos operacionais internos, em vez de depositar a responsabilidade exclusiva da segurança nos provedores dos modelos. Nadella argumentou que, como os sistemas de IA atuais carecem de rastreamento mecanicista claro enquanto possuem acesso a dados confidenciais e infraestruturas vitais, as organizações devem assumir que esses modelos podem cometer erros ou sofrer violações. As ações da Microsoft foram negociadas a US$ 535,10, com alta de 2,38%.

Diferentemente do software tradicional, cujo comportamento pode ser rastreado diretamente até caminhos de código específicos, sistemas avançados de IA tomam decisões mais difíceis de inspecionar de forma mecanicista. Para reduzir riscos, Nadella defendeu a separação da inteligência do modelo das funções de autorização, posicionando controles de permissão, verificação de identidade e limites de ação fora do próprio modelo de IA. Ele destacou que operações críticas devem deixar registros à prova de adulteração e manter supervisão humana juntamente com testes contínuos.

Olhando para o futuro, clientes corporativos de tecnologia e investidores observarão como as empresas de software implementam estruturas de segurança externas e limites de isolamento. Os desenvolvimentos do setor dependerão do fato de registros padronizados, capacidades de interrupção em execução e o compartilhamento de aprendizados entre setores se tornarem padrões operacionais amplamente adotados.