Líder da Google DeepMind alerta que ataques hacker de IA são sinais de aviso prévio
Demis Hassabis, cofundador e presidente da Google DeepMind e cientista-chefe da Alphabet Inc. (NASDAQ:GOOG), alertou que ataques cibernéticos recentes envolvendo agentes de inteligência artificial são sinais de alerta prévio para o setor de tecnologia. Falando em uma cúpula de IA em Dublin, Hassabis declarou que os incidentes de segurança atuais permanecem relativamente menores porque os sistemas existentes ainda não são suficientemente potentes, mas alertou que grandes ameaças podem surgir nos próximos anos se as salvaguardas não forem reforçadas.
Os alertas ocorrem em meio à crescente preocupação em toda a indústria de tecnologia em relação à segurança e à gestão de riscos da inteligência artificial. Brad Smith, presidente da Microsoft Corporation (NASDAQ:MSFT), pediu aos governos que estabeleçam regulamentações de segurança mais rígidas, observando que sistemas autônomos podem eventualmente operar além da supervisão humana. Além disso, Nikesh Arora, diretor executivo da Palo Alto Networks, Inc. (NASDAQ:PANW), alertou que ferramentas automatizadas podem acelerar a descoberta de vulnerabilidades de software antes que as defesas corporativas estejam totalmente atualizadas.
Para enfrentar os riscos futuros, Hassabis sugeriu que os desenvolvedores avaliem estruturas regulatórias semelhantes às usadas na pesquisa nuclear e na segurança biológica. Ele também apoiou a criação de uma organização internacional de padrões para proteger sistemas críticos, enfatizando que qualquer órgão regulador deve permanecer flexível para evitar a supressão da inovação.
Pontos principais
- O presidente da Google DeepMind, Demis Hassabis, alertou que os recentes ataques cibernéticos de IA são sinais de aviso prévio sobre potenciais grandes ameaças nos próximos anos.
- Hassabis defendeu um órgão internacional de padrões e estruturas de pesquisa semelhantes à supervisão nuclear e biológica.
- O presidente da Microsoft Corporation, Brad Smith, pediu aos governos que promulguem regulamentações de segurança mais rígidas para sistemas autônomos de IA.
- O diretor executivo da Palo Alto Networks, Inc., Nikesh Arora, alertou que os recursos de IA podem acelerar a descoberta de vulnerabilidades de segurança.
Traduzido pela nossa IA a partir do nosso texto em inglês, baseado em fontes especializadas do mercado na web. Pode conter erros: confira os fatos antes de agir. Resumos feitos com a API de IA grátis da FreeTheAI.org
Como escrevemosAviso legalPerguntas e respostas
O que o presidente da Google DeepMind, Demis Hassabis, disse sobre as ameaças cibernéticas de IA?
Hassabis alertou que os recentes incidentes de ataques hacker de IA são sinais de aviso prévio e que ameaças de segurança mais graves podem surgir nos próximos anos, a menos que empresas e governos reforcem as salvaguardas.
Quais medidas de segurança Demis Hassabis propôs para sistemas de IA?
Hassabis sugeriu proteções comparáveis às usadas na pesquisa biológica e nuclear, bem como a criação de uma organização internacional de padrões flexível para sistemas críticos.
Por que executivos de tecnologia estão pedindo salvaguardas de IA mais fortes?
Líderes de grandes empresas de tecnologia e cibersegurança alertam que ferramentas autônomas de IA podem operar além da supervisão humana e acelerar violações cibernéticas antes que as defesas das organizações sejam atualizadas.