Executivos de IA se preparam para reações políticas adversas e eventos catastróficos

9 de out., 13:24 UTCNeutroImpacto médio

Altos executivos de grandes empresas de inteligência artificial, incluindo a OpenAI (NASDAQ:OPENAI) e a Anthropic PBC (NASDAQ:ANTHROPIC), estão se preparando para possíveis reações públicas adversas e oposição política no caso de uma crise catastrófica de inteligência artificial. Especialistas do setor preveem que um incidente significativo, como um ataque cibernético em larga escala que afete o acesso à internet, serviços financeiros ou serviços públicos essenciais, ocorra nos próximos seis a 12 meses.

Um incidente de grande magnitude poderia voltar a opinião pública contra a tecnologia e seus líderes, incluindo o diretor executivo da OpenAI, Sam Altman, e o diretor executivo da Anthropic, Dario Amodei. Embora alguns formuladores de políticas tenham proposto medidas drásticas, como proibir a superinteligência ou pausar o desenvolvimento avançado, a economia global está profundamente integrada à infraestrutura de IA, tornando desligamentos repentinos difíceis de implementar. Além disso, especialistas em segurança cibernética observam que a disseminação de modelos de pesos abertos significa que ameaças baseadas em IA podem só ser combatidas com a própria IA.

Embora os líderes do setor acreditem que seja improvável a aprovação de novas regulamentações sob as condições políticas atuais, eles estão trabalhando ativamente para influenciar as políticas que os legisladores poderiam implementar após uma crise. Propostas bipartidárias, como a exigência de um botão de desligamento de emergência para sistemas avançados, estão sendo discutidas, embora especialistas questionem sua viabilidade técnica. Observadores esperam que uma crise grave possa motivar a cooperação bipartidária em Washington para estabelecer regras de emergência.

Pontos principais

Executivos da OpenAI e da Anthropic PBC estão se preparando para uma grande crise de inteligência artificial e as consequentes reações políticas adversas.
Especialistas do setor acreditam que um incidente significativo, como um ataque cibernético que interrompa serviços públicos, deve ocorrer em seis a 12 meses.
A profunda integração da inteligência artificial com a economia global apresenta um grande desafio para qualquer interrupção política repentina da tecnologia.
Líderes de IA tentam moldar futuras políticas de emergência, pois acreditam ser improvável a aprovação de novas regulamentações nas condições atuais.

Traduzido pela nossa IA a partir do nosso texto em inglês, baseado em fontes especializadas do mercado na web. Pode conter erros: confira os fatos antes de agir. Resumos feitos com a API de IA grátis da FreeTheAI.org

Como escrevemos Aviso legal

Perguntas e respostas

Para quais eventos catastróficos de IA os executivos estão se preparando?

Os executivos estão se preparando para incidentes em larga escala, incluindo ataques cibernéticos que poderiam interromper o acesso à internet, serviços financeiros ou serviços públicos essenciais, como água e energia.

Quando os especialistas do setor esperam que ocorra um grande incidente de IA?

Especialistas do setor acreditam que um grande incidente de inteligência artificial é inevitável e pode ocorrer nos próximos seis a 12 meses.

Quais regulamentações os legisladores estão considerando para a IA avançada?

As propostas incluem opções drásticas, como proibir a superinteligência ou pausar o desenvolvimento avançado, bem como ideias bipartidárias, como a exigência de um botão de desligamento de emergência para sistemas de IA avançados.