Líderes de tecnologia e IA pedem desaceleração com aumento de alertas de bolha e segurança

10 de out., 14:05 UTCBaixistaAlto impacto

As preocupações em torno da inteligência artificial estão se intensificando à medida que analistas, investidores e formuladores de políticas emitem alertas sobre um possível ponto de ruptura da bolha de mercado. O debate se expandiu para além do alto endividamento corporativo com centros de dados e das taxas de juros mais elevadas, incluindo agora riscos existenciais de segurança. Líderes dos principais laboratórios de tecnologia se uniram recentemente pedindo uma redução no ritmo do desenvolvimento das capacidades de IA.

Dario Amodei, diretor executivo da Anthropic PBC (NASDAQ:ANTHROPIC), defendeu que as empresas desacelerem e melhorem a coordenação do setor, posição apoiada pelo diretor executivo da OpenAI (NASDAQ:OPENAI), Sam Altman, e pelo fundador da SpaceX, Elon Musk. O alarme crescente ocorre após declarações públicas sobre riscos catastróficos, incluindo a estimativa de Evan Hubinger, integrante da Anthropic, que aponta uma probabilidade superior a 10 por cento de extinção humana por IA em dez anos, enquanto o cofundador da Microsoft Corporation (NASDAQ:MSFT), Bill Gates, observou que a tecnologia poderia contribuir para uma perda massiva de vidas.

Relata-se que executivos dos principais desenvolvedores de IA estão avaliando cenários potenciais de reação política e social em caso de uma emergência crítica de IA. Investidores e observadores do setor acompanham de perto se os grupos corporativos de pesquisa formalizarão limites voluntários de desenvolvimento, bem como de que forma possíveis respostas regulatórias ou mudanças no sentimento dos investidores poderiam impactar a avaliação e os investimentos de capital em todo o setor de tecnologia.

Pontos principais

Executivos de laboratórios de inteligência artificial concordaram no mês passado em pedir uma redução no ritmo dos avanços na capacidade dos modelos de IA.
O CEO da Anthropic, Dario Amodei, defendeu a desaceleração do desenvolvimento de IA, com o apoio do CEO da OpenAI, Sam Altman, e do fundador da SpaceX, Elon Musk.
Evan Hubinger, integrante da Anthropic, publicou uma estimativa colocando a chance de a IA causar a extinção humana acima de 10 por cento na próxima década.
O cofundador da Microsoft, Bill Gates, afirmou que a tecnologia atual de IA é poderosa o suficiente para ajudar a causar pelo menos um bilhão de mortes humanas.
Segundo relatos, executivos de empresas líderes de IA estão preparando cenários para uma potencial revolta pública e política após um grande incidente de segurança de IA.

Traduzido pela nossa IA a partir do nosso texto em inglês, baseado em fontes especializadas do mercado na web. Pode conter erros: confira os fatos antes de agir. Resumos feitos com a API de IA grátis da FreeTheAI.org

Como escrevemos Aviso legal

Perguntas e respostas

por que lideres da ia pedem desaceleracao do desenvolvimento

Executivos como o CEO da Anthropic, Dario Amodei, o CEO da OpenAI, Sam Altman, e o fundador da SpaceX, Elon Musk, apoiam a desaceleração das melhorias dos modelos devido a preocupações com riscos existenciais de segurança e possíveis resultados catastróficos.

quais riscos financeiros e de seguranca geram alertas de bolha na ia

As preocupações começaram com o aumento das taxas de juros e a crescente dívida corporativa usada para financiar grandes centros de dados, expandindo-se para ameaças catastróficas de segurança, incluindo estimativas de que a IA pode causar perdas massivas de vidas.

como empresas de ia se preparam para incidentes de seguranca

Altos executivos de empresas como Anthropic e OpenAI estão, segundo relatos, modelando cenários de revolta pública e política que poderiam ocorrer após uma grande catástrofe de IA.