Líderes tecnológicos piden desacelerar la IA ante advertencias de burbuja y seguridad
La preocupación en torno a la inteligencia artificial se intensifica mientras analistas, inversores y reguladores advierten sobre un posible punto de ruptura por una burbuja de mercado. El debate se ha ampliado más allá de la elevada deuda corporativa para centros de datos y las altas tasas de interés, incluyendo ahora riesgos existenciales de seguridad. Líderes de los principales laboratorios tecnológicos se unieron recientemente para solicitar una reducción en el ritmo del desarrollo de capacidades de IA.
Dario Amodei, director ejecutivo de Anthropic PBC (NASDAQ:ANTHROPIC), instó a las empresas a desacelerar y mejorar la coordinación del sector, postura respaldada por el director ejecutivo de OpenAI (NASDAQ:OPENAI), Sam Altman, y el fundador de SpaceX, Elon Musk. La alarma aumentó tras declaraciones públicas sobre riesgos catastróficos, entre ellas la del integrante de Anthropic, Evan Hubinger, quien estimó una probabilidad superior al 10 por ciento de extinción humana por IA en diez años, mientras que el cofundador de Microsoft Corporation (NASDAQ:MSFT), Bill Gates, señaló que la tecnología podría contribuir a una pérdida masiva de vidas.
Se informa que ejecutivos de los principales desarrolladores de IA están evaluando posibles escenarios de reacción política y social en caso de una emergencia crítica de IA. Inversores y observadores del sector vigilan de cerca si los grupos corporativos de investigación formalizarán límites voluntarios de desarrollo, así como la manera en que las posibles respuestas regulatorias o el cambio en el sentimiento de los inversores podrían afectar la valoración y la inversión de capital en el sector tecnológico.
Puntos clave
- Ejecutivos de laboratorios de inteligencia artificial acordaron el mes pasado pedir una reducción en el ritmo de los avances en la capacidad de los modelos de IA.
- El CEO de Anthropic, Dario Amodei, abogó por desacelerar el desarrollo de la IA, postura con la que coincidieron el CEO de OpenAI, Sam Altman, y el fundador de SpaceX, Elon Musk.
- Evan Hubinger, integrante de Anthropic, publicó una estimación que sitúa la probabilidad de que la IA cause la extinción humana por encima del 10 por ciento en la próxima década.
- El cofundador de Microsoft, Bill Gates, afirmó que la tecnología de IA actual es lo suficientemente potente como para ayudar a causar al menos mil millones de muertes humanas.
- Según se informa, ejecutivos de empresas líderes de IA están preparando escenarios ante un potencial rechazo social y político tras un incidente grave de seguridad de IA.
Traducido por nuestra IA a partir de nuestro artículo en inglés, basado en fuentes expertas del mercado en la web. Puede contener errores: verifica los datos antes de actuar. Resúmenes creados con la API de IA gratis de FreeTheAI.org
Cómo escribimosAviso legalPreguntas y respuestas
por que los lideres de la ia piden desacelerar su desarrollo
Ejecutivos como el CEO de Anthropic, Dario Amodei, el CEO de OpenAI, Sam Altman, y el fundador de SpaceX, Elon Musk, apoyan desacelerar las mejoras de los modelos debido a preocupaciones sobre riesgos existenciales de seguridad y posibles resultados catastróficos.
que riesgos financieros y de seguridad generan advertencias de burbuja de ia
Las preocupaciones comenzaron con el aumento de las tasas de interés y la creciente deuda corporativa para financiar masivos centros de datos, y se ampliaron a amenazas catastróficas de seguridad, incluidas estimaciones de que la IA podría causar pérdidas masivas de vidas.
como se preparan las empresas de ia para posibles incidentes de seguridad
Según se informa, altos ejecutivos de empresas como Anthropic y OpenAI están modelando escenarios de rebelión pública y política que podrían ocurrir tras una gran catástrofe de IA.