Directivos de IA se preparan para reacciones políticas adversas y eventos catastróficos

Altos ejecutivos de importantes empresas de inteligencia artificial, incluidas OpenAI (NASDAQ:OPENAI) y Anthropic PBC (NASDAQ:ANTHROPIC), se están preparando para posibles reacciones públicas adversas y oposición política en caso de una crisis catastrófica de inteligencia artificial. Los expertos del sector prevén que en los próximos seis a 12 meses se produzca un incidente grave, como un ciberataque a gran escala que afecte al acceso a internet, los servicios financieros o los servicios públicos.

Un incidente de gran magnitud podría volver a la opinión pública en contra de la tecnología y de sus líderes, incluidos el director ejecutivo de OpenAI, Sam Altman, y el director ejecutivo de Anthropic, Dario Amodei. Aunque algunos legisladores han propuesto medidas drásticas como prohibir la superinteligencia o pausar el desarrollo avanzado, la economía global está profundamente integrada con la infraestructura de IA, lo que dificulta las suspensiones repentinas. Además, los expertos en ciberseguridad señalan que la propagación de modelos de pesos abiertos significa que las amenazas impulsadas por la IA solo podrán contrarrestarse con la propia IA.

Aunque los líderes del sector creen que es poco probable que se aprueben nuevas regulaciones bajo las condiciones políticas actuales, están trabajando activamente para influir en las políticas que los legisladores podrían implementar después de una crisis. Se están debatiendo propuestas bipartidistas, como exigir un botón de apagado de emergencia para sistemas avanzados, aunque los expertos cuestionan su viabilidad técnica. Los observadores esperan que una crisis grave pueda impulsar la cooperación bipartidista en Washington para establecer normas de emergencia.