Anthropic propone una ley federal de IA con altos umbrales para la intervención gubernamental
Anthropic ha presentado a los legisladores un borrador de ley que establecería altos umbrales económicos y de seguridad antes de que el gobierno federal pueda intervenir para detener un modelo avanzado de inteligencia artificial. Según la propuesta, las autoridades federales solo podrían detener un sistema de IA de frontera si presenta una amenaza inminente que cause al menos 1.000 millones de dólares en daños o más de 50 muertes o lesiones graves.
Las normas propuestas se dirigen específicamente a riesgos catastróficos relacionados con armas biológicas, ciberataques o modelos que escapen al control de los desarrolladores. Para hacer cumplir estas normas, evaluadores independientes registrados en el Departamento de Comercio auditarían los modelos de frontera e informarían de los riesgos graves en un plazo de 72 horas. Además, solo un juez del Tribunal de Distrito de EE. UU. para el Distrito de Columbia podría conceder una solicitud del Departamento de Comercio para suspender un modelo, lo que impediría a otras agencias detener el desarrollo.
La legislación se impondría a las leyes estatales de IA contradictorias, estableciendo normas federales uniformes para la divulgación de riesgos y la supervisión. La propuesta se produce mientras los legisladores federales consideran medidas de seguridad de IA competidoras, incluida la Ley FRONTIER de la Cámara de Representantes y las negociaciones en curso en el Senado para establecer salvaguardias para la tecnología avanzada.
Puntos clave
- Anthropic propuso un proyecto de ley federal que permite el cierre de modelos solo si los riesgos inminentes superan los 1.000 millones de dólares en daños o 50 lesiones graves o muertes.
- Los riesgos calificados se limitan a armas biológicas, ciberataques o modelos que escapan al control del desarrollador.
- Los evaluadores registrados en el Departamento de Comercio inspeccionarían los modelos de frontera e informarían sobre riesgos inminentes en un plazo de 72 horas.
- Solo un juez del Tribunal de Distrito de EE. UU. para el Distrito de Columbia podría emitir una orden de suspensión de un modelo.
- El marco federal propuesto anularía ciertas leyes estatales de IA sobre divulgación de riesgos e informe de incidentes.
Traducido por nuestra IA a partir de nuestro artículo en inglés, basado en fuentes expertas del mercado en la web. Puede contener errores: verifica los datos antes de actuar. Resúmenes creados con la API de IA gratis de FreeTheAI.org
Cómo escribimosAviso legalPreguntas y respuestas
¿Cuál es el umbral propuesto por Anthropic para bloquear modelos de IA?
Según el borrador de ley, el gobierno federal solo podría bloquear un modelo de IA de frontera si representa un riesgo inminente de causar más de 1.000 millones de dólares en daños o más de 50 muertes o lesiones graves.
¿Qué entidades gubernamentales tendrían autoridad para suspender modelos de IA según el proyecto de ley?
Solo un juez federal del Tribunal de Distrito de EE. UU. para el Distrito de Columbia podría suspender un modelo de IA, a petición del Departamento de Comercio. Otras agencias tendrían prohibido detener el desarrollo.
¿Cómo afectaría el proyecto de ley de Anthropic a las regulaciones de IA a nivel estatal?
El proyecto de ley propuesto se impondría a la legislación estatal sobre IA, reemplazando las normas locales con estándares federales uniformes sobre divulgación de riesgos, evaluación independiente y reporte de incidentes.