Anthropic otorga a la ONG METR acceso a nivel de empleado para supervisar la seguridad de la IA
La empresa de inteligencia artificial Anthropic (NASDAQ:ANTHROPIC) ha ampliado sus evaluaciones de seguridad de terceros al otorgar acceso a nivel de empleado a METR, una organización sin fines de lucro que evalúa modelos de IA de frontera. Como parte del acuerdo, Anthropic incorporó a seis miembros del personal de METR, proporcionándoles herramientas internas, sistemas, hardware de la empresa y espacio de oficina dedicado para realizar evaluaciones profundas de seguridad.
La iniciativa permite a los evaluadores externos revisar detalles técnicos que no se pueden hacer públicos debido a la sensibilidad comercial o a los riesgos de seguridad, como los procedimientos de entrenamiento y los recursos de cómputo. METR publicará de forma independiente informes sobre niveles de riesgo, incidentes y prácticas. Anthropic no puede vetar la publicación, aunque conserva derechos limitados de redacción para categorías protegidas, y METR sigue teniendo libertad para cuestionar públicamente si esas redacciones estaban justificadas.
Anthropic también está trabajando en esfuerzos de evaluación con SecureBio y Accenture Plc Class A (NYSE:ACN), cuyas acciones subieron un 4,88% a $225,40 hoy. Además, Anthropic mantiene conversaciones sobre una posible colaboración de evaluación con Hugging Face.
Puntos clave
- Anthropic otorgó a seis empleados del evaluador sin fines de lucro METR acceso completo a sistemas internos, hardware y espacio de oficina.
- METR publicará evaluaciones de riesgo y seguridad sin que Anthropic tenga derecho de veto sobre los hallazgos.
- Anthropic puede solicitar redacciones limitadas para datos sensibles de entrenamiento y cómputo, que METR puede evaluar públicamente.
- Anthropic también está trabajando con Accenture y SecureBio, mientras discute esfuerzos de evaluación con Hugging Face.
Traducido por nuestra IA a partir de nuestro artículo en inglés, basado en fuentes expertas del mercado en la web. Puede contener errores: verifica los datos antes de actuar. Resúmenes creados con la API de IA gratis de FreeTheAI.org
Cómo escribimosAviso legalPreguntas y respuestas
¿Qué acceso otorgó Anthropic a METR para las evaluaciones de seguridad de IA?
Anthropic incorporó a seis empleados de METR con hardware de la empresa, espacio de oficina y acceso a herramientas y sistemas internos para la evaluación de modelos.
¿Puede Anthropic vetar la publicación de los informes de seguridad de METR?
Anthropic no puede vetar la publicación, pero puede requerir redacciones limitadas para información sensible, las cuales METR puede criticar públicamente.
¿Qué otras organizaciones están trabajando con Anthropic en materia de seguridad?
Anthropic está trabajando con SecureBio y Accenture Plc Class A, y mantiene conversaciones con Hugging Face sobre esfuerzos de seguridad.