Anthropic concede à METR acesso de nível de funcionário para supervisão de segurança de IA
A empresa de inteligência artificial Anthropic (NASDAQ:ANTHROPIC) expandiu suas avaliações de segurança por terceiros ao conceder acesso de nível de funcionário à METR, uma organização sem fins lucrativos que avalia modelos de IA de fronteira. Como parte do acordo, a Anthropic integrou seis membros da equipe da METR, fornecendo-lhes ferramentas internas, sistemas, hardware da empresa e espaço de escritório dedicado para realizar avaliações profundas de segurança.
A iniciativa permite que avaliadores externos revisem detalhes técnicos que não podem ser divulgados publicamente devido à sensibilidade comercial ou riscos de segurança, como procedimentos de treinamento e recursos de computação. A METR publicará relatórios de forma independente sobre níveis de risco, incidentes e práticas. A Anthropic não pode vetar a publicação, embora retenha direitos limitados de redação para categorias protegidas, e a METR permanece livre para contestar publicamente se essas redações foram justificadas.
A Anthropic também está trabalhando em esforços de avaliação com a SecureBio e a Accenture Plc Class A (NYSE:ACN), cujas ações subiram 4,88% para $225,40 hoje. Além disso, a Anthropic está mantendo discussões sobre uma potencial colaboração de avaliação com a Hugging Face.
Pontos principais
- A Anthropic concedeu a seis funcionários da avaliadora sem fins lucrativos METR acesso total a sistemas internos, hardware e espaço de escritório.
- A METR publicará avaliações de risco e segurança sem que a Anthropic tenha direito de veto sobre as descobertas.
- A Anthropic pode solicitar redações limitadas para dados sensíveis de treinamento e computação, as quais a METR pode avaliar publicamente.
- A Anthropic também está trabalhando com a Accenture e a SecureBio enquanto discute esforços de avaliação com a Hugging Face.
Traduzido pela nossa IA a partir do nosso texto em inglês, baseado em fontes especializadas do mercado na web. Pode conter erros: confira os fatos antes de agir. Resumos feitos com a API de IA grátis da FreeTheAI.org
Como escrevemosAviso legalPerguntas e respostas
Qual acesso a Anthropic concedeu à METR para avaliações de segurança de IA?
A Anthropic integrou seis funcionários da METR com hardware da empresa, espaço de escritório e acesso a ferramentas e sistemas internos para avaliação de modelos.
A Anthropic pode vetar a publicação dos relatórios de segurança da METR?
A Anthropic não pode vetar a publicação, mas pode exigir redações limitadas para informações sensíveis, as quais a METR pode criticar publicamente.
Quais outras organizações estão trabalhando com a Anthropic em segurança?
A Anthropic está trabalhando com a SecureBio e a Accenture Plc Class A, e está em discussões com a Hugging Face sobre esforços de segurança.