FreeTheAI

Anthropic accorde à l'ONG METR un accès de niveau employé pour la sécurité de l'IA

HaussierImpact faible
ACN224,77 $US 4,56%

La société d'intelligence artificielle Anthropic (NASDAQ:ANTHROPIC) a élargi ses évaluations de sécurité par des tiers en accordant un accès de niveau employé à METR, une organisation à but non lucratif qui évalue les modèles d'IA de pointe. Dans le cadre de cet accord, Anthropic a intégré six membres du personnel de METR, leur fournissant des outils internes, des systèmes, du matériel d'entreprise et un espace de bureau dédié pour effectuer des évaluations approfondies de la sécurité.

L'initiative permet aux évaluateurs externes d'examiner des détails techniques qui ne peuvent pas être rendus publics en raison de leur sensibilité commerciale ou de risques de sécurité, tels que les procédures d'entraînement et les ressources de calcul. METR publiera de manière indépendante des rapports sur les niveaux de risque, les incidents et les pratiques. Anthropic ne peut pas poser de veto sur la publication, bien qu'elle conserve des droits de caviardage stricts pour les catégories protégées, et METR reste libre de contester publiquement si ces caviardages étaient justifiés.

Anthropic travaille également sur des efforts d'évaluation avec SecureBio et Accenture Plc Class A (NYSE:ACN), dont les actions ont augmenté de 4,88 % à $225,40 aujourd'hui. De plus, Anthropic mène des discussions concernant une collaboration d'évaluation potentielle avec Hugging Face.

Points clés

  • Anthropic a accordé à six employés de l'évaluateur à but non lucratif METR un accès complet aux systèmes internes, au matériel et aux bureaux.
  • METR publiera des évaluations de risques et de sécurité sans qu'Anthropic ne dispose d'un droit de veto sur les conclusions.
  • Anthropic peut demander des caviardages stricts pour les données sensibles d'entraînement et de calcul, que METR peut évaluer publiquement.
  • Anthropic travaille également avec Accenture et SecureBio tout en discutant d'efforts d'évaluation avec Hugging Face.

Traduit par notre IA à partir de notre article en anglais, fondé sur des sources expertes des marchés sur le web. Des erreurs sont possibles : vérifiez les faits avant d’agir. Synthèses rédigées avec l’API d’IA gratuite de FreeTheAI.org

Comment nous écrivonsAvertissement

Questions et réponses

Quel accès Anthropic a-t-elle accordé à METR pour les évaluations de sécurité de l'IA ?

Anthropic a intégré six employés de METR avec du matériel d'entreprise, un espace de bureau et un accès aux outils et systèmes internes pour l'évaluation des modèles.

Anthropic peut-elle opposer son veto à la publication des rapports de sécurité de METR ?

Anthropic ne peut pas opposer son veto à la publication, mais elle peut exiger des caviardages stricts pour les informations sensibles, que METR peut critiquer publiquement.

Quelles autres organisations travaillent avec Anthropic sur la sécurité ?

Anthropic travaille avec SecureBio et Accenture Plc Class A, et est en discussions avec Hugging Face concernant des efforts de sécurité.