Anthropic向非营利组织METR授予员工级权限以实施AI安全监督
看涨低影响
人工智能公司Anthropic（NASDAQ:ANTHROPIC）已向评估前沿AI模型的非营利组织METR授予员工级访问权限，从而扩大了其第三方安全评估。作为协议的一部分，Anthropic入职了六名METR工作人员，向他们提供内部工具、系统、公司硬件和专用办公空间，以开展深度的安全评估。
该倡议允许外部评估员审查由于商业敏感性或安全风险而无法公开的技术细节，例如训练流程和算力资源。METR将独立发布关于风险等级、事件和做法的报告。Anthropic无法否决发布，但保留对受保护类别的狭义删减权，且METR保留公开质疑这些删减是否合理的自由。
Anthropic还在与SecureBio以及Accenture Plc Class A（NYSE:ACN）合作开展评估工作，后者的股票今日上涨4.88%，收于$225.40。此外，Anthropic正在就潜在的评估合作与Hugging Face进行讨论。
要点
- Anthropic向非营利评估机构METR的六名员工授予了对内部系统、硬件和办公空间的完全访问权限。
- METR将发布风险和安全评估，Anthropic对调查结果不拥有否决权。
- Anthropic可以要求对敏感的训练和算力数据实施狭义删减，METR可以对此公开评估。
- Anthropic还与Accenture及SecureBio合作，同时与Hugging Face讨论评估事宜。
由我们的 AI 根据我们的英文文章翻译，原文取材于网络上的专业市场来源。可能存在错误，行动前请核实事实。 解读由以下免费 AI API 生成： FreeTheAI.org
我们如何撰写免责声明问答
Anthropic为AI安全评估向METR授予了何种权限？
Anthropic入职了六名METR员工，向其提供公司硬件、办公空间以及对内部工具和系统的访问权限，用于模型评估。
Anthropic能否否决METR安全报告的发布？
Anthropic无法否决发布，但可以要求对敏感信息进行狭义删减，METR可以对此公开提出批评。
还有哪些组织在安全方面与Anthropic合作？
Anthropic正与SecureBio及Accenture Plc Class A合作，并正与Hugging Face就安全工作进行讨论。