Anthropic、非営利団体METRにAI安全性監視のための従業員レベルのアクセス権を付与
人工知能企業のAnthropic（NASDAQ:ANTHROPIC）は、最先端のAIモデルを評価する非営利団体METRに従業員レベルのアクセス権を付与することで、第三者による安全性評価を拡大しました。この取り決めの一環として、AnthropicはMETRのスタッフ6名を迎え入れ、詳細な安全性評価を実施するための社内ツール、システム、会社のハードウェア、専用のオフィススペースを提供しました。
この取り組みにより、外部の評価者は、商業上の機密性やセキュリティ上のリスクのために公表できないトレーニング手順や計算リソースなどの技術的詳細をレビューできるようになります。METRはリスクレベル、インシデント、実務に関するレポートを独立して公表します。Anthropicは公表を拒否することはできませんが、保護対象カテゴリに対する限定的な黒塗り権を保持し、METRはそれらの黒塗りが正当であったかどうかを公に異議申し立てする自由を維持します。
Anthropicはまた、SecureBioおよびAccenture Plc Class A（NYSE:ACN）との評価活動にも取り組んでおり、Accentureの株価は本日4.88%上昇して$225.40となりました。さらに、AnthropicはHugging Faceとの評価協力の可能性について協議を行っています。
ポイント
- Anthropicは、非営利評価機関METRの従業員6名に対し、社内システム、ハードウェア、オフィススペースへのフルアクセス権を付与しました。
- METRは、Anthropicが調査結果に対して拒否権を持たない形で、リスクおよび安全性評価を公表します。
- Anthropicは機密性の高いトレーニングや計算データに対する限定的な黒塗りを要求できますが、METRはその妥当性を公に評価できます。
- AnthropicはAccentureやSecureBioとも提携しており、Hugging Faceとの評価の取り組みについても協議を行っています。
Web 上の専門的な市場情報をもとにした英語の記事を、当社の AI が翻訳しました。誤りを含む場合があります。行動の前に事実をご確認ください。 要約は次の無料 AI API で作成： FreeTheAI.org
記事の作り方免責事項よくある質問
AnthropicはAI安全性評価のためにMETRにどのようなアクセス権を与えましたか？
Anthropicは、モデル評価のために会社のハードウェア、オフィススペース、社内ツールおよびシステムへのアクセス権を持つMETRの従業員6名を迎え入れました。
AnthropicはMETRの安全性レポートの公表を拒否できますか？
Anthropicは公表を拒否することはできませんが、機密情報に対して限定的な黒塗りを要求することができ、METRはそれを公に批判することができます。
Anthropicと安全性の分野で連携している他の組織はどこですか？
AnthropicはSecureBioおよびAccenture Plc Class Aと提携しており、Hugging Faceとも安全性に関する取り組みについて協議中です。