Anthropicが政府介入に高いハードルを設ける連邦AI法案を提案
Anthropicは、連邦政府が高度な人工知能（AI）モデルを停止するために介入する前に、高い財務的・安全上の基準を確立する法案の草案を議員らに提示しました。同提案によれば、連邦当局がフロンティアAIシステムを停止できるのは、少なくとも10億ドルの損害、または50人以上の死亡もしくは重傷を引き起こす差し迫った脅威が存在する場合のみとなります。
提案された規則は、特に生物兵器、サイバー攻撃、またはモデルが開発者の制御を脱する事態を含む壊滅的なリスクを対象としています。これらの基準を運用するため、商務省に登録された第三者評価機関がフロンティアモデルを監査し、重大なリスクを72時間以内に報告することになります。さらに、商務省によるモデル停止要請を承認できるのはコロンビア特別区連邦地裁の裁判官のみであり、他の行政機関による開発停止は禁止されます。
同法案は矛盾する州レベルのAI法に優先し、リスク開示と監視に関する統一的な連邦基準を確立します。この提案は、下院のFRONTIER法案や先端技術のガードレール確立に向けた上院での交渉など、連邦議員らが競合するAI安全性対策を検討するなかで行われました。
ポイント
- Anthropicは、差し迫ったリスクが10億ドルの損害または50人の重傷・死亡を超える場合にのみモデル停止を認める連邦法案を提案した。
- 対象となるリスクは、生物兵器、サイバー攻撃、または開発者の制御を脱するモデルに限定される。
- 商務省に登録された評価機関がフロンティアモデルを点検し、差し迫ったリスクを72時間以内に報告する。
- モデル停止命令を発行できるのはコロンビア特別区連邦地裁の裁判官のみである。
- 提案された連邦枠組みは、リスク開示やインシデント報告に関する一部の州AI法に優先する。
Web 上の専門的な市場情報をもとにした英語の記事を、当社の AI が翻訳しました。誤りを含む場合があります。行動の前に事実をご確認ください。 要約は次の無料 AI API で作成： FreeTheAI.org
記事の作り方免責事項よくある質問
Anthropicが提案したAIモデル停止の基準は何ですか？
草案によれば、連邦政府がフロンティアAIモデルを停止できるのは、10億ドルを超える損害または50人以上の死亡・重傷を引き起こす差し迫ったリスクがある場合のみです。
法案の下でAIモデルを停止する権限を持つ政府機関はどこですか？
商務省の要請を受けてAIモデルを停止できるのはコロンビア特別区連邦地裁の裁判官のみです。その他の機関による開発停止は禁止されます。
Anthropicの草案は州レベルのAI規制にどのような影響を与えますか？
提案された法案は州のAI法に優先し、地域ごとの規則をリスク開示、第三者評価、インシデント報告に関する統一された連邦基準へと置き換えます。