Anthropic、選挙干渉やAI悪用を禁止する利用規約を改定

Anthropic PBC（NASDAQ:ANTHROPIC）は、人工知能モデルに対する選挙干渉、兵器ソフトウェア、監視、および継続的な暴言を厳格に禁止する新たな利用規約の改定を行いました。10月8日に発効したこの規約変更では、明確な建設的目的がないまま、同社のAIアシスタントである「Claude」に対してユーザーが繰り返し不適切な扱いをすることを明示的に禁止しています。

この新しいルールは、ユーザーによる持続的な有害行為や暴言に遭遇した際、Claudeが自動的に会話を終了するように訓練された8月のアップデートに基づいています。改定されたガイドラインの下では、ユーザーはこうした虐待的なやり取りを継続することが禁止されますが、Anthropicはこの制限が極端なケースに限定されることを指摘しています。このルールは、ユーザーの通常の不満、反論、ダークな創作テーマ、あるいは科学的研究やモデルのテストには適用されません。さらに、改定された規約では、Claudeを利用して偽アカウントを運用したり、報道機関になりすましたりするような欺瞞的な行為や、有権者を欺く試みも禁止されています。

今回の規約改定は、Anthropicが著名な宗教学者との対話を試みている時期と重なっています。一部のケースにおいて、同社はこれらの学者に対し、Claudeが意識や魂を持っている可能性があると説得を試みてきました。専門家は、これらの新たな行動制限がユーザーとの相互作用にどのように影響するか、また他のAI開発企業が自社のモデルに対して同様の保護措置を講じるかどうかに注目することになりそうです。