マイクロソフトのサティア・ナデラCEO、フロンティアAIモデルを内部セキュリティリスクとして扱うよう呼びかけ

マイクロソフト（MSFT）のサティア・ナデラ最高経営責任者（CEO）は、高度なフロンティア人工知能（AI）モデルについて、セキュリティ責任をモデルプロバイダーのみに負わせるのではなく、内部の運用リスクとして管理すべきだと述べた。ナデラ氏は、現在のAIシステムは機密データや重要なインフラへのアクセス権を持つ一方で明瞭な機構的追跡が欠如しているため、企業や組織は these モデルがエラーを起こしたり侵害されたりする可能性を前提とすべきだと主張した。マイクロソフトの株価は2.38%高の535.10ドルで取引された。

動作を特定のコードパスまで直接遡ることができる従来のソフトウェアとは異なり、高度なAIシステムが行う決定は機構的に検査することがより困難である。リスクを軽減するため、ナデラ氏はモデルの知能と承認機能を分離し、アクセス権限管理、身元認証、行動制限をAIモデル自体の外部に配置することを提唱した。同氏は、重要な運用において改ざん防止ログを残し、継続的なテストとともに人間の監視を維持すべきだと強調した。

今後、企業のIT顧客や投資家は、ソフトウェア企業が外部の安全性フレームワークや隔離境界をどのように実装するかを注視することになる。業界の発展は、標準化されたログ記録、途中でシステムを停止する機能、業界を超えた教訓の共有が広範な運用標準となるかどうかにかかっている。