AIバブルと安全性への警告が高まる中、業界リーダーが開発減速を要請
アナリスト、投資家、政策立案者が市場バブルの崩壊点について警告を発する中、人工知能を巡る懸念が強まっています。議論はデータセンター向けの多額の企業債務や高金利にとどまらず、存在に関わる安全上のリスクにまで拡大しています。大手技術研究所のリーダーたちは最近、AI機能の開発ペースを落とすよう共同で呼びかけました。
Anthropic PBC（NASDAQ:ANTHROPIC）の最高経営責任者であるDario Amodei氏は、企業に対して減速と業界内の連携強化を促し、この立場はOpenAI（NASDAQ:OPENAI）のサム・アルトマン最高経営責任者やSpaceX創業者のイーロン・マスク氏からも支持されました。破滅的リスクに関する公的発言を受けて警戒感が高まっており、Anthropicの内部関係者であるEvan Hubinger氏は10年以内にAIによる人類滅亡の確率が10パーセントを超えると試算したほか、Microsoft Corporation（NASDAQ:MSFT）の共同創業者であるビル・ゲイツ氏は同技術が大量の命の喪失につながる可能性があると指摘しました。
主要AI開発企業の幹部は現在、重大なAI緊急事態が発生した場合の政治的・社会的反発のシナリオを評価していると報じられています。投資家や業界の観測筋は、企業の研究グループが自主的な開発制限を正式化するかどうか、また規制上の対応や投資家心理の変化がテクノロジー部門全体の企業評価や資本投資にどのように影響するかを注視しています。
ポイント
- 人工知能研究所の幹部らは先月、AIモデルの機能向上ペースの減速を呼びかけることで合意しました。
- AnthropicのDario Amodei CEOはAI開発の減速を主張し、OpenAIのサム・アルトマンCEOとSpaceX創業者のイーロン・マスク氏もこの呼びかけに同意しました。
- Anthropicの内部関係者であるEvan Hubinger氏は、今後10年以内にAIが人類滅亡を引き起こす確率を10パーセント以上とする試算を投稿しました。
- Microsoftの共同創業者であるビル・ゲイツ氏は、現在のAI技術は少なくとも10億人の人間を死亡させる原因になり得るほど強力であると述べました。
- 大手AI企業の幹部は、重大なAI安全上の事故の後に発生し得る大衆や政治的反発に関するシナリオを準備していると報じられています。
Web 上の専門的な市場情報をもとにした英語の記事を、当社の AI が翻訳しました。誤りを含む場合があります。行動の前に事実をご確認ください。 要約は次の無料 AI API で作成： FreeTheAI.org
記事の作り方免責事項よくある質問
AI 開発 減速 理由 なぜ
AnthropicのDario Amodei CEO、OpenAIのサム・アルトマンCEO、SpaceX創業者のイーロン・マスク氏などの幹部は、存在に関わる安全上のリスクや壊滅的な結果への懸念から、モデルの改善速度を落とすことを支持しています。
AI バブル 懸念 リスク 原因
懸念は、巨大なデータセンターの資金調達に使われる金利の上昇や企業債務の増大から始まり、AIが広範な人命の喪失を引き起こす可能性があるとの試算を含む壊滅的な安全上の脅威へと拡大しました。
AI 企業 安全 事故 対策 備え
AnthropicやOpenAIを含む企業のトップ幹部は、大規模なAIの惨事の後に発生する可能性がある一般市民や政治的反発のシナリオをモデリングしていると報じられています。