AI開発の危険性に警鐘を鳴らす業界リーダーたち

要約

今週末、AnthropicのCEOダリオ・アモデイが、LLM（大規模言語モデル）の開発速度を抑えるべきだとするエッセイを発表しました。アモデイは、サイバー攻撃やバイオテロ、経済への悪影響など、技術のリスクを懸念しています。この意見には、OpenAIのサム・アルトマン、Google DeepMindのデミス・ハサビス、SpaceXAIのイーロン・マスクら、アメリカの主要なAI研究所のリーダーたちも賛同しています。彼らは、最新のLLMが安全ではなく、何らかの対策を講じる必要があるという点で一致しています。

背景には、わずか数ヶ月前にアルトマンとマスクが互いの名声を攻撃し合った訴訟があり、アモデイはそのリスクを真剣に受け止めていないと感じてAnthropicを設立しました。現在、彼らは競争関係にありながらも、技術の危険性を認識し、開発のペースを考え直す必要があると感じているようです。特にOpenAIは、強力なモデルを構築する能力が、監視や制御の能力をはるかに超えていることを懸念しています。

アモデイとOpenAIの科学責任者ヤクブ・パチョッキは、AI企業がサイバー攻撃のリスクに直面していることを警告し、開発速度を落とす必要性を強調しています。しかし、彼らは同時に競争の激化も意識しており、技術の進展と安全性の確保のバランスを取ることが求められています。AI業界全体がこの問題に取り組むことは、今後の技術の発展にとって重要な意味を持つでしょう。

元記事: https://www.technologyreview.com/2026/09/14/1144048/the-ai-industry-has-taken-a-doomer-turn-what-now/

公開日: Mon, 14 Sep 2026 17:54:22 +0000

この記事はAIアシスト編集により作成されています。