Anthropic、AIの危険を防ぐための新法案を提案

要約

過去1年間、人工知能（AI）の潜在的危険性に対する懸念が高まり、AIの安全性に関する議論が活発化しています。そんな中、AIラボのAnthropicが、AI産業を規制するための新たな法案を提案しました。この法案では、特定のシナリオにおいてAIモデルの配布を阻止できる条件が設定されています。

提案された条件には、50人以上の人命が危険にさらされる、または10億ドル以上の財産損失が予想される場合が含まれます。これらの基準は、最近成立したカリフォルニア州の法律と類似しており、AIモデルのリリースに対する重大なリスクを定義しています。Anthropicは、独立した評価者によってリスク分析が行われ、その評価者はアメリカ商務省に登録されることを提案しています。

この法案には、評価者が72時間以内に商務省に連絡し、モデルのリリースを停止するよう求める仕組みが含まれています。また、評価者の報酬が評価結果に影響を与えないようにする必要がある点が懸念されています。Anthropicの提案は、業界内の他の規制案よりも一歩進んだものであり、AI産業が直面する危機に対する解決策として注目されています。

元記事: https://techcrunch.com/2026/10/20/anthropic-pitches-ai-safety-bill-that-may-block-a-model-if-50-people-could-be-killed/

公開日: Tue, 20 Oct 2026 23:01:23 +0000

この記事はAIアシスト編集により作成されています。