要約
Anthropicは、特定のAIモデルから生成された出力を証明するオープンソースシステム「FlashProve」を開発中です。このシステムは、研究者が「証明可能な推論」と呼ぶもので、暗号技術を用いて出力が特定のモデルから来たことを数学的に保証します。ユーザーは、自分が使用しているモデルから実際に出力が得られたことを確認できるようになります。
FlashProveは、暗号化されたメール署名のように、他のモデルを装った詐欺行為から保護される仕組みを持っています。特に、AI企業がコスト削減のために安価なモデルに切り替えたり、性能結果を誇張するために高価なモデルを使用することを防ぐ役割も果たします。また、第三者が特定のタスクが高度なモデルによって実行されたと主張する場合にも、その主張を検証する手段となります。
このシステムは、各モデルの「フィンガープリント」を公開することが必要で、出力と照合して暗号的に検証できるようになっています。フィンガープリントはモデルの内部データを明かさないため、商業モデルでも利用可能です。現在、技術仕様や動作コードがGitHubで公開されており、他の研究者による改善を期待しています。
元記事: https://techcrunch.com/2026/11/03/anthropic-is-working-on-a-system-to-prove-ai-models-identity/
公開日: Tue, 03 Nov 2026 22:41:03 +0000
この記事はAIアシスト編集により作成されています。
📰 元記事: 元記事を読む