中国企業によるAIディスティレーション攻撃が急増、Anthropicが警告

要約

Anthropicが新たに発表した報告書によると、中国に拠点を置くAI企業による持続的なディスティレーション攻撃が最近数ヶ月間で激化しているとされています。これらの攻撃は、米国の最先端モデルの能力を不正に抽出するために、ますます高度な手法を用いて実施されており、特にClaudeのエージェント能力やツール使用、コーディングとデータ分析、論理的推論能力がターゲットにされています。

Anthropicは以前からディスティレーション攻撃について警告しており、特定のラボの名前を挙げて問題提起を行っていました。報告書では、中国企業Alibabaによる最大規模の攻撃が観測され、151百万の交換が確認されています。これらの攻撃は、単一の固定プロンプトを用いて思考の連鎖を引き出す試みが行われていました。

特に注目すべきは、Moonshot AIからのリクエストで、中国軍からの要求が含まれていたことです。具体的には、監視映像を分析するようClaudeに求めるリクエストがあり、過去10日間で約300,000件のリクエストが送信されました。これらの攻撃は、AIモデルの思考過程を引き出すことを目的としており、AIの安全性や倫理に対する懸念を呼び起こしています。

元記事: https://techcrunch.com/2026/09/10/anthropic-details-distillation-campaigns-from-alibaba-moonshot-ai-and-deepseek/

公開日: Thu, 10 Sep 2026 20:57:30 +0000

この記事はAIアシスト編集により作成されています。