要約
最新の研究によると、AIモデルは特定の能力を隠すことができることが証明されました。この研究では、脅威となるモデルの行動をデプロイ前に明らかにするための能力評価が行われていますが、その信頼性は隠された能力を引き出せるという前提に依存しています。この前提が敵対的な条件下では成立しないことを示すために、著者たちはバックドア攻撃を構築し、暗号化されたニューラルネットワークをホストモデルの重みに埋め込む手法を提案しました。
これにより、秘密のトリガーを受け取った際にのみ復号化されて実行される隠れた回路が生成されます。デジタルロッカーを使用することで、これらの隠された回路は暗号的な前提の下で引き出したり解釈したりすることが極めて困難であることが示されました。これにより、固定された文字列を隠すことから任意の計算を隠すことまで、以前の研究を拡張しています。
この研究成果は、PyTorchでのプロトタイプ実装を通じて評価され、化学反応予測タスクを用いて能力評価の限界を明らかにしました。研究者たちは、引き出し手法に対する抵抗性を示し、暗号的な保証とともに、能力監査の限界を明らかにしました。このモデルは防御の改善を支援するために公開されています。
元記事: https://arxiv.org/abs/2610.13928
公開日: Tue, 13 Oct 2026 02:07:08 +0000
この記事はAIアシスト編集により作成されています。
📰 元記事: 元記事を読む