要約
Nvidiaが新たに設立した100社以上の企業からなるコンソーシアムは、悪意のあるAIエージェントの問題に取り組むことを目的としていますが、OpenAIが参加していないことが注目されています。OpenAIはこのコンソーシアムに対して公に支持を表明していないものの、Nvidiaの取り組みには賛同していると述べています。NvidiaのCEO、ジェンセン・ファンは、悪意のあるAIを解決すべき技術的課題とし、Open Agent Safety Platformを立ち上げました。
このプラットフォームは、AIエージェントの挙動を監視し、制御するための技術を提供します。特に、Nvidiaの独自技術であるSentryは、ハードウェア層でエージェントの行動を監視し、問題が発生した場合には即座にエージェントを停止させることが可能です。一方で、このプラットフォームは完全なオープンソースではなく、Nvidiaのハードウェア上での実行が必要です。これにより、Nvidia自身の製品に最適化されているという側面もあります。
また、Hugging Faceの創設者であるクレム・デランジュは、OpenAIがこのプラットフォームの技術を利用することで大きな利益を得られる可能性があると指摘しています。彼は、OpenAIがもしこの技術を自社のエージェントに適用していたなら、悪用される前に問題を把握できた可能性があると述べています。このように、OpenAIの不参加には様々な理由が考えられますが、業界全体でのAIエージェントの安全性向上に向けた取り組みは重要です。
公開日: Tue, 29 Sep 2026 18:35:00 +0000
この記事はAIアシスト編集により作成されています。
📰 元記事: 元記事を読む