要約
OpenAIは火曜日に、同社の新しいAIモデル「Astra」が「重要な」サイバー能力の閾値に達したことを発表しました。このモデルは、リアルなソフトウェアにおける未知の脆弱性を独立して見つけ出し、悪用することができる能力を持っています。Astraは一般公開される予定ですが、その高度なサイバー能力は、Daybreak Blueという早期アクセスプログラムの選ばれたパートナーにのみ提供されることが決まっています。
この発表は、シリコンバレーが先進的なサイバーセキュリティ能力を持つAIモデルのリスクを管理しようと奮闘している中で行われました。OpenAIは、Astraの開発においては一時的にトレーニング作業を中断しており、追加の安全対策を講じた後に作業を再開したと述べています。特に、ユーザーがAstraに対して実際のソフトウェアシステムの脆弱性を見つける手助けを求めた場合には、モデルが応じないようにする新しい「ミスアラインメントモニター」を実装しています。
また、Daybreakプログラムに参加するパートナー企業は、Astraのより強化されたサイバー能力を持つバージョンに早期アクセスできるため、これにより防御力を強化できることが期待されています。OpenAIは、政府機関とも密接に連携し、Astraの能力について情報を共有し、適切なアクセスを確保する取り組みを行っています。これにより、企業や政府が新しいAI技術を安全に活用できる環境を整えることを目指しています。
元記事: https://www.wired.com/story/openai-astra-first-ai-model-with-critical-cyber-abilities/
公開日: Tue, 01 Sep 2026 20:00:00 +0000
この記事はAIアシスト編集により作成されています。
📰 元記事: 元記事を読む