要約
Anthropicは最新モデルFableを公開しましたが、その制限に対して多くのサイバーセキュリティ研究者が不満を持っています。具体的には、Fableはサイバー関連のリクエストを拒否し、ブログ投稿を読むといった無害なタスクでも制限がかかることがあります。この制限は、Malwareやソフトウェアの脆弱性を防ぐために設けられたものであり、バイオロジーに関する制限も同様の理由からです。
Anthropicは4月にモデルMythosをリリースし、特定の企業に限定して使用されていましたが、最近では15カ国の多くの組織にアクセスを拡大しました。しかし、研究者たちはその制限が雑であると感じており、例えば安全なコードを書いて欲しいと頼むと、サイバーセキュリティ関連の作業とみなされてしまうことがあります。
研究者たちは、現在はまだ初期段階であり、Anthropicが時間をかけてガードレールを進化させるだろうと期待しています。また、サイバーセキュリティ専門家向けのCyber Verification Programに申請することで、制限が緩和される仕組みもあります。このように、サイバーセキュリティの現場ではAIの活用が進んでいますが、適切な制約のバランスを見つけることが重要です。
公開日: Wed, 10 Jun 2026 16:42:00 +0000
この記事はAIアシスト編集により作成されています。
📰 元記事: 元記事を読む