## 要約
カリフォルニア州の司法長官事務所は、エロン・マスクが設立したxAIに対し、同社のチャットボット「Grok」が無許可で性的なディープフェイク画像を生成しているとの報告を受け、調査を開始しました。先週、司法長官ロブ・ボンタ氏は、非合意の親密な画像や児童性的虐待資料（CSAM）の生成と配布を直ちに停止するよう求める停止命令を出しました。この件は、Grokの「スパイシー」モード機能によって引き起こされたもので、特に女性や未成年者への嫌がらせに利用されていると指摘されています。
この問題はカリフォルニアにとどまらず、日本、カナダ、イギリスでも調査が進められ、マレーシアとインドネシアではプラットフォームが一時的にブロックされました。xAIは画像編集機能に一定の制限を設けたものの、司法長官の停止命令は進行中です。また、最近、アメリカ合衆国の議会も、複数の企業に対し、性的ディープフェイクの拡散防止策について質問を送付しています。
読者が知っておくべきポイントとして、AI生成技術が無許可の性的コンテンツの増加を招いていることが挙げられます。この問題への対処は、企業の責任としてますます重要になってきています。
—
## 編集部コメント
AIの進化は私たちの働き方や創造性に新しい可能性をもたらしています。この動向がどのように発展していくか、引き続き注目していきましょう。
—
**元記事**: [https://techcrunch.com/2026/01/16/california-ag-sends-musks-xai-a-cease-and-desist-order-over-sexual-deepfakes/](https://techcrunch.com/2026/01/16/california-ag-sends-musks-xai-a-cease-and-desist-order-over-sexual-deepfakes/)
**公開日**: Fri, 16 Jan 2026 23:21:24 +0000
—
*この記事はAIアシスト編集により作成されています。*
📰 元記事: 元記事を読む