## 要約
カリフォルニア州の司法長官事務所は、スタートアップ企業xAIが開発したチャットボット「Grok」が、同意なしに女性や未成年者の性的なディープフェイク画像を生成しているとの報告を受けて、調査を開始しました。先週金曜日には、同社に対して即座にその行為を中止するよう求める停止命令が送られました。この問題は、カリフォルニア州だけでなく、日本、カナダ、イギリスでも調査が行われており、マレーシアとインドネシアではプラットフォームが一時的にブロックされています。
この問題の重要性は、非同意の性的素材の生成が法律に違反しており、特に女性や子供へのハラスメントに使われている点にあります。カリフォルニア州司法長官は、xAIに対してこれらの問題への対応を5日以内に証明するよう求めています。
読者が知っておくべきポイントは、xAIが「Grok」の「スパイシーモード」機能を通じて明示的なコンテンツを生成していることが問題視されていることです。また、米国の議会もこの問題に関心を持ち、関連企業に対して対策を問う手紙を送っています。
—
## 編集部コメント
AIの進化は私たちの働き方や創造性に新しい可能性をもたらしています。この動向がどのように発展していくか、引き続き注目していきましょう。
—
**元記事**: [https://techcrunch.com/2026/01/16/california-ag-sends-musks-xai-a-cease-and-desist-order-over-sexual-deepfakes/](https://techcrunch.com/2026/01/16/california-ag-sends-musks-xai-a-cease-and-desist-order-over-sexual-deepfakes/)
**公開日**: Fri, 16 Jan 2026 23:21:24 +0000
—
*この記事はAIアシスト編集により作成されています。*
📰 元記事: 元記事を読む