Discord、AIモデレーションのバグで8,000人が誤BAN！

要約

Discordは、AIによるモデレーションシステムのバグにより、過去2ヶ月間に8,000人以上のユーザーが無害な画像を理由に誤って禁止されていたことを認めました。スプレッドシートやチェスボード、ゲームテクスチャなどが有害コンテンツとして誤診断された結果です。この問題は5月から続いており、週末には追加で200人が禁止される事態となり、現在は影響を受けたアカウントの復元作業が進められています。

この事件は、AI支援モデレーションにおける課題を浮き彫りにしています。多くのプラットフォームが違法または虐待的な素材を自動的に特定するためにAIシステムに依存する中、誤検知が発生することのリスクが高まっています。Discordは、アップロードされたコンテンツを有害素材のデータベースと照合することで自動的に安全性を確保しようとしていますが、バグにより影響を受けたアカウントが即座に禁止される事態が発生しました。

ユーザーからは、無実の理由でアカウントを失うことに対する不満が広がっています。特に、仕事やゲームコミュニティ、遠距離の社交にDiscordを利用しているユーザーにとって、AIによる誤った判断が深刻な影響を及ぼす可能性があると指摘されています。Discordは今後、再発防止のための対策を進める意向を示しています。

元記事: https://techcrunch.com/2026/07/07/discord-admits-ai-moderation-bug-wrongfully-banned-users-over-harmless-images/

公開日: Tue, 07 Jul 2026 19:28:38 +0000

この記事はAIアシスト編集により作成されています。