要約
OpenAIは、コミュニティの安全を守るために新たな取り組みを発表しました。具体的には、暴力防止とコミュニティ安全に関する新しい「Community Safety Report」を作成し、未成年者向けの銃器コンテンツに対する制限を強化します。これに伴い、2026年第3四半期には200件以上の法執行機関への通報を行い、暴力的な陰謀を阻止するのに貢献してきました。
AI企業は法執行機関や家族、メンタルヘルスの専門家と協力しながら、重要な役割を果たすべきだと認識しています。OpenAIは、システムの強化や透明性の確保を通じて、人々やコミュニティを保護するための取り組みを進めています。今後発表されるCommunity Safety Reportでは、暴力関連のリスクやその対処法について具体的なデータを共有し、効果的な対策を明らかにする予定です。
さらに、ChatGPTの応答に関するポリシーを見直し、過去の大量攻撃に関する詳細な情報を提供しないように制限を強化します。これにより、利用者が暴力の兆候を理解し、今後の暴力を防ぐための知識を得られる環境を整えます。特に、18歳未満の利用者に対しては、より慎重な対応を行う方針です。
元記事: https://openai.com/index/community-safety-report-and-new-protections-for-teens
公開日: Fri, 30 Oct 2026 09:00:00 GMT
この記事はAIアシスト編集により作成されています。
📰 元記事: 元記事を読む