OpenAI、新機能「Trusted Contact」で自傷行為に対処

要約

OpenAIは、新機能「Trusted Contact」を発表しました。この機能は、ユーザーが自傷行為に関連する発言をした場合に、信頼できる第三者に通知を送るものです。ユーザーは、家族や友人などの信頼できる連絡先をアカウント内で指定でき、会話が自傷行為に向かう場合には、その連絡先に連絡を取るよう促されます。さらに、連絡先には自動通知が送信され、ユーザーの様子を確認するよう促します。

この機能の導入は、OpenAIが自社のチャットボットと対話した後に自殺した人々の家族からの訴訟に直面していることを背景にしています。OpenAIは、危険な兆候に対処するために、オートメーションと人間のレビューを組み合わせて対応しており、通知を受け取った際には必ず人間が確認を行うと述べています。

「Trusted Contact」はオプション機能であり、複数のChatGPTアカウントを持つことが可能です。OpenAIは、AIシステムが困難な瞬間に人々を支援するための取り組みの一環としてこの機能を開発したと述べています。今後も医療従事者や研究者、政策立案者と連携し、AIシステムの改善に努める意向を示しています。

元記事: https://techcrunch.com/2026/05/07/openai-introduces-new-trusted-contact-safeguard-for-cases-of-possible-self-harm/

公開日: Thu, 07 May 2026 20:20:20 +0000

この記事はAIアシスト編集により作成されています。