要約
Metaの契約者たちが、競合するチャットボットに対して自殺や性的な問題、薬物使用などの高リスクなテーマについての反応を探るため、未成年者として振る舞うよう指示されていたことが明らかになりました。このプロジェクトは、Metaの契約会社Covalenによって管理され、最近では2023年4月21日まで活動していました。具体的には、労働者は18歳未満の偽アカウントを作成し、競合のチャットボットに対して書かれたプロンプトや画像を送信し、その反応をスプレッドシートにコピーしていました。
このテストは、OpenAIのChatGPT、GoogleのGemini、Character.AIをターゲットにしており、45,000以上のプロンプトが競合のチャットボットに送信されました。プロンプトの内容は、子供やティーンエイジャーの視点から書かれた危機的状況に関するもので、特に自殺や自己傷害、摂食障害に関するものが多く含まれていました。Metaはこのプロジェクトを「包括的なAI安全性ベンチマーキング」と位置付けており、モデル比較やコンプライアンスのための重要なデータセットを提供したと説明しています。
Metaはこの取り組みを業界標準の安全テストとし、批判を否定していますが、契約者たちはこの方法が大企業にしては奇妙であると感じていました。チャットボットが明確に拒絶すべき反応を引き出すための粗雑で繰り返しの試みが多く、技術の倫理や安全性についての疑問を呼び起こしています。
元記事: https://www.wired.com/story/meta-contractors-pretending-to-be-teens-chatbot-testing/
公開日: Mon, 29 Jun 2026 21:49:26 +0000
この記事はAIアシスト編集により作成されています。
📰 元記事: 元記事を読む