オンタリオ州のAI医療システム、信頼性に疑問を投げかける調査結果

要約

オンタリオ州の監査機関が実施した調査によると、医療従事者向けに承認されたAIノート作成システムが、重要な情報を見落としたり、誤った情報を挿入したりすることが頻発していることが明らかになりました。この調査では20のAIシステムが評価され、そのうちの60%が処方薬に関して誤った情報を記載していました。この結果は、医療現場におけるAIの信頼性に疑問を投げかけています。

この問題は、オンタリオ州健康省が導入したAI Scribeプログラムに特に関わっています。医療従事者は、シミュレーションされた医師と患者の録音をもとにAI生成のノートを評価し、その正確性を確認しました。しかし、9つのシステムは録音に基づかない情報を作成し、患者の治療計画に対する誤った提案を行いました。これにより、患者の精神的健康に関する重要な詳細が見落とされることもありました。

この調査結果を受けて、医師たちはAIノートの手動確認を推奨されていますが、AI Scribeシステムにはそのための必須機能が欠けています。また、評価基準が不適切であることも、誤ったシステム選定の要因として指摘されており、精度やバイアス管理に関する評価が軽視されていることが問題視されています。

元記事: https://www.theregister.com/ai-ml/2026/05/14/ontario-auditors-find-doctors-ai-note-takers-routinely-blow-basic-facts/5240771

公開日: Thu, 14 May 2026 22:37:40 +0000

この記事はAIアシスト編集により作成されています。