「診断は全員正解」医療AIの真の勝者を分けたのは“安全性”だった

医療AIの進化は、私たちが想像するよりも速いスピードで進んでいます。最近、非常に興味深い実験結果が話題になりました。13種類のAIモデルに医療相談を行わせたところ、なんと全てのモデルが195回の診断をすべて正解させたのです。

「AIが医師の代わりになる日は近い」と感じさせる結果ですが、実はこの実験の真の焦点は『診断能力』ではありませんでした。今回は、この実験が示唆する「診断精度のコモディティ化」と、これからの医療AIにおいて最も重要視されるべき「安全性」という評価軸について深く掘り下げてみたいと思います。

195回のコンサルテーションが証明した「診断精度の均衡」

今回実施された実験では、オーストラリアのGP（一般開業医）向け研修用ツールである「doctorfoo.ai」が活用されました。5つの症例に対し、13のAIモデルがそれぞれ3回ずつ、合計195回のコンサルテーションを実施するという内容です。

驚くべきことに、すべてのモデルが195回すべての症例において正しい診断を下しました。かつては「AIが正確な診断を下せるか」が議論の主戦場でしたが、現在の主要なLLM（大規模言語モデル）にとって、標準的な医療知識に基づく診断精度の確保は、もはや「コモディティ（当たり前の機能）」になりつつあると言えるでしょう。つまり、単に「診断が当たる」というだけでは、モデルの優劣を判断できなくなっているのです。

診断能力だけでは語れない「実用性の壁」

では、優秀なAIとそうでないAIを分けるのは何なのでしょうか？今回の実験で明らかになったのは、診断の正確さではなく「安全性」こそがモデル間の性能差を分ける決定的な要因だということです。

専門家の間でも、「AIの医療診断能力は既に一定水準に達しているが、実際の臨床現場で求められる『安全性』についてはモデル間で大きな差がある」という指摘がなされています。具体的には、以下のような要素が重要視されています。

• ハルシネーション（幻覚）の回避: 事実に基づかない情報を自信満々に提示しないか。
• 不適切な助言の防止: 医療的なエビデンスに基づかないアドバイスや、危険な処方提案をしていないか。
• 対話プロセスの安全性: 患者とのやり取りにおいて、安全な対話フローを維持できているか。

診断が正解であっても、そのプロセスで危険な情報の提示や、誤った検査指示が含まれていれば、実際の医療現場でそのAIを採用することはできません。つまり、医療AIの評価指標は「答えの正しさ」から「回答に至るまでのプロセスの安全性」へとシフトしているのです。

「価格＝品質」ではないという残酷な現実

興味深いのは、コミュニティ内で議論されている「価格と品質」の関係性です。実験結果を受け、「価格が必ずしも品質（安全性）を保証しない」という点に多くの関心が寄せられています。高コストなモデルであればあるほど安全だとは限らず、コストパフォーマンスや実用性という観点から、AIモデルのガードレールや安全設定がどのように機能しているかを精査する必要性が浮き彫りになりました。

私たちエンジニアや医療DXに関わる専門家にとって、今後は単なる精度のベンチマークだけでなく、こうした「安全ガードレール」の堅牢さをどう評価し、実装するかが鍵となります。どのような症例が「トラップ（罠）」として設定されていたのか、またどのような項目で安全性の差が出たのかといった、より詳細な技術的深掘りが今後さらに求められるでしょう。

まとめ：AI医療の未来は「安全なガードレール」にある

今回の実験は、医療AIが新たなフェーズに突入したことを明確に示しています。「賢さ」を競う時代は終わり、これからは「いかに安全に、そして一貫性を持って医療現場をサポートできるか」が問われる時代です。

AIモデルを選択する際、私たちは「どれだけ正解を出せるか」という指標を一旦脇に置き、「どれだけ失敗しないか（安全性を担保できるか）」という視点を評価の最優先事項に据えるべきではないでしょうか。医療現場への導入を検討されている方は、ぜひ自身のプロジェクトにおいても、診断精度だけでなく、安全性をテストするための独自ベンチマークの導入を検討してみてください。