医用画像診断AIに落とし穴 答えは正しくても考え方が正しいとは限らない 臨床応用に向けた課題を明確化

医用画像診断AIに落とし穴答えは正しくても考え方が正しいとは限らない臨床応用に向けた課題を明確化

2024年2月28日 11:00 | プレスリリース?研究成果

【本学研究者情报】

〇大学院医学系研究科医用画像工学分野
教授　本間経康
助教　曾昱雯

【発表のポイント】

人工知能（础滨）による医用画像诊断の性能は高いとの报告が多数あります。しかし今回、その诊断に至った根拠と専门医の所见との一致度は高いとは限らないことを発见しました。
医学的に妥当でない不适切な根拠は、思わぬ结果を招く危険があります。
このような危険性を认识し、対策することで、より安全性の高い础滨の临床応用が期待されます。

【概要】

深层学习^（注^1）などの人工知能（础滨）は进歩が着しく、医用画像诊断への応用が进められています。しかし、础滨が训练データから何を学んだかなどの详细はこれまで十分に解明されていませんでした。

东北大学大学院医学系研究科医用画像工学分野の曾昱雯助教らの研究グループは、深层学习が医用画像中のどこに注目して診断したのかを可視化する技術を用いて、その注目領域の医学的な妥当性を詳しく解析しました。先行研究で高性能を達成した深层学习モデルの注目領域と、医師の診断に基づく重要領域を比較した結果、深层学习モデルの高い分類性能に反して、その注目領域の30%～80%は医学的な重要領域と無関係であることがわかり、両者に大きな齟齬があることが明らかになりました。本研究はAIによる医用画像診断の医学的な妥当性に懸念があることを示しており、今後、新たな訓練法の開発など、さらなる検証と対策を進めることで、より安全性の高いAIの臨床応用が期待されます。

本研究成果は、2024年2月9日付で医学に関する画像分析の専門誌Journal of Imaging Informatics in Medicineに掲載されました。