自己成長するAIは「医療機器」として安全なのか

すごい期待がありますが、どうなのでしょう。

 以前から予想されていたことではあるが、医療分野におけるAI(人工知能)技術の進歩はめざましい。2016年にオランダの大学が実施した乳がんの画像診断コンテストの結果は、AIが完全に実用段階に入ったことを印象付けた。

 このコンテンストは、患者から採取したリンパ節の顕微鏡写真を使って、乳がんの転移を見つけ出すというものだが、人間の医者に混じって、AIを使った画像アルゴリズムも競技に参加した。

 時間制限なしの場合、人間の判定とAIの判定はほぼレベルだったが、時間制限ありの場合にはAIの判断が人間の判定を大きく上回った。実際の医療現場では、限られた時間の中で結果を出すことが求められる。これは1つの事例でしかないが、AIを導入した方が明らかに効果的な分野が存在することが改めて立証された。

 病変の組織や細胞を使って各種の診断を行うのは病理医の仕事だが、病理医の世界は、自身の目と経験を頼りにする職人技の世界である。病理医が一人前になるまでには10年の期間が必要ともいわれており、特に日本では慢性的な病理医不足に悩まされている。

 AIの判定が人間を上回るのであれば、病理医は最終的なチェックのみを行い、基本的な判定はAIが行うという手法がかなり現実味を帯びてくる。

 これは病理診断におけるAIの応用だが、画像解析の技術はレントゲンやCTスキャン、あるいはMRI(核磁気共鳴画像装置)など、臨床の分野にも応用できる。基本的な診断の大部分をAIに代替させることも理論的には可能となるだろし、それを実現するAI技術も次々に開発されている。最終的には得られた情報を総合して所見を作成することや、治療方針の立案を行うことも可能となるだろう。

●医療現場でAIをどう位置付ける?

 だが理屈上、医師の業務の多くをAIで代替することができたとしても大きな問題が残る。それは診断の最終的な責任を誰が負うのかという話である。

 この点について厚生労働省は、AI時代においても、全ては医師主導で医療業務を進めるとの方向性を打ち出している。同省の有識者会議がまとめた報告書では、AIの医療業務への応用について以下のような提言が行われた。

・現状ではAIが単独で診断を行っているわけではないので、AIの判定結果には誤りがあり得る

・診断の確定や治療方針の最終的な意思決定は医師が行う

・意思決定の責任も医師が負う

・AI開発には医師が深く関与する

 極めて常識的な内容であり、この考え方に異論を挟む人はほとんどいないだろう。ただAIの進歩が急ピッチで進むことを考えると、次のフェーズにどう対応するのかについても、今から議論しておく必要がありそうだ。

 米国では16年12月に「The 21st Century Cures Act(21世紀医療法)」という法律が施行された。この法律は、イノベーションの進展に合わせ、医薬品や医療機器の開発、審査をスピードアップすることを目的としたものだが、注目すべき点はAIに関連した項目である。いくつかの要件を満たしたAIは、医療機器に該当しないことが明文化されたのである。

 医療機器と認定された場合、メーカーが製品を販売するには、当局の審査を受ける必要がある。役所の審査基準は安全が第一であり、技術の安全性や効果が十分に立証されたものに限定される。つまり医療機器である限り、基本的には現状(医療機器と認定されたときの状態)がベースということならざるを得ない。

 だが、AIの場合にはディープラーニング(深層学習)機能を活用することで、自ら新しいデータを取り込み、能力を向上させることが可能となる。しかもディープラーニングの場合、なぜそのような分析結果になったのか、人間がすぐに判断できないケースも多い。

●医療機器としての品質をどう担保するか

 17年1月、米国のFDA(米国食品医薬品局)が、ベンチャー企業が開発した心臓のMRIデータの解析システムを医療機器として正式に認可したことが話題となった。

 このシステムはディープラーニング技術を用いており、AIがどのような理由で診断を下したのか人間がすぐに知ることはできない。現時点では解析能力の高さが従来基準で評価されたことで認可されたわけだが、この機器は、これからディープラーニングを用いて日々能力を向上させていくことになる。数年後には今とはまったく違った機器に成長しているかもしれない。

 進化したこの機器は、果たして認可された時点における医療機器と同じとものと見なしてよいのかという疑問が出てくる。

 AIを用いた機器類が自己進化し、常に能力を向上させるものだとすると、審査という制度そのものが意味をなくしてしまう。一方で、審査基準にメーカー側が縛られてしまうと、AI技術の発展にブレーキをかけてしまう可能性もあるだろう。

 21世紀医療法の施行に際してはIT企業が猛烈なロビー活動を行い、AIを医療機器から除外する流れを作ったともいわれる。野放図な開発や医療への応用が許容されないのは当然のことだが、IT企業側の主張も理解できる。

 自己学習する機能があり、人間以上の能力を発揮する可能性がある医療用AIについて、その品質をどう担保するのか、今から議論していく必要がありそうだ。またこの話はあらゆる業界にとって共通のテーマでもある。

コメント

タイトルとURLをコピーしました