Googleは11月4日、健康分野のAIを評価する包括的な枠組みを公開した。中心となる主張は明快だ。健康に関する回答は正しく聞こえても、安全とは限らず、役に立つとも限らない。だから正確性、安全性、有用性は別々に採点しなければならない。このホワイトペーパーは、Google Healthの臨床評価責任者サラ・モンゴメリー＝テイラーが主導し、外部の健康専門家エリザベス・マクグリンとダナ・ゲルブ・サフランと共同でまとめた。Googleによると、この枠組みはすでに自社モデルの評価に使われており、公開の目的は手法を透明化し、開発者、研究者、臨床医がより信頼できる健康AIツールを構築できるよう支援することだ。
3つの次元に、3通りの異なる測り方
枠組みはまず、健康AIの利用場面を分解する。誰に向けたものか、失敗した場合の結果がどれほど深刻か、誰が審査するかだ。評価は3つの領域に分かれる。正確性は医学的コンセンサス、証拠の裏付け、事実性、臨床推論、文脈への適切さを見て、要約タスクでは出典への接地も加える。安全性は、回答に基づいて行動した場合としなかった場合に生じうる害を、深刻さと発生確率の両面から見る。有用性はヘルスリテラシー、関連性、網羅性、回答を行動に移せるかどうかを見る。測り方も互いに照合し合う3層からなる。選択式ベンチマークで知識を測り、AI自動評価者が文書化された基準で採点し、専門家による人の審査が高リスクの場面を調べ、レッドチーム演習でシステムを試す。3つの手法は、基盤モデルの学習時、製品の構築時、公開後の3段階で走る。この層構造が意味するのは、選択式のスコア1つだけではほとんど何もわからないということだ。本当に高リスクの回答は、人が目を通して確認して初めて合格とみなされる。
枠組みが答えていないのは、まさに最も重要な2点だ
第一に、ホワイトペーパーが公開しているのは手法であって結果ではない。Googleのブログはどのモデルのスコアも示しておらず、合格ラインも引いていないため、読者はこの発表からGoogleのモデルが健康に関する質問に実際にどれほど対応できるかを知ることはできない。第二に、これはGoogleが自社モデルを評価するための手法であり、独立した監査でも認証でも規制当局の承認でもない。他の組織が採用する場合、場面の網羅範囲、データ品質、評価基準が結果を左右する。より地に足のついた注意喚起は、枠組みそのものの中にある。2人の医師が同じ回答を評価すると判断が食い違うことは珍しくない。つまり「専門家による審査」も誤りのない物差しではないということだ。一般のユーザーにとって、この枠組みの直接的な意味は限られている。1回1回の健康に関する回答の質がすぐ変わるわけではない。その価値は供給側にある。OpenAIは以前、80人を超えるメンタルヘルス専門家とともに、AIのメンタルヘルス対話を専門に測る公開ベンチマークMentalHealthBenchを発表した。2つの取り組みを合わせると、「健康AIは良いのか」という問いが漠然とした評判から、分解して再確認できるチェック項目へと変わりつつある。次に注目すべきは、第三者や規制当局が同様の枠組みを採用し、実測結果を公表するかどうかだ。そこまで進んで初めて、一般のユーザーは「検証済み」の健康AIを使えるようになる。
