Google hat am 4. November seinen vollständigen Rahmen zur Bewertung gesundheitsbezogener KI offengelegt. Die Kernthese ist direkt: Auch eine gesundheitliche Antwort, die korrekt klingt, ist nicht unbedingt sicher oder nützlich – Genauigkeit, Sicherheit und Nützlichkeit müssen deshalb getrennt geprüft werden. Das Whitepaper wurde von Sarah Montgomery-Taylor, Clinical Evaluation Lead bei Google Health, gemeinsam mit den externen Gesundheitsexpertinnen Elizabeth McGlynn und Dana Gelb Safran verfasst. Google zufolge wird der Rahmen bereits zur Bewertung eigener Modelle genutzt; die Veröffentlichung soll die Methodik transparent machen und Entwickler, Forschende und Kliniker dabei unterstützen, vertrauenswürdigere Gesundheits-KI zu bauen.
Drei Dimensionen, drei unterschiedliche Prüfmethoden
Der Rahmen zerlegt zunächst einen Gesundheits-KI-Einsatz: Wem dient er, wie schwerwiegend sind die Folgen eines Fehlers, wer prüft ihn. Die Bewertung gliedert sich in drei Bereiche: Genauigkeit betrachtet medizinischen Konsens, Evidenz, Faktentreue, klinisches Schlussfolgern und kontextuelle Angemessenheit, bei Zusammenfassungen zusätzlich die Quellenverankerung; Sicherheit betrachtet den Schaden, der entstehen kann, wenn Nutzer nach einer Antwort handeln oder nicht handeln, unter Berücksichtigung von Schwere und Wahrscheinlichkeit; Nützlichkeit betrachtet Gesundheitskompetenz, Relevanz, Vollständigkeit und Umsetzbarkeit der Antwort. Auch die Prüfmethoden sind dreistufig und ergänzen sich: geschlossene Frage-Benchmarks messen Wissen, KI-Autorater bewerten nach schriftlichen Rubriken, und Experten prüfen Hochrisiko-Szenarien von Hand und testen das System gezielt mit Red Teaming. Die drei Methoden laufen in drei Phasen: beim Training des Basismodells, beim Aufbau des Produkts und nach dem Launch. Die Staffelung bedeutet: Ein einzelner Multiple-Choice-Wert sagt wenig aus; eine wirklich riskante Antwort muss von Menschen gesehen und geprüft worden sein, um als bestanden zu gelten.
Was der Rahmen nicht beantwortet, sind ausgerechnet die beiden wichtigsten Punkte
Erstens veröffentlicht das Whitepaper eine Methode, keine Ergebnisse: Googles Blog nennt keine Punktzahlen für Modelle und zieht keine Bestehensgrenze, sodass Leser aus dieser Veröffentlichung nicht ablesen können, wie gut Googles Modelle bei Gesundheitsfragen tatsächlich abschneiden. Zweitens ist dies Googles Methode zur Bewertung eigener Modelle – keine unabhängige Prüfung, keine Zertifizierung und keine behördliche Zulassung; wenn andere Stellen sie übernehmen, beeinflussen Szenarioabdeckung, Datenqualität und Bewertungsstandards die Ergebnisse. Die ehrlichere Erinnerung kommt aus dem Rahmen selbst: Wenn zwei Ärzte dieselbe Antwort bewerten, gehen ihre Urteile häufig auseinander, was bedeutet, dass auch „Expertenprüfung“ kein fehlerfreies Maß ist. Für normale Nutzer ist die unmittelbare Bedeutung des Rahmens begrenzt – er verändert nicht sofort die Qualität einer einzelnen Gesundheitsantwort; sein Wert liegt auf der Angebotsseite: OpenAI hat gemeinsam mit über 80 Expertinnen und Experten für psychische Gesundheit den offenen Benchmark MentalHealthBench veröffentlicht, der gezielt KI-Gespräche zur psychischen Gesundheit misst; zusammengenommen verwandeln beide Ansätze die Frage „Ist Gesundheits-KI gut?“ von einem pauschalen Ruf in überprüfbare Prüfpunkte. Als Nächstes ist zu beobachten, ob Dritte oder Regulierungsbehörden einen ähnlichen Rahmen übernehmen und Messergebnisse veröffentlichen – erst dann können normale Nutzer wirklich „geprüfte“ Gesundheits-KI nutzen.
