Jerusalem, 25. Oktober 2026 (TPS-IL) — Modelle künstlicher Intelligenz können unnötige medizinische Tests empfehlen, selbst wenn Patienten wahrscheinlich nicht davon profitieren, wobei die Wahrscheinlichkeit je nach verwendetem Modell stark variiert, wie eine israelische Studie ergab. Die Unterschiede waren in Fällen am größten, in denen Ärzte selbst über das angemessene Vorgehen uneins waren.

Die von Clalit Health Services und der Ben-Gurion-Universität des Negev durchgeführte Studie evaluierte sechs Modelle künstlicher Intelligenz, um festzustellen, ob sie erkennen können, wann ein medizinischer Eingriff unbegründet ist. Die Forscher stellten fest, dass die Modelle in 5,4 % der Fälle, in denen ein Eingriff nicht gerechtfertigt war, unnötige Tests oder Behandlungen empfahlen, während sie in 0,6 % der Fälle, in denen ein Eingriff erforderlich war, fälschlicherweise von der notwendigen Versorgung abrieten.

Die Ergebnisse verdeutlichen eine potenzielle Schwachstelle bei den Bemühungen von Gesundheitsdienstleistern, künstliche Intelligenz zur Unterstützung medizinischer Entscheidungen einzusetzen: Modelle können insgesamt gut abschneiden, aber stark unterschiedliche Empfehlungen abgeben, wenn medizinische Evidenz oder professionelle Leitlinien uneindeutig sind.

Unnötige Tests können harmlose Auffälligkeiten aufdecken, die zu weiteren Untersuchungen, Überweisungen und manchmal invasiven Eingriffen oder Operationen führen. Eine solche Nachsorge kann Angst auslösen, Ressourcen des Gesundheitssystems verbrauchen und Patienten vermeidbaren Risiken aussetzen. Gleichzeitig kann übermäßige Vorsicht bei Tests schädlich sein, wenn sie dazu führt, dass notwendige Versorgung vorenthalten wird.

„Patienten haben das Gefühl, dass ein weiterer Test Sicherheit schafft, aber ein unnötiges MRT des Rückens zeigt manchmal einen Bandscheibenvorfall oder Verschleiß, der auch bei gesunden Menschen ohne jegliche Schmerzen vorkommt, und von dort kann der Weg zu Angst, zusätzlichen Tests und sogar unnötigen Behandlungen kurz sein“, sagte Dr. Dean Ariel, Facharzt für Allgemeinmedizin bei Clalit Health Services und Forscher für medizinische künstliche Intelligenz, der die Studie leitete.

„Die Sprachmodelle haben Medizin aus unseren Texten gelernt, einschließlich unserer weniger guten Gewohnheiten, und wir wollten prüfen, ob sie auch die Fähigkeit verinnerlicht haben, sich bei Bedarf zurückzuhalten“, fügte Ariel hinzu. „In den meisten Fällen wissen sie, wie man stoppt, und sie geraten vor allem dort ins Straucheln, wo wir Ärzte zögern.“

Die Forscher entwickelten medizinische Szenarien auf der Grundlage von Empfehlungen der Initiative „Choosing Wisely“, einer internationalen Kampagne, die 2012 gestartet wurde, um von medizinischen Tests und Behandlungen abzuraten, die wenig oder gar keinen Nutzen bringen. Sie testeten sechs von Google, Anthropic und OpenAI entwickelte Sprachmodelle und analysierten Tausende von Antworten.

Die Szenarien stellten Situationen gegenüber, in denen derselbe Test unnötig oder essenziell sein könnte. Ein junger Mann, der nach dem Verrücken von Möbeln Rückenschmerzen hat, benötigt beispielsweise in der Regel keine sofortige Bildgebung. Im Gegensatz dazu benötigt eine Frau mit Brustkrebs in der Vorgeschichte, die neue Rückenschmerzen entwickelt, die sich nachts verschlimmern, möglicherweise eine Bildgebung, um ein potenziell ernstes Problem abzuklären.

Wenn Ärzte uneins sind

Die Modelle taten sich bei zwei Arten von Empfehlungen am schwersten. Sie schlugen in 42,8 % der Antworten unnötige Schilddrüsen-Ultraschalluntersuchungen bei kleinen Knoten vor und in 28,3 % der Antworten bei Niedrigrisikopatienten routinemäßige Elektrokardiogramme, die die elektrische Aktivität des Herzens aufzeichnen.

Diese Ergebnisse unterstreichen die Schwierigkeit zu bestimmen, wann ein Test gerechtfertigt ist. Medizinische Organisationen unterscheiden sich in ihren Empfehlungen zur Abklärung einiger kleiner Schilddrüsenknoten. Ebenso hängt die Notwendigkeit eines Elektrokardiogramms von den Symptomen und den klinischen Umständen eines Patienten ab, selbst wenn das Gesamtrisiko gering ist.

Die Unterschiede zwischen den Modellen waren in Szenarien besonders auffällig, in denen medizinisches Fachpersonal über das angemessene Vorgehen uneins war. Ein Modell empfahl in weniger als 10 % der Antworten einen unnötigen Test, während ein anderes dies in 80 % der Antworten auf dieselben Szenarien tat. Die Ergebnisse deuten darauf hin, dass die Wahl des Modells künstlicher Intelligenz den Rat, den Patienten in medizinisch unsicheren Situationen erhalten, erheblich beeinflussen könnte.

„Wir hören die Antwort eines Sprachmodells als eine einzige maßgebliche Stimme, so als gäbe es eine ‚Haltung der künstlichen Intelligenz‘“, sagte Dr. Guy Lavan, leitender akademischer Forscher am Institut für Wirtschaftsingenieurwesen und Management der Ben-Gurion-Universität.

Lavan äußerte auch Bedenken, dass Sprachmodelle ihre Empfehlungen ändern könnten, wenn Nutzer auf der Durchführung eines Tests bestehen, was möglicherweise ihre Fähigkeit untergräbt, eine einheitliche medizinische Orientierung zu geben.

Die Forscher sagten, Systeme künstlicher Intelligenz sollten nicht nur danach bewertet werden, wie gut sie notwendige Behandlungen erkennen können, sondern auch danach, ob sie in der Lage sind festzustellen, wann Tests oder Behandlungen unbegründet sind. Da die Studie jedoch Antworten auf konstruierte medizinische Szenarien untersuchte, lässt sich daraus nicht ableiten, wie die Modelle bei der Beratung tatsächlicher Patienten abschneiden würden.

Die Studie wurde in der von Experten begutachteten Fachzeitschrift Annals of Internal Medicine veröffentlicht.