KI in der Medizin – Potential, Risiko und die Rolle der Physik

Download: Physikkonkret 79 - KI in der Medizin – Potential, Risiko und die Rolle der Physik [PDF]

• KI ist Realität: Sie wird im Gesundheitswesen bereits intensiv genutzt, getrieben durch permanent wachsende Datenmengen.
• Physik ist die Grundlage: Bildgebung, Sensorik sowie bestimmte Therapien und KI-Modelle beruhen auf physikalisch-mathematischen Prinzipien; Medizin und Physik sind untrennbar verknüpft.
• Das Blackbox-Problem macht eine kritische Prüfung unverzichtbar: KI liefert Ergebnisse, aber meistens nicht den Weg dorthin; Bias und Halluzinationen sind bei klinischen Entscheidungen inakzeptabel.
• Physiker:innen stehen im Mittelpunkt: Wer Medizintechnik versteht, Daten erzeugt, analysiert und mit Messunsicherheiten umgeht, kann KI in der Medizin nicht nur einsetzen, sondern kritisch prüfen.

Künstliche Intelligenz (KI) – Algorithmen, die mit großen Datenmengen trainiert werden – ist längst in unserem Alltag angekommen und wird immer mehr zum Bestandteil unseres Lebens. Dies betrifft auch zunehmend das Gesundheitswesen: spezialisierte KI-Systeme oder große Sprachmodelle können riesige Mengen an medizinischen Daten, etwa Computertomografie (CT)-Bilder oder Krankenakten, in Sekundenschnelle analysieren [1]. Das ist auch dringend nötig, da die Menge an medizinischen Daten permanent wächst. Allein in Deutschland wurden im Jahr 2023 etwa 125 Millionen Röntgenuntersuchungen [2] durchgeführt.

Der Einsatz von KI-Werkzeugen unterliegt mehreren Regelwerken: vor allem der Medical Device Regulation (MDR) [3] und dem EU Artificial Intelligence Act (AI Act) [4]. Im Bereich der Strahlenmedizin muss zusätzlich die Einhaltung der Anforderungen des Strahlenschutzes [5] sichergestellt werden. Auch das Thema Sicherheit von medizinischen Daten spielt in diesem Rahmen eine zentrale Rolle. Diese teils unterschiedlichen Anforderungen benötigen eine gute Qualitätskontrolle der gemessenen Daten und der KI-Methoden. Ein zentrales Problem ist, dass die KI-Modelle, anders als ein physikalisches Modell, dessen Vorhersagen aus nachvollziehbaren Gleichungen folgen, oft als sogenannte „Blackbox“ fungieren: Sie liefern zwar schnelle Ergebnisse, der genaue Weg zu diesen bleibt jedoch im Dunkeln. Dies führt zu großen Herausforderungen im Klinikalltag – beispielsweise ist das Risiko einer systematischen Verzerrung, eines sogenannten Bias, in den Ergebnissen besonders hoch. Wenn etwa die KI nur mit den Daten einer bestimmten Bevölkerungsgruppe trainiert wurde, funktioniert sie bei anderen Patient:innen womöglich schlechter. Bei klinischen Entscheidungen sind Fehlinterpretationen oder erfundene Ergebnisse (Halluzinationen) der KI inakzeptabel, aber leider keine Ausnahme.

Um diese Risiken einschätzen und angemessen darauf reagieren zu können, braucht es Expert:innen, die die zugrundeliegende Technik wirklich verstehen. Hier sind Physiker:innen prädestiniert: Sie kennen die physikalisch-mathematischen Prinzipien, messen, kalibrieren die Geräte und erzeugen, analysieren und bereiten Daten auf – und das von bildgebenden Verfahren bis hin zu Biosignalen. Eine besonders formalisierte Ausprägung dieser Rolle sind in der Strahlenmedizin Medizinphysik-Expert:innen, kurz MPE [6]. Die Rolle und der Berufsalltag von MPE verändern sich, wie viele andere Berufe auch, durch die KI.

Ein:e MPE arbeitet interdisziplinär mit medizinischem Personal, IT, Geräteherstellern und Rechtsabteilung zusammen (siehe Abb.) und ist für den Strahlenschutz und die technische Qualitätssicherung in der Klinik oder Praxis verantwortlich. Er oder sie sorgt dafür, dass medizinische Geräte einwandfrei und sicher funktionieren. Mit dem Einzug der KI erweitert sich dieses Aufgabenfeld erheblich. Zu den neuen Kernaufgaben gehört nun auch die Qualitätskontrolle von KI-Systemen. Der/Die MPE muss sicherstellen, dass am Ende das klinische Ergebnis an dem Patienten oder der Patientin korrekt und verlässlich ist. Dafür werden von den MPE spezielle Validierungsverfahren entwickelt und Tests durchgeführt.

Zu diesem Zweck werden sogenannte Phantome, also künstliche Nachbildungen des menschlichen Körpers, sowie klinikinterne Datenbanken genutzt, um die Systeme vor dem Einsatz an Patient:innen entsprechend zu prüfen.

Genau hier zeigt sich die besondere Stärke der Medizinphysik: Analytisches Denken, der souveräne Umgang mit Modellen, Messunsicherheiten und Fehlerquellen sowie ein fundiertes physikalisch- mathematisches Verständnis sind ideale Voraussetzungen, um KI-Werkzeuge nicht nur einzusetzen, sondern kritisch zu prüfen. Physikalisches Verständnis hilft sowohl bei der Bewertung der Daten als auch bei der Integration von physikalischen Modellen in das maschinelle Lernen (sog. physics-informed learning [7]), um eine vertrauenswürdige KI für die Medizin zu etablieren [8].

---

Fußnoten und Quellen

[1] siehe auch Physikkonkret Ausgabe 70, Künstliche Intelligenz – Die Bedeutung von Daten https://www.dpg-physik.de/veroeffentlichungen/publikationen/physikkonkret/pk70_kuenstliche-intelligenz

[2] https://www.bfs.de/DE/themen/ion/anwendung-medizin/diagnostik/roentgen/haeufigkeit-exposition.html (abgerufen am: 28.04.2026)

[3] Medical Device Regulation, Regulation (EU) 2017/745

[4] EU Artificial Intelligence Act, Regulation (EU) 2024/1689

[5] EU Basic Safety Standard, Directive (EU) 2013/59/EURATOM

[6] https://dgmp.de/ueber-uns/ (abgerufen am: 01.05.2026)

[7] Karniadakis, G.E., Kevrekidis, I.G., Lu, L. et al. Physics-informed machine learning. Nat Rev Phys 3, 422–440 (2021). https://doi.org/10.1038/s42254-021-00314-5  

[8] siehe auch Physikkonkret Ausgabe 73, Physiknobelpreis 2024: Physik in der Künstlichen Intelligenz https://www.dpg-physik.de/veroeffentlichungen/publikationen/physikkonkret/pk73_physiknobelpreis_ki

Die DPG dankt ihren Autor:innen Eric Einspänner (Forschungscampus STIMULATE), Maria Steinberger (LMU Klinikum), Bastian Breustedt (Bundesamt für Strahlenschutz), Thomas Wendler (Universität Augsburg) und  Tobias Schäffter (Physikalisch-Technische Bundesanstalt).