Der Forschungsbereich KI-Ethik am IMDE untersucht, wie der Einsatz von KI in der Medizin ethisch verantwortungsvoll zu gestalten ist.
Im Zentrum steht dabei die ärztliche Verantwortung. Ein zentrales Anliegen des Instituts ist es, Verantwortungspflichten und deren Grenzen für den klinischen Alltag genau abzustecken: Was schulden Ärztinnen und Ärzte ihren Patient:innen, wenn eine Entscheidung auf dem Output eines nicht gänzlich durchschaubaren Systems beruht? Welches Maß an Prüfung lässt sich im Behandlungsalltag realistisch erwarten, wo endet die individuelle Zurechenbarkeit, und wie verteilt sich Verantwortung zwischen Behandelnden, Einrichtungen und Herstellern?
Eng damit verbunden sind die normative Begründung von Erklärbarkeitsanforderungen, die epistemischen Voraussetzungen ärztlicher Entscheidungen und deren Kontextabhängigkeit: Klinische Anwendungsfelder unterscheiden sich normativ relevant, etwa hinsichtlich Zeitdruck und Eingriffstiefe.
Weitere Themenfelder sind die ärztliche Entscheidungsunterstützung durch KI-Systeme, die Bewertung KI-basierter Biomarker hinsichtlich Validierung, Generalisierbarkeit und Fairness, die Rolle von Patient:innen in KI-gestützten Prozessen sowie der Erhalt ärztlicher Kompetenz bei zunehmend automatisierten Abläufen.
Der Bereich verbindet normative Analyse mit empirischer Forschung und wirkt an fachgesellschaftlichen Standards für die Onkologie mit.
Projekte
KI-gestützte Einblicke in Patientenentscheidungen
Die Teilnahme an klinischen Studien ist eine wesentliche Voraussetzung für den medizinischen Fortschritt. Dennoch entscheiden sich viele Krebspatient:innen gegen eine Studienteilnahme oder brechen diese vorzeitig ab. Die Beweggründe bleiben häufig unklar, da klassische Forschungsansätze vor allem Patient:innen erreichen, die dem Gesundheitssystem und der Forschung bereits offen gegenüberstehen. Das Projekt untersucht mithilfe künstlicher Intelligenz öffentlich verfügbare Beiträge aus Internetforen, Blogs und sozialen Medien, um bislang wenig sichtbare Perspektiven systematisch auszuwerten. Ziel ist es, psychosoziale, strukturelle und kommunikative Barrieren für die Teilnahme an klinischen Studien sowie Gründe für Studienabbrüche zu identifizieren und neue Hypothesen für die sozialwissenschaftliche Forschung zu entwickeln. Langfristig soll das Projekt dazu beitragen, die Rekrutierung und den Verbleib von Patient:innen in klinischen Studien besser zu verstehen und patientenzentrierte Strategien zur Förderung der Studienteilnahme zu entwickeln.
IMDE Ansprechpartner
MEDAL (MEDical Imaging AGI’s Last Exam)
Das Projekt „MEDical Imaging AGI’s Last Exam“ (MEDAL) zielt darauf ab, einen Benchmark der nächsten Generation zu schaffen, um die tatsächlichen Fähigkeiten von KI-Systemen im Bereich der medizinischen Bildgebung bei der Bewältigung der größten und anspruchsvollsten klinischen bzw. bildgebungsbezogenen Aufgaben zu bewerten. Dies würde die Forschungskapazitäten der KI-Community auf die Fragen lenken, die weltweit von größter Bedeutung sind und im Rahmen einer offenen, weltweiten öffentlichen Konsultation ermittelt wurden. Dieses interdisziplinäre und stark international ausgerichtete Projekt arbeitet eng mit unserem Ethikteam zusammen, um sicherzustellen, dass Themen wie Relevanz, Verteilungsgerechtigkeit, Datenmanagement und -transfer sowie Neutralität aus ethischer Perspektive angemessen berücksichtigt werden.
Das Projekt wurde 2026 ins Leben gerufen und wird vom Deutschen Krebsforschungszentrum geleitet.
IMDE Ansprechpartner
ONCOverse
WP-6 – Embedded Ethics and Technology Acceptance
Eine digitale Versorgungsplattform für Pankreaskarzinom
Das von der Deutschen Krebshilfe geförderte Projekt ONCOverse (ONCOverse: Patientenzentrierte und intuitive Evidenzgenerierung für Bauchspeicheldrüsenkrebs) forciert die Entwicklung einer digitalen Versorgungsplattform, um die Behandlung des Pankreaskarzinoms zu präzisieren und die je beste, individuell zugeschnittene Versorgung zu ermöglichen. Hierzu sollen einerseits Patient:innen beitragen, indem sie ihre Behandlungsdaten, -erfahrungen und Informationen über ihr Wohlbefinden zur Verfügung stellen. Andererseits sollen auch die behandelnden Ärzt:innen die Plattform bereichern. Zu diesem Zweck werden innovative digitale Technologien eingebunden – darunter Künstliche Intelligenz, um die Datenmengen sinnvoll zu verarbeiten und zur datenbasierten Entscheidungshilfe beizutragen.
Ethische und technische Gestaltung im Work Package 6
Im Work Package 6 (WP-6 – Embedded Ethics and Technology Acceptance) des Projektes geht es darum, wie diese Technologien verantwortungsvoll, sicher, verständlich und nutzerorientiert gestaltet werden können. Dabei werden insbesondere die ethischen Herausforderungen der Mensch-KI-Interaktion, der KI-gestützten Entscheidungsfindungsprozesse, der ärztlichen Letztverantwortung oder -entscheidung, des Datenschutzes und der Nutzung medizinischer Daten untersucht.
Nutzerperspektiven und faire Teilhabe
Gleichzeitig wird sich mit den Bedürfnissen und Erwartungen von Patient:innen, Ärzt:innen sowie Forschenden empirisch befasst, da diese gebündelten Stakeholder-Perspektiven direkt im Sinne eines user-centered-designs in die Entwicklung und Gestaltung der ONCOverse-Technologien einfließen. Hierbei spielt auch der faire Zugang zu medizinischer Innovation eine besondere Rolle. WP-6 untersucht mögliche Zugangshürden und entwickelt Empfehlungen, wie diese reduziert werden können.
Ethics by Design für vertrauenswürdige Technologien
WP-6 verfolgt damit einen sogenannten ethics-by-design-Ansatz: Ethische Anforderungen und Nutzerperspektiven werden von Beginn an in die technische Entwicklung integriert. Ziel sind vertrauenswürdige, akzeptierte und im klinischen Alltag sinnvoll einsetzbare digitale Technologien.