Entwicklung ethischer Anforderungen an KI-basierte Assistenzsysteme im Alter

Förderung: Ministerium für Wissenschaft, Forschung und Kunst Baden-Württemberg
Projektleitung: Dr. Giovanni Rubeis, Dr. Nadia Primc
Projektmitarbeiterin: Dr. Kris Vera Hartmann
Projektlaufzeit: 2020–2022

Das medizinethische Vorhaben befasst sich mit ethischen Fragestellungen, die sich durch den Einsatz KI-basierter Ambient Assisted Living (AAL)-Systeme ergeben. Unter AAL-Systemen versteht man altersgerechte Assistenzsysteme, die durch die technische Unterstützung bei Alltagstätigkeiten einen möglichst langen Verbleib in der eigenen Häuslichkeit ermöglichen sollen. Leitbild ist das Konzept des „active ageing“, wonach es Personen ermöglicht werden soll, im Alter selbstbestimmt zu leben und ihre Gesundheit zu bewahren. Die neueste Generation der AAL-Systeme erlaubt mittels KI-basierter Sensortechnik ein engmaschiges Monitoring von Personen in ihrer privaten Umgebung. Dabei werden Echtzeitdaten zur Erstellung von standardisierten Aktivitätsprofilen genutzt. Weichen Vitalfunktionen oder Verhalten der Pflegebedürftigen von diesen Standards ab, werden Pflegekräfte oder Angehörige informiert, um gegebenenfalls zu intervenieren. Hierbei besteht die Gefahr, dass die Selbstbestimmung der Pflegebedürftigen unterminiert, deren Privatheit verletzt und eine Standardisierung von Verhalten durchgesetzt wird. Ziel des medizinethischen Forschungsvorhabens ist es, das Spannungsfeld zwischen einem selbstbestimmten Leben in der eigenen Häuslichkeit, dem drohenden Verlust an Privatheit sowie dem Überwachungs- und Normierungspotenzial KI-basierter AAL-Technologie zu analysieren. Die Ergebnisse des Vorhabens sollen einen Beitrag zu einer ethisch reflektierten und nutzerorientierten Technikentwicklung leisten.

Ethische Aspekte digitaler Interventionen im Bereich Mental Health

Habilitationsprojekt
Dr. Giovanni Rubeis

Digitale Anwendungen im Bereich Mental Health werden häufig mit unter dem Begriff internet- und mobilbasierte Interventionen (IMIs) zusammengefasst. IMIs umfassen vielfältige Anwendungen wie z.B. Apps für mobile Endgeräte, interaktive Websites, Wearables und Sensortechnik, virtuelle Anwendungen, Serious Games oder Chatbots. IMIs werden in der Prävention, Diagnostik, Therapie und Nachbehandlung bzw. Rückfallprophylaxe eingesetzt. Für alle diese Anwendungsfelder zeigen IMIs positive empirische Resultate hinsichtlich Symptomreduktion, Adhärenz und Verringerung von Drop Out-Raten. Der Einsatz von IMIs soll vor allem den Zugang zu therapeutischen Versorgungsangeboten erleichtern. Damit sollen Menschen erreicht werden, die bislang keine Versorgungsangebote in Anspruch nehmen konnten oder aus Furcht vor Stigmatisierung nicht in Anspruch genommen haben. Zudem wird erwartet, dass IMIs das Selbstmanagement von Usern fördern und somit zu deren Empowerment beitragen.
Im Rahmen des kumulativen Habilitationsprojekts werden unterschiedliche ethische Aspekte adressiert. Dazu gehört das Konzept von Autonomie, das hinter dem Gedanken des Empowerments durch IMIs steht. Des Weiteren ist der Digital Divide zu thematisieren, also zu fragen, welche Patientengruppen von IMIs profitieren und welche benachteiligt werden. Auch ist zu analysieren, inwiefern sich der Einsatz von IMIs auf die therapeutische Beziehung auswirkt. Schließlich ist zu klären, welche spezifischen ethischen Herausforderungen mit dem verstärkten Einsatz Künstlicher Intelligenz und Big Data-Anwendungen verbunden sind.