KI & Digitalisierung: Medizinische Fakultät Heidelberg

FrameIntell – Das sprachliche Framing künstlicher und biologischer Intelligenz: Implizite Konzepte der Kognition und deren ethische Konsequenzen

Förderung: Bundesministerium für Bildung und Forschung
Projektleitung: Dr. Nadia Primc (Konsortialführung: Prof. Dr. Andreas Draguhn)
Projektmitarbeiter: Raphael Brähler
Projektlaufzeit: 2022-2025
Projekthomepage: https://frameintell.de/

„Intelligenz“ ist ein zentrales Konzept der Psychologie und der Neurowissenschaften. Zugleich steht der Begriff kennzeichnend für die künstliche Intelligenz (KI), die sowohl als Technologie wie auch als Gegenstand öffentlicher Diskurse zunehmend an Bedeutung gewinnt. Leitende Hypothese des Forschungsprojekts „FrameIntell“ ist, dass die wachsende Bedeutung der KI einen grundlegenden Einfluss auf unser Selbstverständnis als Menschen hat. Dies betrifft zunächst die Konzeptualisierung menschlicher bzw. biologischer Intelligenz (BI) im Vergleich zu KI, sowie etablierte Konzepte von Kognition und Urheberschaft (agency). Zugleich wirft der Umgang mit potentiell intelligenten und autonom agierenden technischen Artefakten grundlegende ethische Fragestellungen auf, u.a. nach dem moralischen Status von BI und KI sowie dessen wechselseitiger Abgrenzbarkeit.

Wir untersuchen unsere Hypothese in einem interdisziplinären Ansatz, der linguistische, philosophische, ethische und neurowissenschaftliche Expertise vereint. Dazu setzen wir moderne, computergestützte Methoden zur Exploration und Analyse großer und heterogener Textkorpora ein. Konkret wird der Gebrauch des Begriffs „Intelligenz“ und verwandter Konzepte in großen, repräsentativen Textkorpora aus den Bereichen der Neurowissenschaften, der künstlichen Intelligenz und relevanter ethisch-rechtlicher Diskussionen analysiert. Unsere Ziele sind (1) explizite und implizite Konzeptualisierungen der Intelligenz, Kognition und des Personenstatus aus den drei Textkorpora herauszuarbeiten; (2) Ähnlichkeiten und Unterschiede zwischen den Konzepten der BI und der KI aufzuzeigen; (3) die ethische Bedeutung konzeptioneller Interferenzen zwischen KI und Neurobiologie herauszustellen; (4) den öffentlichen Diskurs und zukünftige Forschung in diesem Bereich zu fördern. Dazu werden wir eine Open-Source-Plattform einrichten und Werkzeuge zur konzeptionellen und ethischen Analyse großer Textkorpora bereitstellen.

Mit diesem Ansatz sollen neue Impulse für die Diskussion der anthropologischen und ethischen Herausforderungen der KI gegeben werden.

Entwicklung ethischer Anforderungen an KI-basierte Assistenzsysteme im Alter (abgeschlossen)

Förderung: Ministerium für Wissenschaft, Forschung und Kunst Baden-Württemberg
Projektleitung: Dr. Giovanni Rubeis, Dr. Nadia Primc
Projektmitarbeiterin: Dr. Kris Vera Hartmann
Projektlaufzeit: 2020–2022

Das medizinethische Vorhaben befasst sich mit ethischen Fragestellungen, die sich durch den Einsatz KI-basierter Ambient Assisted Living (AAL)-Systeme ergeben. Unter AAL-Systemen versteht man altersgerechte Assistenzsysteme, die durch die technische Unterstützung bei Alltagstätigkeiten einen möglichst langen Verbleib in der eigenen Häuslichkeit ermöglichen sollen. Leitbild ist das Konzept des „active ageing“, wonach es Personen ermöglicht werden soll, im Alter selbstbestimmt zu leben und ihre Gesundheit zu bewahren. Die neueste Generation der AAL-Systeme erlaubt mittels KI-basierter Sensortechnik ein engmaschiges Monitoring von Personen in ihrer privaten Umgebung. Dabei werden Echtzeitdaten zur Erstellung von standardisierten Aktivitätsprofilen genutzt. Weichen Vitalfunktionen oder Verhalten der Pflegebedürftigen von diesen Standards ab, werden Pflegekräfte oder Angehörige informiert, um gegebenenfalls zu intervenieren. Hierbei besteht die Gefahr, dass die Selbstbestimmung der Pflegebedürftigen unterminiert, deren Privatheit verletzt und eine Standardisierung von Verhalten durchgesetzt wird. Ziel des medizinethischen Forschungsvorhabens ist es, das Spannungsfeld zwischen einem selbstbestimmten Leben in der eigenen Häuslichkeit, dem drohenden Verlust an Privatheit sowie dem Überwachungs- und Normierungspotenzial KI-basierter AAL-Technologie zu analysieren. Die Ergebnisse des Vorhabens sollen einen Beitrag zu einer ethisch reflektierten und nutzerorientierten Technikentwicklung leisten.

Bereits zum Projekt erschienene Paper / Bücher: