Unterstützung ärztlicher und pflegerischer Tätigkeit durch KI: Handlungsempfehlungen für eine verantwortbare Gestaltung und NutzungSupporting medical and nursing activities with AI: recommendations for responsible design and use

Klinische Entscheidungsunterstützungssysteme (Clinical Decision Support Systems [CDSS]), die auf künstlicher Intelligenz (KI) basieren, kommen als komplexe soziotechnische Innovationen zunehmend in Medizin und Pflege zum Einsatz, um die Qualität und Effizienz der Versorgung insgesamt zu verbessern und gleichzeitig begrenzten finanziellen und personellen Ressourcen zu begegnen. Neben intendierten klinischen und organisatorischen Effekten ist jedoch auch mit weitreichenden ethischen, sozialen und rechtlichen Auswirkungen KI-basierter CDSS auf Krankenversorgung und Pflege zu rechnen. Bislang sind diese normativ-sozialen Implikationen nur unzureichend erforscht. Aus dem vom BMBF geförderten Projekt DESIREE (DEcision Support In Routine and Emergency HEalth Care: Ethical and Social Implications) konnten Handlungsempfehlungen für eine verantwortbare Gestaltung und Nutzung klinischer Entscheidungsunterstützungssysteme abgeleitet werden. Der vorliegende Beitrag fokussiert primär auf ethische und soziale Aspekte KI-basierter CDSS, die negative Auswirkungen auf die Gesundheit von Patient:innen haben könnten. Die Handlungsempfehlungen gliedern sich in die akteursgruppenübergreifend relevanten Handlungsfelder Entwicklung, Anwendung, Aufklärung und Einwilligung, Aus‑, Fort- und Weiterbildung sowie (Begleit‑)Forschung und sind als vertiefende Ergänzungen zu existierenden Empfehlungen zu verstehen.