Das Gesundheitswesen zählt zu den grössten und wichtigsten Datenquellen weltweit [1]. Die Nutzung der Daten kann dazu dienen, die Patientenversorgung und -sicherheit sowie die Forschung und Lehre zu verbessern. Um grosse Mengen an medizinischen Daten zu analysieren und Muster zu erkennen, sind KI-Technologien unabdingbar. KI-basierte klinische Entscheidungsunterstützungssysteme (KICDSS, clinical decision support systems) können Ärztinnen und Ärzte in ihrem Alltag entlasten, indem sie die klinische Entscheidungsfindung unterstützen [2–7]. Tabellen 1, 2 und 3 geben einen Überblick über die Vorteile, die Herausforderungen, die Risiken und die zukünftige Ausrichtung von KI-CDSS.

KI-basierte Entscheidungsunterstützungssysteme
KI-CDSS lernen, aus den Daten Muster und Merkmale zu erkennen und in einen Zusammenhang zu stellen (siehe Kasten am Ende). Sie sind wahrscheinlichkeitsbasiert und verwenden Methoden des maschinellen Lernens, um grosse Datenmengen zu verarbeiten [3, 8, 9]. KICDSS- Modelle nutzen klinische Daten sowohl aus strukturierten (z. B. Laborergebnisse) als auch aus unstrukturierten (z. B. Arztberichte oder Bildgebungsdaten) Quellen.

KI-CDSS unterscheiden sich von generativen Sprachmodellen wie GPT, Gemini, LLaMA usw. in ihrem Zweck, ihrer Architektur und ihrer Anwendung im klinischen Kontext [10]. Generative Sprachmodelle können zwar nützlich sein zur medizinischen Information und Aufklärung. Sie sind jedoch nicht darauf ausgerichtet, Laborwerte zu interpretieren, individuelle Risikofaktoren abzuwägen oder Bilder medizinisch zu bewerten, und sie verfügen über keine Zulassung als Medizinprodukt.

Nutzen von KI in CDSS
Die Integration von KI in CDSS kann die Genauigkeit und die Effizienz medizinischer Entscheidungen auf verschiedene Weise verbessern (Tabelle 1). Ein genereller Nutzen von KI-CDSS scheint die Zeitersparnis (v.a. in der Dermatologie oder Radiologie) und die Konsistenz medizinischer Entscheidungen zu sein [9]. Allerdings deuten Studien darauf hin, dass der Nutzen je nach Zweck und Setting (Fachgebiet, KI-CDSS Typ, Zeitpunkt des Einsatzes usw.) unterschiedlich ausfällt [11].

Herausforderungen von KI in CDSS
Es bestehen Unsicherheiten im Umgang mit KI-CDSS (siehe Tabelle 2). Eine davon ist die Intransparenz und teilweise fehlende Erklärbarkeit von KI-CDSS. Es gibt Systeme, die wie Blackboxes funktionieren [16]. Das heisst, es ist schwer nachvollziehbar, wie genau das KI-CDSS zu einer Empfehlung kommt [4].

Implementierung
KI-CDSS sind komplexe, risikobehaftete Systeme. Nur Systeme, die gemäss Evidenz sicher und wirksam sind und als Medizinprodukt zugelassen sind, sollen in der klinischen Praxis verwendet werden. Nutzerinnen und Nutzer müssen verstehen, wie die Systeme funktionieren, und sie müssen davon ausgehen können, dass die Nutzung von KI-Systemen sie in ihrer Arbeit unterstützt. Für die Akzeptanz der Nutzerinnen und Nutzer ist es zentral, dass ein KI-CDSS auf das Benutzerverhalten und auf die Arbeitsabläufe abgestimmt ist [4, 18–20]. Zur Bewertung der Benutzerfreundlichkeit (Usability) gibt es verschiedene Tools (z. B. ALTAI Assessment List for Trustworthy AI, Health-ITUES [Health-IT Usability Evaluation Scale]). In der Tabelle 3 sind beispielhafte Bewertungskriterien von solchen Tools für die Bewertung von KI-CDSS aufgeführt.

Rechtliche Aspekte
Gesundheitsdaten sind besonders schützenswerte Daten. Die Einhaltung gesetzlicher und regulatorischer Rahmenbedingungen ist für den Schutz der Privatsphäre, der Vertraulichkeit und der Datensicherheit von Patientinnen und Patienten unerlässlich. Die Regulatorien für die Zulassung von KI-basierten CDSS stellen Gesundheitsorganisationen und Technologieanbieter vor Herausforderungen [21, 22]. KI-Modelle (z. B. Deep Learning) verarbeiten Daten intransparenter als klassische Expertensysteme, was die Einhaltung von Informationspflichten und Zweckbindung von Gesundheitsdaten erschwert. Unzureichende Anonymisierung (v. a. bei Kombination vieler Datenquellen), fehlende Zugriffskontrolle in Systemen, unsichere Speicherung usw. können Datenschutzverletzungen nach sich ziehen.

Mit der Integration von KI in CDSS wird die bilaterale Arzt-Patienten- Interaktion zu einer trilateralen Interaktion. Dies wirft Fragen zur Haftung und zur Notwendigkeit von Regulierungsrahmen für den Einsatz von KI im Gesundheitswesen auf [4, 13]. Im Grundsatz gilt, dass KI zwar als Unterstützung und Inspiration dienen kann, jedoch Ärztinnen und Ärzte die Verantwortung für ihre medizinischen Entscheidungen tragen und begründen müssen.

Zukünftige Ausrichtung
Für die Erhöhung der Nachvollziehbarkeit von KI-gestützten CDSS stellt die Retrieval- augmented-Generation-(RAG-) Technologie ein vielversprechender Ansatz dar. Ein RAG-basiertes Tool kann relevante Informationen innerhalb eines Systems (z. B. OpenEvidence basiert auf Inhalten von hochrangigen Fachzeitschriften wie JAMA und NEJM) suchen. Ein Sprachmodell (wie GPT) nutzt diese Informationen, um präzise, kontextbezogene Antworten zu generieren. So entsteht eine aktuelle, erklärbare und evidenzbasierte Antwort. Die zugrunde liegenden Quellen werden angezeigt und können definiert werden (z. B. auf vertrauenswürdige Quellen hochqualitativer Peer-reviewed-Fachjournale oder eigens gepflegten Inhaltsdatenbanken).

Eine weitere vielversprechende Entwicklung ist die Integration von föderiertem Lernen in KI-gestützten CDSS. Föderiertes Lernen macht KI-gestützte CDSS leistungsfähiger und gleichzeitig datenschutzfreundlich. Es handelt sich um ein dezentrales maschinelles Lernverfahren, bei dem ein Modell lokal an verschiedenen Datenquellen/Kliniken trainiert wird. Der zentrale Server aggregiert die Updates zu einem neuen globalen Modell. Nur die Modell-Updates werden an den zentralen Server zurückgesendet.

Ambient Clinical Intelligence (ACI) unterstützt die klinische Entscheidungsfindung, indem sie Sprache, Kontext- und Sensordaten in Echtzeit erfasst. Relevante Symptome aus dem Arzt-Patienten- Gespräch, kombiniert mit Vitaldaten und EHR-Informationen, werden an das KI-gestützte CDSS übermittelt. Das CDSS kann so zeitnahe Empfehlungen liefern, die anschliessend automatisch dokumentiert und zur Qualitätssicherung genutzt werden können [4].

Fazit
Welchen Mehrwert ein KI-CDSS in der klinischen Praxis hat, muss im jeweiligen Kontext evaluiert werden. Die Integration von KI in CDSS bringt mehrere Herausforderungen mit sich, darunter technische Einschränkungen, Verzerrungen und Bedenken hinsichtlich der Interpretierbarkeit von KI-Algorithmen, welche die Akzeptanz und das Verständnis der Ärztinnen und Ärzte für KI-gesteuerte Empfehlungen erschweren. Die fortschreitende Technologisierung und die Innovationskraft eröffnen neue Handlungsspielräume zur effektiven Bewältigung dieser Herausforderungen. Das Ziel sollte ein Mensch-KI-Team sein, in dem das KI-CDSS die kognitiven Stärken des Menschen ergänzt, aber nicht ersetzt.

Korrespondenz

[email protected]

Literatur

1. Zwolenski M, Weatherill L. The Digital Universe Rich Data and the Increasing Value of the Internet of Things. Aust J Telecomm Digit Econ. 2014; 2
2. Bajgain B et al. Determinants of implementing artificial intelligence-based clinical decision support tools in healthcare: a scoping review protocol. BMJ Open. 2023; 13(2):e068373
3. Tai AMY et al. Clinical decision support systems in addiction and concurrent disorders: A systematic review and meta-analysis. J Eval Clin Pract. 2024; 30: 1664-1683
4. Elhaddad M, Hamam S. AI-Driven Clinical Decision Support Systems: An Ongoing Pursuit of Potential. Cureus. 2024;16(4):e57728
5. Bozyel S et al. Artificial Intelligence-Based Clinical Decision Support Systems in Cardiovascular Diseases. Anatol J Cardiol. 2024; 28: 74-86
6. Gomez-Cabello CA et al. Artificial-Intelligence-Based Clinical Decision Support Systems in Primary Care: A Scoping Review of Current Clinical Implementations. Eur J Investig Health Psychol Educ. 2024; 14: 685–698
7. Bharmal AR. Transforming Healthcare Delivery: AI-Powered Clinical Decision Support Systems. Int J Sci Res Comput Sci Eng Inf Technol. 2025; 11: 339-347
8. Kim S, Kim E-H, Kim H-S. Physician Knowledge Base: Clinical Decision Support Systems. Yonsei Med J. 2022; 63: 8–15
9. Dingel J et al. Predictors of Health Care Practitioners’ Intention to Use AI-Enabled Clinical Decision Support Systems: Meta- Analysis Based on the Unified Theory of Acceptance and Use of Technology. J Med Internet Res. 2024; 26:e57224
10. Hager P et al. Evaluation and mitigation of the limitations of large language models in clinical decision-making. Nat Med. 2024; 30: 2613-2622
11. Hautz WE et al. Diagnoses supported by acomputerised diagnostic decision support system versus conventional diagnoses in emergency patients (DDX-BRO): a multicentre, multiple-period, double-blind, clusterrandomised, crossover superiority trial. Lancet Digit Health. 2025; 7: e136–e144
12. Sutton RT et al. An overview of clinical decision support systems: benefits, risks, and strategies for success. NPJ Digit Med. 2020; 3:17
13. Tupsakhare P. Improving Clinical Decision Support in Health Care Through AIs.Prog Med Sci. 2023: 1–4
14. Carrasco Ramírez JG. AI in Healthcare: Revolutionizing Patient Care with Predictive Analytics and Decision Support Systems. J Artif Intell Gen Sci. 2024; 1
15. Sirajuddin AM et al. Implementation pearls from a new guidebook on improving medication use and outcomes with clinical decision support. Effective CDS is essential for addressing healthcare performance improvement imperatives. J Healthc Inf Manag. 2009;23(4):38-45
16. Char DS et al. Implementing Machine Learning in Health Care — Addressing Ethical Challenges. N Eng J Med. 2018; 378(11):981-983
17. Banerjee M et al. The impact of artificial intelligence on clinical education: perceptions of postgraduate trainee doctors in London (UK) and recommendations for trainers. BMC Med Educ. 2021; 21(1):429
18. Schütze D et al. Requirements analysis for an AI-based clinical decision support system for general practitioners: a user-centered design process. BMC Med Inform Decis Mak. 2023; 23(1):144
19. Tun HM et al. Trust in Artificial Intelligence- Based Clinical Decision Support Systems Among Healthcare Workers: Systematic Review J Med Internet Res. 2025:27:e69678
20. Neff MC et al. Initial User-Centred Design of an AI-Based Clinical Decision Support System for Primary Care. Stud Health Technol Inform. 2024:310:1051-1055
21. Antoniadi AM et al. Current challenges and future opportunities for xai in machine learning-based clinical decision support systems: A systematic review. Appl Sci (Switzerland) 2021; 11(11), 5088
22. Mittermaier M et al. Collaborative strategies for deploying AI-based physician decision support systems: challenges and deployment approaches. NPJ Digit Med. 2023; 6(1):137