Künstliche Intelligenz in der präklinischen Notfallmedizin – Chancen, Grenzen und militärische Relevanz

Artificial Intelligence in Preclinical Emergency Medicine – Opportunities, Limitations, and Military
Relevance

Daniel Käther^a, Christoph Jänig^a, Willi Schmidbauer^a, Andreas García Bardon^a

^aKlinik für Anästhesiologie, Intensivmedizin, Notfallmedizin und Schmerztherapie, Bundeswehrzentralkrankenhaus Koblenz

Zusammenfassung

Die Anwendung künstlicher Intelligenz (KI) in der präklinischen Notfallmedizin befindet sich in einer dynamischen Entwicklungsphase. Sie reicht von automatisierten Triage-Systemen über Spracherkennungs- und Dokumentationslösungen bis hin zu robotergestützten Rettungseinheiten. Ziel ist es, Einsatzkräfte bei zeitkritischen Entscheidungen zu unterstützen, Informationsverluste zu vermeiden und die Versorgungsqualität zu erhöhen. Zahlreiche Systeme zeigen bereits vielversprechende Ergebnisse: So konnte das KATE-Triagemodell die Genauigkeit der Dringlichkeitseinschätzung im Vergleich zu Pflegekräften deutlich steigern, während Projekte wie ARTEMIS die Perspektive eröffnen, verwundete Personen in unübersichtlichem Gelände autonom zu lokalisieren und Vitalparameter zu erfassen.

Gleichzeitig bestehen erhebliche methodische und praktische Herausforderungen. Die meisten verfügbaren KI-Systeme wurden bislang nur retrospektiv oder anhand klinischer Vignetten getestet. Unter realen Bedingungen – geprägt durch Stress, Lärm und wechselnde Umgebungen – ist die Leistungsfähigkeit bisher kaum belegt. Auch rechtlich ergeben sich durch den seit August 2025 geltenden EU-AI-Act neue Anforderungen an Transparenz, Risikomanagement und menschliche Aufsicht. Für den militärischen Bereich gelten zwar Ausnahmen, doch Dual-Use-Systeme, wie sie im Sanitätsdienst der Bundeswehr häufig entwickelt werden, unterliegen denselben strengen Regularien wie zivile Anwendungen.

Für die Bundeswehr ergibt sich daraus ein erhebliches Innovationspotenzial: Durch gezielte Pilotierung, realitätsnahe Erprobung und die Integration in telemedizinische und robotikgestützte Strukturen kann KI zur Effizienzsteigerung, besseren Ressourcenverteilung und Verbesserung der Patientensicherheit beitragen. Der Artikel untersucht aktuelle Anwendungsfelder, laufende Forschungsprojekte und rechtliche Rahmenbedingungen, diskutiert deren Belastbarkeit und zeigt Perspektiven auf, wie der Sanitätsdienst der Bundeswehr von dieser technologischen Entwicklung profitieren kann – vorausgesetzt, sie wird verantwortungsvoll, evidenzbasiert und interoperabel in bestehende Versorgungssysteme integriert.

Schlüsselwörter: Künstliche Intelligenz, KI, Notfallmedizin, Triage, Herausforderungen, militärischer Gebrauch

Summary

The application of artificial intelligence (AI) in prehospital emergency medicine is undergoing a phase of rapid development. Its scope ranges from automated triage systems and speech recognition – based documentation tools to robotic rescue units. The aim is to support emergency personnel in time-critical decision-making, prevent information loss, and improve the overall quality of care. Several systems have already shown promising results: for instance, the KATE triage model significantly improved the accuracy of urgency classification compared to nursing staff, while projects such as ARTEMIS open up the perspective of autonomously locating casualties in complex terrain and recording vital parameters on site.

At the same time, there are considerable methodological and practical challenges. Most available AI systems have so far only been evaluated retrospectively or using clinical vignettes. Their performance under real-world conditions – characterized by stress, noise, and dynamically changing environments – remains largely unproven. In addition, the EU Artificial Intelligence Act, which entered into force in August 2025, introduces new requirements for transparency, risk management, and human oversight. While purely military systems are exempt from its scope, dual-use technologies, which are common in the Bundeswehr Medical Service, are subject to the same stringent regulations as civilian applications.

For the Bundeswehr Medical Service, this technological evolution presents significant opportunities. Through targeted pilot projects, realistic field testing, and integration into telemedical and robotic structures, AI has the potential to enhance efficiency, optimize resource allocation, and increase patient safety in operational settings. This article outlines current applications, ongoing research projects, and regulatory frameworks, evaluates the robustness of existing systems, and highlights perspectives on how the Bundeswehr Medical Service can leverage AI responsibly, evidence-based, and in full interoperability with existing medical support structures to improve outcomes in both peacetime and operational missions.

Keywords: artificial intelligence; AI; emergency medicine; triage; challenges; military use

Einleitung

Die präklinische Notfallmedizin gilt als eine der dynamischsten und anspruchsvollsten Disziplinen der Akutversorgung. Innerhalb weniger Minuten müssen lebenswichtige Entscheidungen getroffen werden – häufig unter erheblichem Zeitdruck, mit unvollständigen Informationen und in hochdynamischen, oft widrigen Einsatzumgebungen. Gerade in solchen Situationen hängt das Behandlungsergebnis maßgeblich von der Erfahrung und Reaktionsfähigkeit des medizinischen Personals ab. Zugleich wächst der Bedarf an strukturierten, evidenzbasierten Entscheidungshilfen, um Fehler zu vermeiden, Ressourcen optimal einzusetzen und die Versorgung auch unter Belastung auf konstant hohem Niveau sicherzustellen. Künstliche Intelligenz (KI) bietet hierfür vielversprechende neue Ansätze.

Durch die automatisierte Analyse großer, komplexer Datenmengen – von Vitalparametern über Spracherkennung bis hin zu Umgebungsdaten – kann KI Entscheidungsprozesse unterstützen, Diagnosen beschleunigen und die Kommunikation im Einsatzteam verbessern. Erste Systeme kommen bereits in der zivilen Notfallmedizin zum Einsatz, etwa bei der Triage, der Dokumentation oder der prähospitalen Vorhersage von Krankheitsverläufen. Ihre Leistungsfähigkeit wird derzeit in zahlreichen nationalen und internationalen Forschungsprojekten untersucht. Auch für den Sanitätsdienst der Bundeswehr ergeben sich daraus neue Perspektiven: Im militärischen Einsatzumfeld mit seinen besonderen Herausforderungen – eingeschränkte Infrastruktur, Gefahrenlagen, Massenanfälle von Verwundeten – könnte der gezielte Einsatz von KI entscheidend dazu beitragen, Ressourcen besser zu koordinieren, Lagebilder in Echtzeit zu verbessern und die medizinische Versorgung robuster zu gestalten.

Dieser Beitrag gibt einen Überblick über aktuelle Entwicklungen und Anwendungsfelder der künstlichen Intelligenz in der präklinischen Notfallmedizin. Neben Beispielen aus der zivilen Forschung werden insbesondere Projekte mit potenzieller militärischer Relevanz vorgestellt. Darüber hinaus werden Chancen und Risiken dieser Technologie diskutiert, die rechtlichen Rahmenbedingungen skizziert und der mögliche Nutzen für den Sanitätsdienst der Bundeswehr eingeordnet.

Anwendung von KI bei der Triage

Babylon Triage and Diagnostic Systems

Das Babylon-System wurde 2016 in Großbritannien eingeführt. Es handelt sich um ein App-basiertes Triage- und Diagnosesystem [1][10]. Anhand von Symptomangaben, demografischen Daten und individuellen Risikofaktoren schlägt es eine wahrscheinliche Diagnose vor und ordnet den Patienten einer von sechs Dringlichkeitsstufen zu – von „Notruf erforderlich“ bis „Selbstversorgung ausreichend“. Die Anwendung ist bislang ausschließlich in Großbritannien und Irland verfügbar.

In einer Studie auf Basis klinischer Vignetten – textbasierter Beschreibungen hypothetischer Fallbeispiele – lieferte das System in 51,5 % der Fälle keinen Handlungsvorschlag. Wurde jedoch eine Dringlichkeitsstufe ausgegeben, erreichte das Sicherheitsniveau 95,1 % und lag damit nahezu auf dem Niveau ärztlicher Ersteinschätzungen (97 %) [6]. Diese Ergebnisse deuten auf ein grundsätzlich hohes Sicherheitsniveau hin, sofern das System eine Einstufung vornimmt.

Einschränkend ist jedoch festzuhalten, dass die Untersuchung ausschließlich vignettengestützt erfolgte und eine prospektive Validierung im realen Notfallbetrieb bislang fehlt. Zudem besteht weiterhin das Risiko einer Untertriage oder Fehldiagnose, insbesondere bei unvollständigen oder fehlerhaften Dateneingaben durch den Nutzer.

KATE-Triagemodell

Das System KATE wurde von Mednition, einem Softwareentwickler in Burlingame, Kalifornien, USA, entwickelt und ist derzeit vor allem in US-amerikanischen Notaufnahmen im Einsatz [14]. Es handelt sich hierbei um ein KI-basiertes Triagesystem, das strukturierte Daten wie Vitalparameter mit unstrukturierten Informationen, beispielsweise frei eingegebenen Symptombeschreibungen, kombiniert und diese automatisiert einer Kategorie des Emergency Severity Index (ESI, Stufen 1–5) zuordnet. Diese reichen von „sofort lebensrettende Maßnahme erforderlich“ bis „geringe Dringlichkeit, lediglich Beratung oder Untersuchung notwendig“.

In einer retrospektiven Vergleichsstudie erreichte KATE eine Gesamtgenauigkeit von 75,7 %, während Pflegekräfte in derselben Stichprobe auf 59,8 % kamen [9]. Besonders bedeutsam war die Verbesserung in der kritischen Differenzierung zwischen den Kategorien ESI-2 und ESI-3, also zwischen potenziell vital gefährdeten und nicht-kritischen Patienten (KATE: 80 %, Pflegekräfte: 41,4 %). Damit zeigte sich ein deutlich geringeres Risiko der Untertriage.

Trotz dieser vielversprechenden Ergebnisse fehlen bislang prospektive Studien, die den Einfluss von KATE auf Patientenergebnisse oder Prozesszeiten im Routinebetrieb untersuchen. Die bisherige Evidenz beruht überwiegend auf retrospektiven Analysen und simulierten Datensätzen [11]. Offen bleibt daher, wie zuverlässig das System in realen Einsatzbedingungen arbeitet und ob sich die beobachteten Vorteile im klinischen Alltag oder gar in präklinischen Szenarien reproduzieren lassen.

Anwendung von KI zur erleichterten
Dokumentation

Die präklinische Dokumentation ist ein zentraler Bestandteil der Patientenversorgung, steht jedoch regelmäßig im Spannungsfeld zwischen Zeitdruck und inhaltlicher Vollständigkeit. In vielen Einsätzen erfolgt die Dokumentation erst nachträglich, wodurch relevante Informationen verloren gehen oder nur unvollständig erfasst werden.

Ambient AI

Einen vielversprechenden Lösungsansatz bietet das Konzept der sogenannten Ambient AI. Dabei handelt es sich um Systeme, die Gespräche und Umgebungsgeräusche im Hintergrund aufzeichnen, diese automatisch analysieren und in Echtzeit in eine strukturierte Dokumentation überführen. Ziel ist es, die manuelle Nacharbeit zu reduzieren, Lücken zu vermeiden und das medizinische Personal im Einsatz zu entlasten.

Ein Beispiel hierfür ist das „Dragon Ambient eXperience“ (DAX) des Unternehmens Nuance (Microsoft). Das System soll Arzt-Patienten- oder Arzt-Rettungsdienst-Gespräche automatisch transkribieren und daraus einen vollständigen Behandlungsbericht generieren. Eine erste Kohortenstudie konnte jedoch keine signifikante Verbesserung der Effizienz oder Dokumentationsqualität nachweisen. Im Gegenteil: Die erwartete Zeitersparnis pro Patienten blieb gering, während der Anteil an zusätzlicher Nachbearbeitungszeit („after hours work“) sogar zunahm [8].

Unter realen Einsatzbedingungen – geprägt durch Lärm, wechselnde Lichtverhältnisse und hohe Stressbelastung – dürfte die Herausforderung noch deutlich größer sein. Untersuchungen zur Spracherkennung im klinischen Alltag zeigen, dass Fehlerraten in lauten Umgebungen erheblich ansteigen können [7]. Für den präklinischen Bereich liegen bislang keine belastbaren Daten zur Leistungsfähigkeit solcher Systeme vor. Entsprechend ist offen, ob sich Ambient-AI-Technologien unter den Bedingungen des Rettungsdienstes oder militärischer Einsätze tatsächlich bewähren können.

Anwendung von KI in Kombination mit Robotik

Bei einem Massenanfall von Verwundeten (MANV) stehen Einsatzkräfte vor enormen Herausforderungen: unübersichtliche Lagen, unwegsames Gelände und eine hohe Zahl gleichzeitig zu versorgender Patienten erschweren eine strukturierte Priorisierung. In solchen Szenarien kann der Einsatz von Robotik in Kombination mit künstlicher Intelligenz entscheidende Vorteile bieten – insbesondere, wenn das Gelände gefährlich oder für Menschen schwer zugänglich ist.

Ein innovativer Ansatz findet sich im Forschungsprojekt ARTEMIS (AI-driven Robotic Triage Labeling and Emergency Medical Information System). Das System basiert auf einem autonom agierenden, vierbeinigen Roboter, der in der Lage ist, sich eigenständig im Gelände zu bewegen, verletzte Personen zu lokalisieren und erste Vitalparameter – wie Puls, Temperatur, Sauerstoffsättigung und Bewusstseinszustand – zu erfassen. Die erhobenen Daten werden in Echtzeit an eine Leitstelle oder Einsatzführung übertragen, wo sie unmittelbar für die Triage und Ressourcensteuerung genutzt werden können [12].

Das Konzept verspricht insbesondere für militärische Lagen mit hohem Gefährdungspotenzial oder eingeschränktem Zugang zu Verwundeten erhebliche Vorteile. Der Roboter kann dabei helfen, Lagebilder frühzeitig zu erstellen, Prioritäten zu setzen und menschliches Personal zu entlasten.

Gleichwohl befindet sich ARTEMIS noch in einer frühen Forschungsphase. Ein Wirksamkeitsnachweis unter realen Einsatzbedingungen steht bislang aus, und Fragen zur Robustheit, Energieversorgung, Kommunikation unter widrigen Bedingungen sowie zur Integration in bestehende Rettungsketten sind offen. Dennoch unterstreicht das Projekt exemplarisch das Potenzial von KI-gestützter Robotik, die präklinische Versorgung in Extremszenarien grundlegend zu verändern.

Einen ähnlichen Ansatz verfolgt das durch die EU geförderte Projekt iMEDCAP (intelligent Medical Capabilities), bei welchem die Bundeswehr maßgeblich beteiligt ist. Es erfolgt zunächst mittels Distanzsensorik (Wärmebild, Video, Mikrowellentechnik, etc.) die Detektion von Verwundeten aus der Luft, sowie eine erste Triage. Während des autonomen Patiententransports in einer speziellen Patiententransporteinheit werden Vitalparameter aufgezeichnet und durch eine KI fortlaufend bewertet, um Zustandsänderungen frühzeitig zu erkennen und ggf. operative Entscheidungen (z. B. Transportzieländerung) zu treffen. Mittels eines Robotersystems mit verschiedenen Effektoren können zudem lebensrettende Sofortmaßnahmen (z. B. Aktivierung eines Tourniquets, Nutzung von Autoinjektoren oder Durchführen einer Nadeldekompression) ergriffen werden [13].

Deutsche Projekte aus dem Gebiet der KI

Auch in Deutschland laufen derzeit mehrere staatlich geförderte Projekte, die sich mit der Integration künstlicher Intelligenz in die präklinische Notfallmedizin befassen. Sie zielen darauf ab, Entscheidungsprozesse zu unterstützen, Schnittstellen zwischen Präklinik und Klinik zu optimieren und telemedizinische Versorgungskonzepte weiterzuentwickeln.

KIT² – KI-unterstützter Telenotarzt

Das vom Bundesministerium für Bildung und Forschung (BMBF) geförderte Projekt KIT² („KI-unterstützter Telenotarzt“, Laufzeit 09/2022–08/2025) wird vom Universitätsklinikum Aachen in Zusammenarbeit mit dem Aachener Institut für Rettungsmedizin und zivile Sicherheit koordiniert. Ziel ist die Entwicklung eines intelligenten Assistenzsystems, das Telenotärzte in drei Ebenen unterstützt:

• medizinisch – z. B. bei Diagnosestellung und Therapiewahl,
• taktisch – bei der Auswahl geeigneter Maßnahmen sowie
• strategisch – bei der Ressourcenverteilung und Priorisierung.

Besonders relevant ist die Möglichkeit, diese Entscheidungsunterstützung in Echtzeit bereitzustellen – auch unter Einsatzbedingungen, etwa bei Großschadenslagen oder im militärischen Umfeld [3].

Connect-ED

Ebenfalls durch das BMBF gefördert (Laufzeit 09/2022–07/2025) wird das Projekt Connect-ED, koordiniert durch die Universitätsmedizin Göttingen in Kooperation mit Partnern wie der Charité – Universitätsmedizin Berlin. Ziel ist die Verbesserung der Datenschnittstelle zwischen präklinischer und klinischer Versorgung. Durch die Echtzeitübertragung relevanter Parameter aus dem Rettungsdienst an die Zielklinik sollen Wartezeiten reduziert, Ressourcen besser geplant und innerklinische Abläufe beschleunigt werden [2].

KI-Belastung-Verwundung

Das Planungsamt der Bundeswehr fördert aktuell ein KI-basiertes Softwareprojekt (UM 50U P 015) zur Überwachung der körperlichen Belastung von Soldaten und zur Unterstützung bei der Ersteinschätzung und Betreuung verwundeter Patienten (siehe Abbildung 1). Zum Training der KI für die Triage von Verwundeten werden Vitalparameter aus der Präklinik und von Schockraumpatienten herangezogen. Die Akquise der dafür benötigten großen Datenmengen ist die größte Herausforderung in diesem Projekt.

Abb. 1: Darstellung der Patientenechtzeitdaten inklusive Videofeed aus der Drohne auf dem Telemedizinarbeitsplatz: Die KI unterstützt bei der Ersteinschätzung (Triage) und ist in der Lage durch die kontinuierliche Erfassung und Bewertung multipler Sensordaten eine Zustandsänderung frühzeitig zu detektieren, was speziell bei der Überwachung mehrerer Patienten hilfreich ist. (Screenshot aus dem Projekt „KI-Belastung-Verwundung“)

Die genannten Projekte besitzen erhebliches Potenzial für den Sanitätsdienst der Bundeswehr. Sie könnten dazu beitragen, die Kommunikation und Datentransparenz entlang militärischer Rettungsketten zu verbessern (siehe Abbildung 2), insbesondere in Kombination mit telenotärztlichen Konzepten und der Nutzung geschützter Kommunikationsnetzwerke. Damit wird ein wichtiger Schritt in Richtung digital vernetzter und KI-gestützter Einsatzmedizin gemacht.

Abb. 2: Lagedarstellung der operativ-taktischen Lage: Die KI kann anhand der medizinischen Dringlichkeit, den Geo-Daten der Transportmittel und der Kapazitäten der beteiligten Versorgungseinrichtungen aktiv Einfluss auf den Patientenfluss entlang der Rettungskette nehmen. (Screenshot aus dem Projekt „KI-Belastung-Verwundung“)

Weitere Anwendungen

Ein zentraler Teilbereich der künstlichen Intelligenz ist das Machine Learning (ML). Dabei handelt es sich um Verfahren, bei denen Computersysteme anhand großer Datenmengen – etwa Vitalparameter, Laborwerte oder klinische Befunde – selbstständig Muster und Zusammenhänge erkennen. Auf dieser Basis können sie anschließend auf bislang unbekannte Datensätze reagieren, Wahrscheinlichkeiten berechnen und Prognosen ableiten.

In der medizinischen Forschung wird ML bereits erfolgreich eingesetzt, um komplexe Krankheitsverläufe vorherzusagen und kritische Zustände frühzeitig zu erkennen. Beispiele hierfür sind die KI-gestützte Schlaganfall-Erkennung im präklinischen Umfeld [16], die prähospitale Vorhersage von Überlebenswahrscheinlichkeiten nach Herz-Kreislauf-Stillstand [4] sowie Systeme zur Früherkennung von Sepsis [15].

Diese Anwendungen verdeutlichen das Potenzial von Machine-Learning-Algorithmen, dynamische klinische Daten in Echtzeit zu analysieren und medizinische Entscheidungen zu unterstützen. Für die präklinische Notfallmedizin – und insbesondere für militärische Einsatzszenarien – könnten solche Systeme künftig eine wertvolle Ergänzung darstellen, um Risikopatienten frühzeitig zu identifizieren, Ressourcen gezielter einzusetzen und die Versorgungsqualität unter Einsatzbedingungen weiter zu verbessern.

Tab. 1: Übersicht ausgewählter Projekte

Rechtliche Rahmenbedingungen

Mit dem Inkrafttreten des EU Artificial Intelligence Act (EU-AI-Act) am 1. August 2025 wurde erstmals ein umfassender Rechtsrahmen für den Einsatz künstlicher Intelligenz in der Europäischen Union geschaffen [5]. Ziel dieser Verordnung ist es, die Sicherheit, Transparenz und Nachvollziehbarkeit von KI-Systemen zu gewährleisten und gleichzeitig Innovation zu fördern. Der EU-AI-Act sieht eine risikobasierte Klassifizierung von KI-Systemen vor. Medizinische Anwendungen gelten in der Regel als Hochrisiko-Systeme, da Fehlentscheidungen unmittelbare Auswirkungen auf die Patientensicherheit haben können. Für Entwickler und Betreiber solcher Systeme ergeben sich daraus strenge Anforderungen an Risikomanagement, Datenqualität, technische Dokumentation, Transparenz sowie an die Einbindung menschlicher Aufsicht.

Für den militärischen Bereich gilt grundsätzlich eine Ausnahme: KI-Systeme, die ausschließlich für Verteidigungszwecke entwickelt und eingesetzt werden, fallen nicht unter die zivilen Bestimmungen des EU-AI-Acts. Sobald jedoch ein sogenannter Dual-Use-Charakter – also eine parallele Nutzung in zivilen und militärischen Bereichen – vorliegt, greifen die Regularien vollständig. Dies betrifft insbesondere den Sanitätsdienst der Bundeswehr, da viele Entwicklungen in Kooperation mit zivilen Forschungseinrichtungen oder Kliniken erfolgen.

Die neue Gesetzgebung schafft damit einerseits mehr Rechtssicherheit, stellt andererseits aber auch hohe Anforderungen an Zulassung, Testung und Nachweis der klinischen Sicherheit von KI-Systemen. Für militärische Forschungs- und Entwicklungsvorhaben bedeutet dies, dass Aspekte wie Datenschutz, Datenherkunft, Bias-Kontrolle und Nachvollziehbarkeit der Entscheidungslogik künftig noch stärker in den Fokus rücken werden. Der EU-AI-Act ist somit nicht nur regulatorische Hürde, sondern auch Chance: Er fördert die Entwicklung vertrauenswürdiger, sicherer und verantwortungsvoll eingesetzter KI-Systeme – auch im Rahmen militärischer Medizin.

Fazit und Ausblick

Künstliche Intelligenz steht kurz davor, die präklinische Notfallversorgung grundlegend zu verändern. Bereits heute existiert eine Vielzahl unterschiedlicher Systeme – von der digitalen Triage über automatisierte Dokumentation bis hin zu robotikgestützten Assistenzlösungen. Sie alle verfolgen das Ziel, Entscheidungen zu beschleunigen, Ressourcen effizienter einzusetzen und die Patientensicherheit zu erhöhen. Gleichzeitig zeigt sich, dass der Großteil der derzeit verfügbaren Anwendungen noch nicht ausreichend unter realen Einsatzbedingungen validiert ist. Viele Studien beruhen auf retrospektiven Analysen oder simulationsbasierten Szenarien, während belastbare prospektive Daten fehlen. Sprachassistenzsysteme weisen bislang eine zu geringe Robustheit in lärmintensiven Umgebungen auf, und robotikbasierte Konzepte wie ARTEMIS befinden sich noch in der experimentellen Phase. Mit dem EU-AI-Act wurden zudem neue regulatorische Maßstäbe geschaffen, die sowohl Chancen als auch Herausforderungen mit sich bringen. Gerade für militärische Dual-Use-Systeme ist eine sorgfältige Balance zwischen technologischer Innovationsfreude und rechtlicher Verantwortung erforderlich.

Für den Sanitätsdienst der Bundeswehr eröffnet sich dadurch ein erhebliches Entwicklungspotenzial. Durch gezielte Pilotprojekte, realitätsnahe Erprobungen und die Einbindung in telemedizinische Netzwerke kann KI helfen, Lagebilder zu verbessern, Entscheidungsprozesse zu standardisieren und die Einsatzfähigkeit medizinischer Teams zu stärken. Besonders in Szenarien mit hohem Zeitdruck, unübersichtlicher Lage oder eingeschränkter personeller Verfügbarkeit könnte der verantwortungsvolle Einsatz von KI einen entscheidenden Unterschied machen – hin zu einer schnelleren, präziseren und resilienteren präklinischen Versorgung im militärischen Umfeld.

Literatur

1. Baker A, Perov Y, Middleton K, et al. A Comparison of Artificial Intelligence and Human Doctors for the Purpose of Triage and Diagnosis. Frontiers in Artificial Intelligence [Internet]. 2020 Nov 1;3. [Letzter Zugriff 10. Okt. 2025] Verfügbar unter: https://doi.org/10.3389/frai.2020.543405. mehr lesen
2. Blaschke-Steinbrecher S. Connect-ED Projektbeschreibung. Universitätsmedizin Göttingen 2023 [Internet]. [Letzter Zugriff 10. Okt. 2025] Verfügbar unter: https://notaufnahme.umg.eu/uebungsseiten/connect-ed/. mehr lesen
3. Bundesministerium für Bildung und Forschung. KI-unterstützter Telenotarzt (KIT²). Förderinformation 2022 [Internet]. [Letzter Zugriff 10. Okt. 2025] Verfügbar unter: https://www.sifo.de/sifo/shareddocs/Downloads/P-Umrisse/projektumriss_kit2.pdf?__blob=publicationFile&v=2. mehr lesen
4. Chang H, Kim JW, Jung W, et al, Pan-Asian Resuscitation Outcomes Study Clinical Research Network investigators. Machine learning pre-hospital real-time cardiac arrest outcome prediction (PReCAP) using time-adaptive cohort model based on the Pan-Asian Resuscitation Outcome Study. Sci Rep. 2023 Nov 21;13(1):20344. mehr lesen
5. Europäische Union. Artificial Intelligence Act [Internet]. [Letzter Zugriff 10. Okt. 2025] Verfügbar unter: https://artificialintelligenceact.eu/de/. mehr lesen
6. Gilbert S, Mehl A, Baluch A, et al. How accurate are digital symptom assessment apps for suggesting conditions and urgency advice? A clinical vignettes comparison to GPs. BMJ Open. 2020 Dec 16;10(12):e040269. mehr lesen
7. Goss FR, Blackley SV, Ortega CA, et al. A clinician survey of using speech recognition for clinical documentation in the electronic health record. International Journal of Medical Informatics [Internet]. 2019 Oct 1;130. [Letzter Zugriff 10. Okt. 2025] Verfügbar unter: https://doi.org/10.1016/j.ijmedinf.2019.07.017. mehr lesen
8. Haberle T, Cleveland C, Snow GL, et al. The impact of nuance DAX ambient listening AI documentation: a cohort study. Journal of the American Medical Informatics Association : JAMIA [Internet]. 2024 Apr 3;31(4):975–9. [Letzter Zugriff 10. Okt. 2025] Verfügbar unter: https://pmc.ncbi.nlm.nih.gov/articles/PMC10990544/ . mehr lesen
9. Ivanov O, Wolf L, Brecher D, et al. Improving ED Emergency Severity Index Acuity Assignment Using Machine Learning and Clinical Natural Language Processing. J Emerg Nurs [Internet]. 2021 Mar 1;47(2):265–78. [Letzter Zugriff 10. Okt. 2025] Verfügbar unter: doi: 10.1016/j.jen.2020.11.001 mehr lesen
10. Kachman MM, Brennan I, Oskvarek JJ, Waseem T, Pines JM. How artificial intelligence could transform emergency care. Am J Emerg Med. 2024 Jul;81:40-46. mehr lesen
11. Kirubarajan A, Taher A, Khan S, Masood S. Artificial intelligence in emergency medicine: A scoping review. J Am Coll Emerg Physicians Open. 2020 Nov 7;1(6):1691-1702. mehr lesen
12. Purdue University. ARTEMIS Project: AI-driven robotic triage labelling and emergency triage information system. [Letzter Zugriff 10. Okt. 2025] Verfügbar unter: https://ideas.cs.purdue.edu/research/projects/artemis/#abstract. mehr lesen
13. Schmidbauer W, Jänig C, Vits E, et al. Ein neues Rettungskonzept für Schwerstverletzte in militärischen und zivilen Großschadenslagen: DRONEVAC. Notfall Rettungsmed 2024;27:560-567. mehr lesen
14. Tyler S, Olis M, Aust N, et al. Use of Artificial Intelligence in Triage in Hospital Emergency Departments: A Scoping Review. Cureus 2024 May 8;16(5):e59906. mehr lesen
15. Vazquez J. Study: AI Surveillance Tool Successfully Helps to Predict Sepsis, Saves Lives. UC San Diego Health [Internet]. 2024 Jan 23; [Letzter Zugriff 10. Oktober 2025] Verfügbar unter: https://health.ucsd.edu/news/press-releases/2024-01-23-study-ai-surveillance-tool-successfully-helps-to-predict-sepsis-saves-lives/. mehr lesen
16. Wolcott ZC, English SW. Artificial intelligence to enhance prehospital stroke diagnosis and triage: a perspective. Front Neurol. 2024 May 2;15:1389056. mehr lesen

WMM 2025–69(12)544A

Manuskriptdaten

Zitierweise

Künstliche Intelligenz in der präklinischen Notfallmedizin – Chancen, Grenzen und militärische Relevanz

Käther D, Jänig C, Schmidbauer W, García Bardon A. Künstliche Intelligenz in der präklinischen Notfallmedizin – Chancen, Grenzen und militärische Relevanz. WMM 2025;69(12):539-544.

DOI: https://doi.org/10.48701/opus4-782

Für die Verfasser

Flottillenarzt Dr. Andreas Garcia Bardon

Klinik für Anästhesiologie, Intensivmedizin, Notfallmedizin und

Schmerztherapie

Bundeswehrzentralkrankenhaus Koblenz

Rübenacher Str. 170, 56072 Koblenz

E-Mail: andreasgarciabardon@bundeswehr.org

Manuscript Data

Citation

Käther D, Jänig C, Schmidbauer W, Garcia Bardon A. [Artificial Intelligence in Preclinical Emergency Medicine – Opportunities, Limitations, and Military Relevance]. WMM 2025;69(12):539-544.

DOI: https://doi.org/10.48701/opus4-782

For the Authors

Commander (Navy MC) Dr. Andreas García Bardon

Department for Anaesthesiology, Intensive Care, Emergency Medicine, and Pain Therapy

Bundeswehr Central Hospital Koblenz

Rübenacher Str. 170, D-56072 Koblenz

E-Mail: andreasgarciabardon@bundeswehr.org

KI-Compliance in Bundeswehrkrankenhäusern

AI Compliance in Bundeswehr Hospitals

Jörg Schönfeld^a

^a Abteilung Medizintechnik , Bundeswehrkrankenhaus Berlin

Zusammenfassung

Die Einführung von künstlicher Intelligenz (KI) im Krankenhaus ändert die Art und Weise der medizinischen Versorgung – von der Diagnostik über die Behandlungsplanung bis hin zur Patientenverwaltung. Neue sogenannte transformative Technologien versprechen eine Steigerung der Effizienz, Präzision und Personalisierung im Krankenhaus. Doch mit den immensen Möglichkeiten der Nutzung medizinischer KI-Softwareanwendungen gehen auch erhebliche Herausforderungen einher, insbesondere im Bereich der KI-Compliance.

Compliance im Kontext medizinischer KI-Anwendungen im Krankenhaus bedeutet die Einhaltung aller relevanten Gesetze, Vorschriften, Standards und ethischen Richtlinien, die den gesamten Lebenszyklus dieser Technologien betreffen – von der Entwicklung über die Implementierung bis hin zum Betrieb und der möglicherweise notwendigen Wartung. Sie ist von entscheidender Bedeutung, um die Patientensicherheit zu gewährleisten, das Vertrauen der Öffentlichkeit zu erhalten und rechtliche sowie finanzielle Risiken für Krankenhäuser zu minimieren. Ohne eine robuste KI-Compliance-Strategie könnten Krankenhäuser und Kliniken mit Datenlecks, fehlerhaften Diagnosen, Diskriminierung durch Algorithmen und einer Vielzahl rechtlicher Konsequenzen konfrontiert werden. Daher ist es unerlässlich, dass Krankenhäuser eine proaktive Rolle bei der Entwicklung und Implementierung umfassender Compliance-Rahmenwerke im Kontext ihrer eingeführten Qualitätsmanagementsysteme einnehmen, die nicht nur die aktuellen gesetzlichen Anforderungen erfüllen, sondern auch zukünftige Entwicklungen und Herausforderungen im dynamischen Feld der medizinischen KI antizipieren.

Die erfolgreiche Integration von KI in die klinische Praxis hängt maßgeblich davon ab, wie gut diese Compliance-Anforderungen verstanden, umgesetzt und kontinuierlich überprüft werden.

Schlüsselwörter: KI-Compliance, Künstliche Intelligenz, Prädikative Medizin, Datenschutz-Grundverordnung, Medizinprodukterecht-Durchführungsgesetz, Explainable AI, Critical Incident Reporting System

Summary

The introduction of artificial intelligence (AI) in hospitals is changing the way medical care is delivered, from diagnostics and treatment planning to patient management. New so-called transformative technologies promise increased efficiency, precision, and personalization in healthcare settings, including hospitals. However, the immense potential for using medical AI software applications also comes with significant challenges, particularly in the area of AI compliance.

Compliance in the context of medical AI applications in hospitals means adhering to all relevant laws, regulations, standards, and ethical guidelines that affect the entire life cycle of these technologies – from development and implementation to operation and any necessary maintenance. Hospitals must ensure patient safety, maintain public trust, and minimize legal and financial risks. Without a robust AI compliance strategy, hospitals and clinics risk facing data leaks, incorrect diagnoses, algorithmic discrimination, and a range of legal consequences. Therefore, hospitals must take a proactive role in developing and implementing comprehensive compliance frameworks within their established quality management systems that not only meet current legal requirements but also anticipate future developments and challenges in the dynamic field of medical AI. The successful integration of AI into clinical practice depends significantly on how well these compliance requirements are understood, implemented, and continuously reviewed.

Keywords: AI compliance; artificial intelligence; predictive medicine; general data protection regulation; medical device implementation act; explainable AI; critical incident reporting system

Künstliche Intelligenz im Krankenhaus

Die Einführung der künstlichen Intelligenz (KI) in Form von medizinischer Software (z. B. zur automatischen Befundung von Röntgenbildern in der radiologischen Routine) im Krankenhaus markiert einen Wendepunkt in der medizinischen Versorgung. Dank moderner KI-Anwendungen – von intelligenten Diagnosetools bis zur prädiktiven Medizin, die Krankheitsrisiken einschätzt – wird eine einst futuristische Vision heute zunehmend Wirklichkeit in der Patientenversorgung. Diese neuen Technologien haben das Potenzial, die Effizienz, Präzision und Personalisierung im Krankenhaus oder in der Klinik auf ein neues Niveau zu heben. Sie sind – richtig angewandt – geeignet, Arbeitsabläufe zu optimieren, die klinische Entscheidungsfindung zu verbessern und letztlich die Patientenergebnisse signifikant zu steigern.

Doch mit diesem enormen technologischen Potenzial geht eine ebenso große Verantwortung der Bundeswehrkrankenhäuser (BwKrhs), deren Departments und Kliniken, aber auch der Medizinproduktehersteller einher, insbesondere im Bereich der KI-Compliance. Die Bedeutung der Einhaltung relevanter Vorschriften kann im Kontext medizinischer KI-Anwendungen im Krankenhaus nicht hoch genug eingeschätzt werden. Hier geht es nicht nur um allgemeine Krankenhaus-Unternehmensrichtlinien, sondern um fundamentale Fragen der Patientensicherheit, des Datenschutzes, der Datensicherheit und der ethischen medizinischen Nutzung.

Da KI-Systeme zunehmend in hochsensiblen und kritischen Bereichen wie Diagnostik, Behandlungsplanung und Medikamentenverwaltung eingesetzt werden, steigt der Druck in den BwKrhs, diese Technologien verantwortungsvoll zu implementieren und zu steuern. Dieser Fokus auf die Umsetzung einer Compliance ist unerlässlich, um sicherzustellen, dass KI-Software-Applikationen im Krankenhaus nicht nur leistungsfähig, sondern auch rechtlich einwandfrei und ethisch vertretbar sind. Die BwKrhs müssen sich intensiv mit komplexen rechtlichen Rahmenbedingungen auseinandersetzen, wie der Datenschutz-Grundverordnung (DSGVO) [1], dem Medizinprodukte­recht-­Durch­füh­rungs­gesetz (MPDG) [2] und spezifischen anderen Richtlinien für KI in der Medizin. Eine Verletzung dieser Gesetze oder Vorschriften könnte nicht nur zu erheblichen Strafen und Reputationsschäden führen, sondern im schlimmsten Fall auch die Patientensicherheit gefährden. Die Abbildung 1 stellt beispielhaft verschiedene Anwendungsgebiete der Nutzung von KI in den BwKrhs dar.

Proaktiver Compliance-Ansatz im Bundeswehrkrankenhaus

Ein proaktiver Compliance-Ansatz ermöglicht es BwKrhs jedoch, über die bloße Risikominimierung, die durch das Qualitätsmanagement per se vorgegeben wird, hinauszugehen. Diese Perspektive schafft die Grundlage für Vertrauen bei Patienten, Personal und Aufsichtsbehörden. Durch die Implementierung robuster Compliance-Strategien können die BwKrhs nicht nur rechtliche Fallstricke vermeiden, sondern auch einen nachhaltigen Wettbewerbsvorteil in einer zunehmend digitalisierten Gesundheitslandschaft erzielen [3]. Sie können die Potenziale der KI ausschöpfen und bewährte Standards in Bezug auf Qualität, Sicherheit und Ethik gewährleisten. Um sicherzustellen, dass Krankenhaus-KI-Anwendungen sowohl innovativ als auch vollständig compliant sind, müssen sogenannte systematische Ansätze (Prozesse) und eine umfassende Strategie über den gesamten Lebenszyklus der medizinischen KI-Anwendungen etabliert werden. Dies beginnt bei der Konzeption und reicht bis zur kontinuierlichen Überwachung und Wartung. Wichtige Schwerpunkte der Umsetzung der IT-Compliance für KI-Applikationen im BwKrhs bilden (Beispiele):

1. Frühzeitige und kontinuierliche Compliance-Bewertung

Der Compliance-Prozess muss von Anfang an in den Entwicklungszyklus (von der Idee der Einführung von KI an) integriert werden. Das bedeutet, dass bereits in der Konzeptionsphase einer KI-Anwendung rechtliche, ethische und datenschutzrechtliche Anforderungen berücksichtigt werden. Dies schließt die Einhaltung nationaler (z. B. Medizinprodukterecht, Datenschutzgesetze) und internationaler Standards (z. B. EU AI Act, sofern anwendbar) ein. Eine kontinuierliche Risikobewertung, unterstützt durch das Krankenhaus-QM, während des gesamten Entwicklungs- und Implementierungsprozesses, hilft, potenzielle KI-Compliance-Probleme frühzeitig zu identifizieren und zu beheben. In der Regel verwenden die BwKrhs und deren Fachbereiche bereits fertige KI-Anwendungen, die von Medizinprodukteherstellern angeboten werden. Diese KI-Anwendungen werden dann im BwKrhs an die Kundenwünsche im Sinne des Software-Customizing angepasst.

2. Robuste Datenverwaltung und -sicherheit

Die Grundlage jeder complianten KI-Anwendung sind sichere und datenschutzkonforme Daten. Sensible Patientendaten sollten anonymisiert oder pseudonymisiert, durch strenge Zugriffsrechte geschützt und verschlüsselt übertragen werden. Die BwKrhs müssen sicherstellen, dass für das Training von KI-Modellen nur rechtmäßig erhobene und qualitativ hochwertige Daten (z. B. DICOM-Standards in der Bildgebung) verwendet werden, um Bias und Fehlfunktionen zu vermeiden [4]. Cybersicherheitsmaßnahmen sind unerlässlich, um Datenlecks und unautorisierte Zugriffe zu verhindern. Zur Umsetzung dieser Anforderungen unterstützen im BwKrhs der Administrative Datenschutzbeauftragte (ADSB) und der Informationssicherheitsbeauftragte (ISB) die Verantwortlichen. Diese Funktionen können allerdings auch von externen Dienstleistern bereitgestellt werden.

3. Transparenz und Erklärbarkeit

KI-Anwendungen in den BwKrhs dürfen keine “Black Boxes“ sein. Es muss gewährleistet sein, dass die Entscheidungen und Empfehlungen der KI nachvollziehbar und erklärbar sind (Explainable AI (XAI)). XAI bezeichnet Methoden und Prozesse, die darauf abzielen, die Funktionsweise und Entscheidungsfindung von KI für menschliche Nutzer (medizinisches Personal) verständlich zu machen. Im BwKrhs richtet sich der Fokus darauf, dass Ärzte und medizinisches Personal verstehen müssen, wie die KI zu ihren Ergebnissen kommt, um diese kritisch bewerten und bei Bedarf korrigieren sowie deren Plausibilität erklären zu können. Dies ist nicht nur eine technische, sondern auch eine rechtliche und ethische Anforderung, insbesondere wenn es um die Verantwortung bei Fehldiagnosen oder Fehlbehandlungen geht. Der Arzt hat immer die letzte „menschliche/fachärztliche“ Entscheidung zu treffen.

4. Validierung, Verifizierung und Leistungsüberwachung

Nach der Entwicklung müssen KI-Anwendungen umfassend validiert und verifiziert werden, um ihre Leistung und Sicherheit in realen klinischen Szenarien zu bestätigen. Dies umfasst vorhandene klinische Studien und Tests, um die Genauigkeit, Zuverlässigkeit und Robustheit der KI-Modelle zu gewährleisten. Nach der Implementierung ist eine kontinuierliche Leistungsüber­wachung unerlässlich, um sicherzustellen, dass die KI-Modelle im Laufe der Zeit nicht durch Datenverschiebungen oder andere Faktoren an Genauigkeit verlieren (Model Drift) und dass sie weiterhin notwendige Compliance-Anforderungen erfüllen. Dieser Abschnitt ist von besonderer Bedeutung, wenn Kliniken unmittelbar in die Entwicklung von KI-Anwendungen eingebunden sind. Dies gilt insbesondere für Universitätskliniken, die im Rahmen ihrer klinischen Tätigkeit Start-ups gründen, deren Schwerpunkt auf der Integration von KI-Anwendungen in den klinischen Betrieb liegt [5].

5. Ethische Richtlinien und Governance

Über die reinen Rechtsvorschriften hinaus sind klare ethische Richtlinien für den Einsatz von KI im Krankenhaus von entscheidender Bedeutung. Dies beinhaltet die Sicherstellung von Fairness, Vermeidung von Diskriminierung (z. B. durch Algorithmen-Bias basierend auf demografischen Daten), Achtung der Patientenautonomie und Festlegung von Verantwortlichkeiten im Falle von Fehlern. Die Einrichtung eines Fehlermeldeportals im Kontext der Nutzung von KI-Anwendungen im Krankenhaus als Teil des Krankenhaus-QM – analog z. B. der Anwendung von CIRS – ist sinnvoll. Zum Vergleich: Das Critical Incident Reporting System (CIRS) ist ein wichtiges Hilfsmittel im Krankenhaus, um Qualität zu sichern und Risiken zu minimieren. Im Grunde geht es darum, kritische Ereignisse – also Situationen, in denen etwas schiefgelaufen ist oder beinahe schiefgegangen wäre – zu erfassen und genau zu untersuchen. Ziel ist es, aus diesen Fehlern und Beinahe-Fehlern zu lernen. Indem man versteht, warum etwas passiert ist, kann man Verbesserungen in Arbeitsabläufe und Prozesse einführen. So sollen solche Vorfälle in Zukunft verhindert und die Patientensicherheit erhöht werden. Es ist ein System, das dazu dient, aus Erfahrungen zu lernen und sich ständig zu verbessern [6]. Eine dedizierte Krankenhaus-Governance-Struktur oder ein Krankenhaus-Ethik-Komitee im BwKrhs können dabei helfen, sogenannte ethische Dilemmata zu bewerten, Richtlinien für den verantwortungsvollen Einsatz von KI zu entwickeln und die Standards vorzugeben. Dabei werden Anwender von KI von der QM-Abteilung im BwKrhs unterstützt.

6. Schulung und Kompetenzentwicklung

Das medizinische Personal muss umfassend geschult werden, um KI-Anwendungen sicher und effektiv nutzen zu können. Dies geht mit einem sogenannten Change-Prozess einher. Dies beinhaltet nicht nur die technische Handhabung, sondern auch das Verständnis der Grenzen der KI, die Bedeutung von Datenqualität und der Notwendigkeit einer menschlichen Aufsicht und letztendlichen Entscheidungsfindung. Die Mitarbeitenden im BwKrhs sollen in den Prozess zur Einführung medizinischer KI einbezogen werden und diesen aktiv begleiten. Eine informierte Nutzung durch geschultes Personal ist ein Kernbestandteil der KI-Compliance. In der Regel ist das auch so – insbesondere dann, wenn die Medizinproduktehersteller KI-Anwendungen gemeinsam mit dem medizinischen Personal customisieren (anpassen).

Abbildung 2 fasst die wesentlichen Aspekte des proaktiven Compliance-Ansatzes bei der Nutzung von KI-Anwendungen in den BwKrhs zusammen, ganz im Sinne der Umsetzung eines KI-Compliance-Managements.

Abb. 2: Vereinfachte Darstellung der Elemente eines KI-Compliance-Managements in den BwKrhs

Fallbeispiel der Anwendung des Risikomanagements „KI-gestützte Diagnostik in der Radiologie“

Durch den verstärkten Einsatz von KI-Systemen in den BwKrhs, insbesondere im Bereich der Radiologie und bei KI-gestützten Befundungen von Röntgenbildern, entsteht ein erhöhter Bedarf an Maßnahmen zur Gewährleistung des Patientenwohls, der technischen Integrität und der klinischen Verantwortung. Krankenhäuser sind gemäß der EU-KI-Verordnung [7] verpflichtet, ein kontinuierliches Risikomanagementsystem zu etablieren, welches potenzielle Gefahren frühzeitig identifiziert, systematisch bewertet und wirksam minimiert. Ein vom Qualitätsmanagement im BwKrhs und von der radiologischen Klinik eingeführtes Risikomanagement soll gewährleisten, dass die in der Radiologie eingesetzten KI-Anwendungen sowohl medizinisch effektiv als auch ethisch vertretbar sind. Insbesondere gilt es, negative Auswirkungen auf Patienten abzuwenden. Dies schließt die Überprüfung möglicher Diskriminierung, die Analyse unbeabsichtigter Verzerrungen in automatisierten Entscheidungsprozessen sowie die Sicherung der digitalen Krankenhaus-Sicherheit ein.

Beispiele von möglichen Risiken

Im Rahmen der klinischen Bildgebung werden jetzt und in Zukunft KI-gestützte Systeme zur automatisierten Auswertung von MRT- und CT-Daten in den BwKrhs verwendet. Diese dienen der technologischen Unterstützung für medizinisches Fachpersonal (Fachärzte) bei der Erkennung pathologischer Befunde wie Tumoren oder z. B. vaskulären Auffälligkeiten.

Die Anwendung solcher Systeme ist mit verschiedenen Risiken verbunden:

• Diskriminierung durch unzureichend diverse KI-Trainingsdaten, was zur Benachteiligung bestimmter Patientengruppen führen kann,
• Verzerrungen im Diagnoseprozess, die durch algorithmische Voreingenommenheit der KI entstehen können, sowie
• Gefährdung der medizinischen Versorgungssicherheit, etwa durch fehlerhafte Systementscheidungen infolge technischer Manipulationen oder Fehlfunktionen der medizinischen KI-Applikation.

Zur Minimierung dieser Risiken können folgende Maßnahmen umgesetzt werden:

• Einrichtung eines Audit-Systems zur periodischen Überprüfung der KI-Entscheidungslogik,
• Sicherstellung der Möglichkeit zur menschlichen Einflussnahme auf KI-basierte Entscheidungsprozesse,
• Schulung des medizinischen Personals im Umgang mit KI-Systemen sowie in ethischen und rechtlichen Aspekten sowie
• Erarbeitung und Implementierung transparenter Kommunikationsstandards gegenüber Patientinnen und Patienten, insbesondere bei KI-basierten Therapieempfehlungen.

Die Abbildung 3 stellt vereinfacht dar, wie KI in der Radiologie bei der automatischen multimodalen Bildbefundung von CT und MRT im BwKrhs eingesetzt wird (technologisches Fallbeispiel). Die Abbildung 4 zeigt vereinfacht die Integration von KI-Compliance-Prozessen in einem radiologischen KI-Befundsystem im BwKrhs.

Abb. 4: Vereinfachte Darstellung Integration eines KI-Compliance-Prozesses im Krankenhaus

Fazit

Angesichts der bevorstehenden Integrationen von KI-Anwendungen in vorhandene qualitätsgesicherte medizinische Prozesse stehen die BwKrhs vor einer doppelten Herausforderung: Sie werden nicht nur die neuen Potenziale dieser Technologien nutzen, sondern auch ein ­immer komplexeres Geflecht aus regulatorischen Anforderungen meistern müssen. Mit KI werden Risikomanagement, Datenschutz, Informationssicherheit und Qualitätsmanagement noch komplexer und anspruchsvoller. Die notwendige Komplexität und Intensität dieser Vorschriften, die von der europäischen Datenschutz-Grundverordnung (DSGVO) über spezifische Medizinprodukteregularien bis hin zu künftigen KI-Gesetzen reichen, machen ein lückenloses Compliance Management (KI-Compliance) im Krankenhaus unerlässlich.

Die mangelnde Einhaltung (Non-Compliance) von Vorschriften, insbesondere im Kontext von KI-gestützten Diagnosen, Behandlungsplanungen oder automatisierten Prozessen, birgt unnötige und inakzeptable Risiken. Fehlfunktionen von KI-Systemen, unzureichender Schutz sensibler Patientendaten oder algorithmische Verzerrungen können die Patientensicherheit gefährden. Solche Vorfälle führen nicht nur zu einem tiefgreifenden Vertrauensverlust in der Öffentlichkeit und einem erheblichen Reputationsschaden für das betroffene BwKrhs, sondern ziehen auch andere Konsequenzen nach sich. Neben direkten Sanktionen gegen den Träger und die Geschäftsführung des Krankenhauses persönlich können auch empfindliche finanzielle Verluste die Folge sein, etwa durch Schadenersatzforderungen oder Bußgelder.

Um Risiken zu minimieren und die Vorteile von KI sicher zu nutzen, brauchen die BwKrhs ein effektives und zukunftsfähiges KI-Compliance-Management-System. Dieses System muss flexibel genug sein, um sich kontinuierlich an neue technologische Entwicklungen und sich ändernde regulatorische Anforderungen ständig anzupassen. Dieser Prozess wird vom Qualitätsmanagement des Krankenhauses überwacht. Nur so können Krankenhäuser die Chancen der KI voll ausschöpfen und gleichzeitig hohe Standards in Bezug auf Patientensicherheit, Datenschutz und ethische Verantwortlichkeit gewährleisten, wodurch sie nicht nur rechtliche Sicherheit erlangen, sondern auch ihre Rolle als vertrauenswürdige und innovative Gesundheitseinrichtungen festigen.

Literatur

1. Bundesministerium der Justiz und im Verbraucherschutz. Gesetz zur Durchführung unionsrechtlicher Vorschriften betreffend Medizinprodukte [Internet]. [letzter Zugriff 27. September 2025]. Verfügbar unter https://www.gesetze-im-internet.de/mpdg/ . mehr lesen
2. Datenschutz-Grundverordnung. Intersoft Consulting [Internet]. [letzter Zugriff 27. September 2025]. Verfügbar unter https://dsgvo-gesetz.de/. mehr lesen
3. Dillscheider J. Die Notwendigkeit eines effizienten Compliance Management Systems im Krankenhaus. [Internet] [letzter Zugriff 27.09.2025]. Verfügbar unter https://www.pwc.de/de/gesundheitswesen-und-pharma/krankenhaeuser/digitalisierung-im-krankenhaus/compliance-management-system-im-gesundheitssektor.html. mehr lesen
4. Europäische Union, EUR-Lex. Verordnung über künstliche Intelligenz KI-Verordnung [Internet]. [letzter Zugriff 27. September 2025. Verfügbar unter https://ai-act-law.eu/de/. mehr lesen
5. Haserück A. Blickwinkel: Wie kann man Bias in KI vermeiden? Deutsches Ärztblatt 2024;121(5):324. mehr lesen
6. Heggen M. Pressemeitteilung der Charité vom 02.07.2025 [Internet].2025[letzter Zugriff 27. September 2025]. Verfügbar unter https://www.charite.de/service/pressemitteilung/artikel/detail/charite_und_bih_sind_mitinitiatoren_einer_neuen_investorenmesse_in_berlin. mehr lesen
7. Mack J. CIRS als Werkzeug des Qualitäts- und Risikomanagement im deutschen Versorgungssystem[Internet].[letzter Auifruf 27. September 2025]. Verfügbar unter https://www.springermedizin.de/cirs-als-werkzeug-des-qualitaets-und-risikomanagement-im-deutsch/23420226. mehr lesen

Manuskriptdaten

Zitierweise

Schönfeld J. KI-Compliance im Bundeswehrkrankenhaus. WWM 2025;69(12):545-549.

DOI: https://doi.org/10.48701/opus4-784

Für die Verfasser:

Dipl.-Ing. Jörg Schönfeld

Abteilung M – Medizintechnik

Bundeswehrkrankenhaus Berlin

Scharnhorststraße 13, 10115 Berlin

E-Mail: joergschoenfeld@bundeswehr.org

Manuscript Data

Citation

Schönfeld J. [AI Compliance in Bundeswehr Hospitals]. WWM 2025;69(12):545-549.

DOI: https://doi.org/10.48701/opus4-784

For the Authors

Senior Biomedical Engineer Dipl.-Ing. Jörg Schönfeld

Department Biomedical Engineering

Bundeswehr Hospital Berlin

Scharnhorststraße 13, D-10115 Berlin

E-Mail: joergschoenfeld@bundeswehr.org