Künstliche Intelligenz hält Einzug in die Pflege, und sie tut es schneller, als die meisten Einrichtungen darauf vorbereitet sind. Tourenplanung in ambulanten Diensten, automatisierte Pflegedokumentation, Sturzprävention durch Sensorik, Sprachassistenten in Pflegeheimen, Risikoanalysen für Dekubitus oder Mangelernährung: Was vor wenigen Jahren Pilotprojekt war, ist heute in vielen Häusern Alltag. Mit den großen multimodalen Modellen, die Text, Bild, Audio und klinische Daten gleichzeitig verarbeiten können, entsteht eine neue Qualität. Die WHO hat darauf 2024 mit einer umfassenden Leitlinie reagiert, die zentrale Fragen für die Pflege aufwirft – auch wenn sich das Dokument nicht ausdrücklich auf den Pflegesektor bezieht.
>>> Interessierte finden das im folgenden thematisierte Dokument als PDF verlinkt am Ende des Artikels. Auch kann es hier herunter geladen werden: https://www.who.int/publications/i/item/9789240084759 (1,2 MB)
Pflege ist ein besonders sensibler Bereich
Pflege findet in einer Sphäre statt, in der Menschen besonders verletzlich sind. Wer gepflegt wird, ist auf Unterstützung angewiesen, häufig in einer Lebensphase, in der Autonomie ohnehin bedroht ist. Pflegebedürftige Menschen können oft nicht selbst entscheiden, welche Daten über sie erhoben werden, wie diese verarbeitet werden und wer Zugriff erhält.
Hinzu kommt eine zweite Asymmetrie: Pflegekräfte arbeiten unter hohem ökonomischem Druck. Wenn KI-Systeme versprechen, Dokumentationszeit zu sparen oder Personalengpässe abzufedern, geraten ethische Bedenken schnell in den Hintergrund. Genau darauf zielt eine zentrale Warnung der WHO:
Sie nennt es „technological solutionism” – also die Neigung, technische Lösungen für Probleme zu erwarten, die eigentlich strukturell sind. Personalmangel in der Pflege lässt sich nicht durch Software beheben. Wenn KI als Ersatz für Beziehungsarbeit eingesetzt wird statt als Unterstützung, geht etwas ganz Wesentliches verloren.
Was die WHO-Leitlinie für die Pflege bedeutet
Die WHO formuliert sechs ethische Grundprinzipien, die für die Pflege besonders relevant sind: Schutz der Autonomie, Förderung von Wohlergehen und Sicherheit, Transparenz, Verantwortung, Inklusivität und Nachhaltigkeit.
Übersetzt in den Pflegealltag heißt das: Pflegebedürftige Menschen müssen verstehen können, wenn KI an einer Entscheidung beteiligt ist. Pflegekräfte müssen wissen, wann sie sich auf ein System verlassen können und wann nicht. Und Träger müssen sicherstellen, dass KI-Systeme nicht systematisch bestimmte Gruppen benachteiligen.
Letzteres ist keine theoretische Sorge. KI-Modelle werden mit Daten trainiert, und diese Daten spiegeln bereits bestehende Ungleichheiten wider. Sie sind also „biased”. Heißt: Wenn ein Sturzpräventionssystem überwiegend mit Daten aus westlichen Akutkliniken trainiert wurde, kann es bei Bewohner:innen einer Pflegeeinrichtung mit anderen Mobilitätsprofilen versagen. Wenn ein Sprachassistent dialektgefärbtes Deutsch oder die Sprache älterer Menschen mit Demenz schlechter erkennt, entstehen Versorgungslücken.
Die WHO weist ausdrücklich darauf hin, dass Spracherkennungssysteme bei Menschen mit Sprachbeeinträchtigungen weniger genau arbeiten und dass Modelle Menschen mit Behinderungen mitunter als „nicht lebendig” oder „emotional flach” klassifizieren.
Datenschutz unter Druck
Die Datenschutzfrage stellt sich in der Pflege besonders scharf. Pflegedaten sind hochsensibel: Sie umfassen Diagnosen, Medikation, Verhalten, Inkontinenz, kognitive Beeinträchtigungen, familiäre Verhältnisse. Werden solche Daten in KI-Systeme eingespeist, ist häufig unklar, wo sie landen.
Die WHO dokumentiert, dass mehrere große Sprachmodelle die Anforderungen der europäischen Datenschutz-Grundverordnung möglicherweise nie vollständig erfüllen können – etwa, weil sie kein nachvollziehbares Recht auf Löschung, Berichtigung oder Erklärung automatisierter Entscheidungen gewährleisten. In Italien wurde ChatGPT zeitweise sogar gesperrt; in Kanada und mehreren EU-Staaten laufen Untersuchungen.
Für Pflegeeinrichtungen heißt das: Wer ein KI-System einführt, muss prüfen, welche Daten verarbeitet werden, wo sie gespeichert sind und ob die Verarbeitung auf einer gültigen Rechtsgrundlage beruht. Bloße Einwilligungen reichen nicht, wenn die Bewohner:innen kognitiv nicht in der Lage sind, die Tragweite zu erfassen.
Hier sind Betreuer:innen, Angehörige und Ethikkommissionen gefragt.
Ein Blick in die konkrete Praxis
Mehrere Anwendungsfelder zeigen, wo der Einsatz funktioniert – und wo Vorsicht geboten ist. In der ambulanten Pflege werden KI-gestützte Tourenplanungen eingesetzt, die Fahrzeiten optimieren und Personalressourcen effizienter verteilen. Solange die Systeme reine Logistikfunktionen erfüllen und keine pflegerischen Entscheidungen vorgeben, ist der Nutzen weitestgehens unstrittig.
In der stationären Pflege kommen außerdem auch Sensorsysteme zum Einsatz, die Stürze erkennen oder Bewegungsmuster nachts überwachen. Hier verlaufen die ethischen Linien feiner: Solche Systeme können Sicherheit erhöhen, aber sie greifen tief in die Privatsphäre ein. Die WHO fordert, dass Betroffene wissen müssen, wenn sie überwacht werden, und dass weniger invasive Alternativen geprüft werden.
Bei der Pflegedokumentation versprechen sprachbasierte KI-Systeme erhebliche Entlastung. Pflegekräfte diktieren, das System strukturiert. Die WHO weist darauf hin, dass solche Anwendungen die meiste Plausibilität haben – sofern menschliche Kontrolle erhalten bleibt.
Eine vollständige Automatisierung wäre allerdings fahrlässig, weil Sprachmodelle bei identischem Input unterschiedliche Ergebnisse liefern können.
Heikler wird es bei Entscheidungsunterstützung: Wenn ein System Risikobewertungen vornimmt, etwa für Dekubitus, Sturz oder Suizidalität, dürfen diese Bewertungen nie ungeprüft Grundlage für Maßnahmen werden. Die WHO warnt eindringlich vor „Automation Bias” – also vor der Tendenz, Maschinenurteile zu akzeptieren, auch wenn die eigene Erfahrung dagegenspricht. In der Pflege kann das gravierende Folgen haben.
Was Einrichtungen jetzt tun sollten
Die WHO empfiehlt verpflichtende Folgenabschätzungen vor dem Einsatz, regelmäßige unabhängige Audits, Transparenz über Trainingsdaten und klare Verantwortungsketten.
Für Pflegeeinrichtungen heißt das konkret: Vor der Anschaffung eines KI-Systems sollten die rechtliche Grundlage, die Datenflüsse, die Erklärbarkeit der Ergebnisse und die Schulungsbedarfe geklärt sein. Pflegekräfte brauchen Zeit und Ressourcen, um den Umgang mit den Systemen zu lernen – und sie brauchen das Recht, einer Maschinenempfehlung zu widersprechen.
Künstliche Intelligenz kann die Pflege entlasten und qualitativ verbessern. Aber sie kann eben nur dann zur Stabilisierung des Systems beitragen, wenn sie ergänzt, was Pflege ausmacht, statt es zu ersetzen: Aufmerksamkeit, Beziehung, fachliche Urteilskraft.
Die WHO macht ganz unmissverständlich klar, dass diese Aufgabe nicht den Tech-Konzernen überlassen werden darf. Sie ist eine gesellschaftliche und politische Aufgabe, an der Pflegeverbände, Einrichtungen, Beschäftigte und pflegebedürftige Menschen selbst beteiligt werden müssen.
Fazit
Der Einsatz von KI in sensiblen Pflegebereichen ist keine rein technische Frage, sondern eine ethische und sozialpolitische. Die WHO-Leitlinie verdeutlicht, dass Datenschutz, Transparenz und Verantwortungsklarheit nicht verhandelbar sind – unabhängig davon, wie groß der ökonomische Druck auf Einrichtungen ist oder wie verlockend die Effizienzversprechen klingen. Pflegebedürftige Menschen haben ein Recht darauf, zu wissen, wann und wie KI an Entscheidungen über sie beteiligt ist. Pflegekräfte brauchen Schulung, Zeit und das Recht, Maschinenempfehlungen zu widersprechen. Träger und Politik müssen sicherstellen, dass technische Systeme nicht zur Sparmaßnahme auf Kosten der Beziehungsarbeit werden. KI kann die Pflege bereichern, wenn sie konsequent am Menschen ausgerichtet bleibt – an seinen Rechten, seiner Würde und den realen Bedingungen der Versorgung. Andernfalls droht eine Pflege, in der Effizienz zum Maßstab wird und das Wesentliche verloren geht.
Quelle:
WHO: Ethics and governance of artificial intelligence for health Guidance on large multi-modal models (2024). Zuletzt online abgerufen von:
https://www.who.int/publications/i/item/9789240084759 am: 17.05.2026
Hier finden Sie das PDF.
——
Wir sind gespannt auf und offen für Ihre Kommentare und E-Mails an die Autorin des Artikels via info@carolinmakus.desowie an die Redaktion von CareTRIALOG.de via: info@caretrialog.de.
Foto: Gerd Altmann – Pixabay
Anzeige
