DSGVO-konforme KI-Nutzung in Kliniken

Eine Pflegekraft kopiert einen Entlassbrief in ChatGPT, damit die Formulierung schneller steht. Ein Arzt lässt sich per Sprach-App eine Zusammenfassung eines Aufnahmegesprächs erstellen, weil die klinikeigene Software gerade wieder hängt. Beides passiert in deutschen Kliniken – meist ohne böse Absicht, aber auch ohne dass jemand geprüft hat, ob es erlaubt ist. Diese sogenannte Schatten-KI ist eines der am meisten unterschätzten Risiken beim Thema KI im Gesundheitswesen.

Warum Gesundheitsdaten ein eigenes Kapitel sind

Gesundheitsdaten zählen nach Art. 9 DSGVO zu den besonderen Kategorien personenbezogener Daten. Ihre Verarbeitung ist grundsätzlich verboten – erlaubt nur in eng definierten Ausnahmefällen, etwa mit ausdrücklicher Einwilligung, wenn sie zur Gesundheitsversorgung erforderlich ist, oder auf Grundlage einer spezifischen gesetzlichen Regelung. Hinzu kommt in Deutschland die ärztliche Schweigepflicht nach § 203 StGB, die unabhängig von der DSGVO gilt und im Zweifel auch strafrechtlich relevant wird – nicht nur ein Bußgeld-, sondern ein Strafrecht-Thema.

Das ChatGPT-Problem konkret

Die freie Version von ChatGPT über ein privates Konto zu nutzen und dabei Namen, Geburtsdaten, Diagnosen oder Medikationspläne einzugeben, verstößt gegen § 203 StGB und die DSGVO – und zwar unabhängig davon, ob die Eingabe hinterher wieder gelöscht wird. Zwei Probleme kommen zusammen:

• Kein Auftragsverarbeitungsvertrag (AVV): Ohne einen AVV nach Art. 28 DSGVO ist die Verarbeitung durch den KI-Anbieter nicht rechtmäßig geregelt. Das kann als Verstoß mit Bußgeldern von bis zu vier Prozent des Jahresumsatzes geahndet werden.
• Drittlandtransfer: Eingaben werden häufig auf Servern außerhalb der EU verarbeitet, oft in den USA. Über das EU-U.S. Data Privacy Framework ist das derzeit rechtlich abgesichert – allerdings ist dieses Abkommen politisch nicht in Stein gemeißelt und war bereits mehrfach Gegenstand rechtlicher Auseinandersetzungen.

Was tatsächlich funktioniert

KI-Nutzung mit Patientendaten ist nicht grundsätzlich ausgeschlossen – sie muss nur sauber aufgesetzt sein. In der Praxis heißt das:

• Enterprise-Verträge statt Privatkonten, inklusive AVV und – wo möglich – Pseudonymisierung der Eingaben.
• EU-Hosting, etwa über Anbieter mit vertraglich zugesicherter Datenresidenz innerhalb der EU.
• Lokale oder selbst gehostete Modelle für besonders sensible Anwendungsfälle, bei denen Daten die eigene Infrastruktur gar nicht erst verlassen.

Warum Schatten-KI meist kein Vorsatz ist

In den seltensten Fällen steckt hinter der Nutzung nicht freigegebener KI-Tools böser Wille. Meist ist es schlicht der schnellste Weg zu einem Ergebnis, während die offizielle Software langsam, umständlich oder gerade nicht verfügbar ist. Genau deshalb hilft ein reines Verbot allein wenig – wer den Griff zu ChatGPT verbietet, ohne eine praktikable Alternative bereitzustellen, verlagert das Problem nur ins Verborgene. Wirksamer ist die Kombination aus einer klar kommunizierten Regel, einem freigegebenen Tool, das den eigentlichen Bedarf abdeckt, und einer kurzen, verständlichen Erklärung, warum der Unterschied überhaupt wichtig ist.

Die kurze Prüfung vor dem ersten Einsatz

Bevor ein KI-Tool in Kontakt mit Patientendaten kommt, lohnen sich vier Fragen: Wo stehen die Server, auf denen die Daten verarbeitet werden? Existiert ein unterschriebener AVV mit dem Anbieter? Ist eine Pseudonymisierung technisch möglich, bevor Daten das eigene System verlassen? Und: Weiß das Team überhaupt, welche Tools gerade im Alltag genutzt werden – oder läuft im Hintergrund längst Schatten-KI, von der die Leitung nichts weiß? Diese vierte Frage lässt sich am zuverlässigsten durch ein kurzes, offenes Gespräch mit dem Team beantworten – nicht durch eine Richtlinie, die niemand liest.