ChatGPT in seiner kostenlosen Form ist für den Umgang mit Patientendaten nicht DSGVO-konform. Für den Einsatz im Gesundheitswesen braucht man eine Enterprise-Lösung mit Auftragsverarbeitungsvertrag (AVV) und EU-Hosting oder eine speziell gehärtete Medical-KI-Plattform. Was erlaubt ist und was nicht, hängt davon ab, welche Daten eingegeben werden und welcher Tarif genutzt wird.
Ärzte und Praxismanager fragen sich zunehmend, ob ChatGPT bei der Arbeit genutzt werden darf. Die kurze Antwort: Es kommt auf die Nutzungsweise an. Wer allgemeine medizinische Fragen stellt oder einen Brief ohne Patientenbezug formuliert, bewegt sich in sicherem Terrain. Wer Patientendaten eingibt, riskiert einen erheblichen DSGVO-Verstoß.
Dieser Artikel erklärt die rechtlichen Grundlagen, den Unterschied zwischen kostenlosen und Enterprise-Tools, die praktischen Konsequenzen des AI Acts und liefert eine konkrete Checkliste für eine rechtssichere KI-Nutzung in Praxis oder Klinik.
DSGVO im Gesundheitswesen: die rechtliche Grundlage
Gesundheitsdaten sind nach Art. 9 DSGVO eine besondere Kategorie personenbezogener Daten. Die Verarbeitung ist grundsätzlich verboten, es sei denn, eine der abschließend geregelten Ausnahmen greift: ausdrückliche Einwilligung des Patienten, medizinische Versorgung, öffentliches Interesse im Bereich der Gesundheit oder ein anderer explizit genannter Ausnahmetatbestand.
Was das für KI bedeutet: Wer Patientendaten in ein KI-Tool eingibt, verarbeitet besondere Kategorien personenbezogener Daten. Das ist nur zulässig, wenn alle DSGVO-Anforderungen erfüllt sind: Rechtsgrundlage, AVV mit dem Anbieter, EU-konformes Hosting und die Garantie, dass Daten nicht zum Modelltraining verwendet werden.
Strafen bei Verstößen: bis zu 20 Millionen Euro oder 4% des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Für Arztpraxen bedeutet das: auch kleinere Verstöße können existenzgefährdende Konsequenzen haben. Quelle: Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI).
Kostenloser ChatGPT vs. Enterprise-Lösungen
Der Unterschied ist nicht trivial. Es handelt sich um grundlegend verschiedene Produkte mit verschiedenen Datenschutzgarantien:
| Merkmal | ChatGPT kostenlos / Plus | ChatGPT Enterprise / Azure OpenAI |
|---|---|---|
| Training mit Eingaben | Möglich (opt-out verfügbar, aber kein Standard) | Nein, vertraglich ausgeschlossen |
| AVV (Auftragsverarbeitungsvertrag) | Nein | Ja, abschließbar |
| EU-Hosting | Nein (primär USA) | Möglich (EU-Rechenzentren konfigurierbar) |
| Datenlöschung auf Anfrage | Eingeschränkt | Vertraglich geregelt |
| Einsatz mit Patientendaten | Nicht erlaubt | Unter Bedingungen möglich |
| Preis | 0 / 20 $/Monat | Ab 30 $/Nutzer/Monat |
Wichtig: Selbst mit einer Enterprise-Lösung ist Compliance nicht automatisch gegeben. Der Arzt oder die Klinik muss sicherstellen, dass der AVV tatsächlich abgeschlossen wurde, EU-Rechenzentren konfiguriert sind und das Team entsprechend geschult ist.
Anonymisierung vs. Pseudonymisierung
Dieser Unterschied ist für die Praxis entscheidend:
Anonymisierte Daten lassen sich nicht mehr einer bestimmten Person zuordnen, auch nicht mit zusätzlichem Aufwand. Sie fallen nicht unter die DSGVO. Echte Anonymisierung ist im medizinischen Kontext schwierig zu erreichen: Diagnose, Altersgruppe, Region, Facharzt und Behandlungszeitraum zusammen können trotz fehlenden Namens ausreichen, um eine Person zu identifizieren.
Pseudonymisierte Daten wurden so verändert, dass zur Identifizierung zusätzliche Informationen nötig sind, die separat gespeichert werden. Sie fallen weiterhin unter die DSGVO. Beispiel: "Patient mit Diabetes mellitus Typ 2, 65 Jahre, Münchenˮ ist pseudonymisiert. "Ein Patient mit Diabetes, 65 Jahreˮ kann unter Umständen als anonymisiert gelten, wenn keine Rückführung möglich ist.
Die Faustregel für den Praxisalltag: Wenn Sie auch nur theoretisch nachvollziehen könnten, um wen es sich handelt, sind die Daten pseudonymisiert, nicht anonym.
Für die KI-Nutzung bedeutet das: Nur mit echten anonymisierten Daten oder ohne jeden Patientenbezug ist der Einsatz kostenloser Tools sicher. Für alles andere brauchen Sie eine Enterprise-Lösung mit AVV.
Wer ist verantwortlich?
Die DSGVO unterscheidet zwischen Verantwortlichem (der die Zwecke und Mittel der Verarbeitung bestimmt) und Auftragsverarbeiter (der im Auftrag des Verantwortlichen handelt).
In der Praxis: Der Arzt oder die Klinik ist Verantwortlicher. OpenAI, Microsoft oder ein anderer KI-Anbieter ist potenzieller Auftragsverarbeiter. Ohne AVV ist unklar, in welcher Rolle der Anbieter agiert, und der Arzt trägt das gesamte Haftungsrisiko.
Mit AVV gilt: Der Anbieter handelt ausschließlich nach Weisung des Verantwortlichen, darf Daten nicht für eigene Zwecke nutzen und muss technische und organisatorische Maßnahmen nachweisen. Bei Verstoß des Auftragsverarbeiters haftet primär trotzdem der Verantwortliche gegenüber Betroffenen; der Rückgriff auf den Auftragsverarbeiter ist intern möglich.
Datenschutz-Folgenabschätzung (DPIA): Bei systematischer Verarbeitung von Gesundheitsdaten durch KI ist in der Regel eine DPIA nach Art. 35 DSGVO erforderlich. Sie analysiert Risiken und dokumentiert Schutzmaßnahmen, bevor die Verarbeitung beginnt.
AI Act und Medizin
Der EU AI Act trat 2024 in Kraft und wird schrittweise anwendbar. Für Arztpraxen und Kliniken ist relevant: KI-Systeme im Gesundheitswesen gelten als Hochrisiko-KI (Annex III des AI Acts), sofern sie zur Unterstützung klinischer Entscheidungen, Diagnose oder Behandlung eingesetzt werden.
Was das bedeutet:
- Anbieter müssen solche Systeme in einer EU-Datenbank registrieren, Konformitätsbewertungen durchführen und Transparenzanforderungen erfüllen.
- Nutzer (Arztpraxen, Kliniken) müssen sicherstellen, dass menschliche Aufsicht vorhanden ist, Protokolle über KI-gestützte Entscheidungen geführt werden und Mitarbeiter entsprechend geschult sind.
- Reine Dokumentations-Tools ohne klinische Entscheidungskomponente fallen in der Regel nicht unter Hochrisiko, aber die Abgrenzung ist im Einzelfall zu prüfen.
Der AI Act ergänzt die DSGVO: Er regelt, wie KI-Systeme gebaut und eingesetzt werden müssen; die DSGVO regelt, wie mit den dabei verarbeiteten Daten umzugehen ist. Beide Regelwerke greifen gleichzeitig.
Checkliste: DSGVO-konformer KI-Einsatz in der Praxis
Diese Checkliste ist kein Ersatz für Rechtsberatung, aber ein praktischer Startpunkt:
- ☐ Keine Patientendaten in kostenlose KI-Tools (ChatGPT Free/Plus, Claude.ai, Google Gemini ohne Enterprise-Vertrag)
- ☐ Enterprise-Lösung mit AVV abschließen, wenn Patientendaten verarbeitet werden sollen
- ☐ EU-Hosting prüfen und dokumentieren: Wo liegen die Daten? Welche Rechenzentren?
- ☐ Garantie einholen, dass Daten nicht zum Modelltraining genutzt werden
- ☐ Nur anonymisierte oder pseudonymisierte Daten für Tests neuer Tools verwenden
- ☐ Mitarbeiter schulen: Was darf eingegeben werden, was nicht? Schriftliche Richtlinie erstellen
- ☐ DPIA durchführen bei systematischer KI-Nutzung mit Gesundheitsdaten
- ☐ Datenschutzbeauftragten einbeziehen (sofern bestellt oder verpflichtet)
- ☐ Audit-Trail der KI-Nutzung sicherstellen: Wer hat wann welche KI-Ausgabe genutzt?
- ☐ Datenschutzerklärung aktualisieren: KI-Einsatz und Auftragsverarbeiter benennen
Erlaubte Einsatzszenarien ohne Enterprise-Vertrag
Auch ohne Enterprise-Lösung gibt es sinnvolle Anwendungsfälle, bei denen kostenlose Tools genutzt werden können:
- Allgemeine medizinische Recherche ohne konkreten Patientenbezug: "Wie wirkt Metformin bei Typ-2-Diabetes?"
- Formulierungshilfen für allgemeine Patienteninformationen, Praxis-Website-Texte, interne Richtlinien ohne Personenbezug
- Übersetzungen anonymer Inhalte: Leitlinien, Studienzusammenfassungen, allgemeine Briefe
- Schulungsmaterialien auf Basis hypothetischer (nicht realer) Fallbeschreibungen
- ICD-Code-Recherche ohne Patientenbezug: "Welcher ICD-10-Code für X?"
- Entwurf von Vorlagen (Briefe, Formulare, Checklisten) ohne konkrete Patientendaten
Für alles, was darüber hinausgeht, also Dokumentation auf Basis realer Gespräche, Zusammenfassungen konkreter Besuche oder Analyse von Patientenakten, brauchen Sie eine konfigurierte Enterprise-Lösung mit AVV und EU-Hosting. Wir helfen Ihnen dabei: KI und Systeme im Gesundheitswesen oder direkt über Kontakt.
FAQ
Darf ein Arzt ChatGPT mit Patientendaten nutzen?
Mit dem kostenlosen oder Plus-Tarif: nein. Patientendaten sind besondere Kategorien nach Art. 9 DSGVO. Ohne AVV und EU-Hosting ist jede Eingabe von Patientendaten ein potenzieller Verstoß. Mit einer Enterprise-Lösung, die einen AVV umfasst und EU-Hosting konfiguriert hat, ist es unter bestimmten Bedingungen möglich.
Was ist der Unterschied zwischen Anonymisierung und Pseudonymisierung?
Anonymisierte Daten können nicht mehr einer Person zugeordnet werden und fallen nicht unter die DSGVO. Pseudonymisierte Daten können mit zusätzlichen Informationen re-identifiziert werden und fallen weiter unter die DSGVO. Im Praxisalltag ist echte Anonymisierung selten: Diagnose, Alter und Ort zusammen reichen oft für eine Identifizierung.
Brauche ich einen AVV für KI-Tools?
Ja, wenn das Tool personenbezogene Daten verarbeitet. Ohne AVV ist unklar, wie der Anbieter Ihre Daten verwendet, und Sie tragen das volle Haftungsrisiko. Der AVV regelt Zweck, Umfang, Hosting-Standort und die Verpflichtung, Daten nicht für Training zu nutzen.
Was bedeutet AI Act für Arztpraxen?
KI im Gesundheitswesen gilt als Hochrisiko-KI. Anbieter müssen Systeme zertifizieren und registrieren. Praxen als Nutzer müssen menschliche Aufsicht sicherstellen, Protokolle führen und Mitarbeiter schulen. Reine Dokumentations-Tools ohne klinische Entscheidungskomponente sind im Regelfall nicht betroffen.
Wer haftet bei einem DSGVO-Verstoß durch KI?
Primär der Verantwortliche, also Arzt oder Klinikbetreiber. Nur wenn ein AVV besteht und der Anbieter nachweislich gegen seine Pflichten als Auftragsverarbeiter verstoßen hat, gibt es einen Rückgriffsanspruch. Ohne AVV trägt die Praxis das gesamte Risiko.
Welche KI-Tools sind für Arztpraxen DSGVO-konform?
Tools mit EU-Hosting, AVV, Verschlüsselung und der vertraglichen Garantie, dass Daten nicht zum Training genutzt werden. Beispiele: ChatGPT Enterprise mit EU-Konfiguration, Azure OpenAI Service, spezialisierte Medical-KI-Plattformen (AdmedVoice und ähnliche). Kostenlose Consumer-Tools sind für Patientendaten nicht geeignet.
Muss ich Patienten über KI-Einsatz informieren?
Ja, wenn KI zur Verarbeitung ihrer Daten eingesetzt wird. Die Datenschutzerklärung muss den KI-Einsatz, den Zweck und den Auftragsverarbeiter benennen. Bei automatisierten Entscheidungen mit rechtlicher Wirkung (Art. 22 DSGVO) haben Patienten das Recht auf menschliche Überprüfung.
Was darf ich als Arzt mit kostenlosem ChatGPT machen?
Allgemeine Recherche, Formulierungshilfen für Texte ohne Patientenbezug, Übersetzungen anonymer Inhalte, Schulungsmaterialien auf Basis hypothetischer Fälle, ICD-Code-Recherche ohne konkrete Patienten. Nicht erlaubt: Name, Geburtsdatum, Diagnose, Medikamentenliste oder andere patientenidentifizierende Informationen eingeben.
