¶ KI und automatisierte Verarbeitung
Musterstatus: Diese Seite bestätigt keinen realen KI-Einsatz, Anbieter, Trainingsbestand, Rechtsgrundlage, Risikoklasse oder Freigabe. Die EU-KI-Verordnung wird in einer gesonderten Rollen- und Pflichtenprüfung behandelt.
Datenschutzregel: Ein technisch verfügbares KI-System darf erst eingesetzt werden, wenn Zweck, Daten, Rollen, Rechtsgrundlage, Transparenz, Schutzmaßnahmen und menschliche Aufsicht geklärt sind.
¶ Dokumenteninformationen
| Feld | Wert |
|---|---|
| Dokumenten-ID | DSGVO-SP-07-07 |
| Dokumentenart | Verfahren für KI-gestützte und automatisierte Verarbeitungen |
| Wiki.js-Pfad | /DSGVO/07-Spezielle-Verarbeitungen/KI-und-automatisierte-Verarbeitung |
| Verantwortlich | festzulegende Prozess-, KI-, Datenschutz- und Informationssicherheitsverantwortung |
| Status | Entwurf – keine realen Systeme, Daten oder Freigaben bestätigt |
| Version / Stand | 1.0 / 09.08.2026 |
| Schutzklasse | Vertraulich; Prompts, Datenquellen, Modelle, Tests und Schwachstellen geschützt |
| Rechtsbezug | Artikel 5, 6, 9, 12 bis 15, 21, 22, 25, 28, 32, 35 und 44 ff. DSGVO |
KI-Anwendungen inventarisieren, risikobasiert freigeben und laufend kontrollieren. Eigene redaktionelle SVG-Grafik. Zum Vergrößern öffnen.
¶ 1. KI-Anwendungsregister
| Feldgruppe | Mindestinhalt |
|---|---|
| Anwendung | Zweck, Prozess, Nutzer, Ergebnis und betroffene Personen |
| Rollen | Anbieter, Betreiber, Verantwortlicher, Auftragsverarbeiter und Empfänger |
| Daten | Quellen, Kategorien, besondere Daten, Training, Eingaben, Ausgaben und Protokolle |
| Entscheidung | Empfehlung, Unterstützung oder Entscheidung; Bedeutung und Folgen |
| Technik | Modell, Version, Hosting, Schnittstellen, Speicher- und Lernverhalten |
| Recht | Rechtsgrundlage, Transparenz, Artikel 22, Vertrag und Drittlandtransfer |
| Risiko | Fehler, Diskriminierung, Offenlegung, Manipulation, Reidentifizierung und Betroffenenfolgen |
| Freigabe | Tests, menschliche Aufsicht, Einschränkungen, DSFA und Review |
¶ 2. Mindestkontrollen
- Vertrauliche oder personenbezogene Inhalte werden nicht ungeprüft in öffentliche Werkzeuge eingegeben.
- Trainings-, Produktverbesserungs- und Protokollnutzung des Anbieters werden vertraglich und technisch geprüft.
- Datenqualität, Repräsentativität, Fehlerquoten und diskriminierende Auswirkungen werden an realistischen Fällen getestet.
- Ausgaben werden nicht allein wegen ihrer sprachlichen Plausibilität als richtig behandelt.
- Betroffene erhalten die erforderlichen Informationen; Rechte und Berichtigung fehlerhafter Ausgangsdaten bleiben praktisch möglich.
- Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung werden auf Artikel 22 geprüft; menschliche Aufsicht muss tatsächlich kompetent, befugt und zeitlich möglich sein.
- Modell-, Prompt-, Daten-, Anbieter- oder Zweckänderungen lösen Change-Prüfung und gegebenenfalls neue DSFA aus.
¶ 3. Freigabestatus
Erfasst → In Prüfung → Pilot unter Auflagen → Freigegeben für definierten Zweck → Ausgesetzt oder Beendet. Schatten-KI und nicht freigegebene Konten werden über Schulung, technische Steuerung und einen erreichbaren Beschaffungsweg behandelt.
¶ 4. Nachweise
Systemkarte, VVT, Rollenprüfung, Datenfluss, Anbieterunterlagen, Vertrags- und Transferprüfung, Testkatalog, Ergebnisse, DSFA-Screening, Freigabe, Nutzungsvorgaben, Schulung, Vorfälle und Reviews verbleiben geschützt. Diese Seite ersetzt keine KI-Verordnungs-, Urheberrechts-, Arbeitsrechts- oder Geheimnisschutzprüfung.
¶ 5. Anwendungsfall statt Produktname prüfen
Ein KI-Produkt kann in mehreren Prozessen völlig unterschiedliche Datenschutzfolgen haben. Deshalb wird nicht „der Anbieter“ pauschal freigegeben, sondern jeder Anwendungsfall mit Zweck, Eingaben, Ausgaben, Nutzenden, betroffenen Personen und Wirkung. Ein Textassistent für öffentliche Formulierungen ist anders zu bewerten als die Analyse von Bewerbungen, Gesundheitsdaten oder Supportfällen.
| Anwendungsart | Zentrale Datenschutzfrage | Typische Schutzentscheidung |
|---|---|---|
| Formulierungs- oder Übersetzungshilfe | Gelangen personenbezogene oder vertrauliche Inhalte an den Dienst? | Eingaberegeln, lokale beziehungsweise vertraglich geschützte Variante, Ausgabeprüfung |
| Dokumentensuche oder RAG | Sind Quellenrechte und Treffer auf berechtigte Nutzende begrenzt? | Rechtefilter vor Abruf, Quellennachweis, Mandantentrennung und Protokollierung |
| Klassifikation oder Priorisierung | Welche Folgen hat eine falsche Zuordnung? | Testdatensatz, Schwellenwerte, menschliche Prüfung und Korrekturweg |
| Empfehlung | Beeinflusst die Ausgabe Zugang, Preis, Leistung oder Behandlung? | Transparenz, Erklärbarkeit, Bias-Test und fachliche Abweichungsbefugnis |
| automatisierte Einzelentscheidung | Liegt eine ausschließlich automatisierte Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung vor? | Artikel-22-Prüfung, zulässige Ausnahme, Garantien und wirksame Anfechtung |
| Training oder Feinabstimmung | Dürfen die Daten für diesen neuen Zweck verwendet werden? | Zweck-, Rechtsgrundlagen-, Rechte-, Lösch- und Reidentifizierungsprüfung |
¶ 6. Datenfluss und Rollen
Die Prüfung bildet den gesamten Weg ab: Eingabe, Vorverarbeitung, Übertragung, Modell, Zusatzquellen, Protokolle, Moderation, Ausgabe, Speicherung und mögliche Nutzung zur Produktverbesserung. Anbieterbezeichnungen wie „kein Training“ werden anhand Vertrag, Konfiguration, Unterauftragnehmern und tatsächlichen Protokollpfaden überprüft.
Verantwortlicher, Auftragsverarbeiter, gemeinsam Verantwortliche oder eigener Verantwortlicher werden nach tatsächlicher Entscheidungsmacht eingeordnet. Ein Standardvertrag ersetzt keine Rollenprüfung. Bei internationalem Hosting, Support oder Missbrauchsmonitoring werden Zugriffsorte, Transferinstrument, TIA und zusätzliche Maßnahmen dokumentiert.
¶ 6.1 Beschäftigten- und Bewerberdaten
Wird KI im Beschäftigungskontext eingesetzt, sind § 26 BDSG, besondere Kategorien, Beteiligungsrechte und das strukturelle Abhängigkeitsverhältnis zu berücksichtigen. Eine Einwilligung ist nicht automatisch freiwillig. Leistungs- und Verhaltenskontrolle, Emotionserkennung, biometrische Funktionen und dauerhafte Produktivitätsprofile sind besonders eingriffsintensiv und werden nicht als Standard aktiviert.
¶ 7. Artikel 22 verständlich prüfen
Die Prüfung erfolgt in drei Fragen:
- Trifft das System eine Entscheidung oder bestimmt es faktisch das Ergebnis?
- Erfolgt die Entscheidung ausschließlich automatisiert, oder gibt es eine tatsächlich entscheidungsfähige menschliche Rolle?
- Erzeugt sie rechtliche Wirkung oder beeinträchtigt sie die Person ähnlich erheblich?
Ein formaler Klick durch einen Menschen genügt nicht. Die Person muss das Ergebnis verstehen, relevante Informationen prüfen, zusätzliche Gesichtspunkte berücksichtigen und abweichend entscheiden dürfen. Arbeitsdruck, Zielvorgaben oder eine Oberfläche ohne Begründungsfeld können menschliche Aufsicht praktisch entwerten.
Liegt Artikel 22 vor, wird eine zulässige Ausnahme konkret geprüft. Erforderliche Garantien umfassen mindestens menschliches Eingreifen, Darstellung des eigenen Standpunkts und Anfechtung der Entscheidung. Bei besonderen Kategorien gelten zusätzliche enge Voraussetzungen.
¶ 8. Testprogramm vor Freigabe
Der Testkatalog basiert auf realistischen, vollständig erfundenen oder angemessen anonymisierten Fällen. Er umfasst normale, seltene und missverständliche Eingaben sowie unterschiedliche Personengruppen. Produktivdaten werden nicht allein zur Bequemlichkeit in eine Testumgebung kopiert.
| Testdimension | Leitfrage |
|---|---|
| fachliche Richtigkeit | Sind Antworten und Klassifikationen für den definierten Zweck ausreichend korrekt? |
| Gleichbehandlung | Unterscheiden sich Fehler oder Ergebnisse systematisch zwischen relevanten Gruppen? |
| Datenminimierung | Funktioniert der Anwendungsfall mit weniger oder stärker abstrahierten Daten? |
| Offenlegung | Gibt das System Trainings-, Quellen-, System- oder Fremddaten unerwartet aus? |
| Manipulation | Können Prompt Injection, Dokumentinhalte oder Nutzereingaben Schutzregeln umgehen? |
| Rechte | Lassen sich Auskunft, Berichtigung, Einschränkung, Löschung und Widerspruch praktisch erfüllen? |
| menschliche Aufsicht | Erkennt die prüfende Rolle Unsicherheit und kann sie wirksam abweichen? |
| Wiederholbarkeit | Sind Modell-, Prompt-, Daten- und Konfigurationsversion nachvollziehbar? |
Fehlerquoten erhalten vorab definierte Grenzwerte und Folgen. Ein Durchschnittswert verdeckt keine schwerwiegenden Einzelfehler. Kritische Fehler führen zur Aussetzung, Ursachenanalyse und erneuten Freigabe.
¶ 9. Betrieb, Änderungen und Vorfälle
Modellupdates, neue Systemprompts, zusätzliche Wissensquellen, geänderte Loggingregeln oder ein anderer Anbieter sind kontrollierte Änderungen. Das Register benennt Version, Änderung, Risiko, notwendige Wiederholungstests und Freigabe. Unbekannte Schatten-KI wird nicht nur verboten; die Organisation stellt erreichbare sichere Alternativen, Schulung und einen schnellen Prüfweg bereit.
Falschausgaben, Offenlegung, diskriminierende Ergebnisse, unzulässige Eingaben oder manipulierte Quellen werden über einen erreichbaren Meldeweg erfasst. Datenschutzverletzung, DSFA-Anpassung, Betroffenenrechte, Informationssicherheit und gegebenenfalls Pflichten der KI-Verordnung werden getrennt, aber koordiniert bewertet.
¶ 9.1 Leserbeispiel
Ein Supportteam möchte Kundentickets automatisch zusammenfassen. Vor Freigabe werden besondere Daten und Geheimnisse in Tickets, Anbietertraining, Speicherorte, Rollen, Unterauftragnehmer, Ausgabefehler und Zugriff auf die Zusammenfassung geprüft. Der Pilot nutzt erfundene Fälle, entfernt unnötige Identifikatoren und lässt Mitarbeitende jede Zusammenfassung kontrollieren. Erst nach dokumentierten Tests wird ein eng begrenzter Zweck freigegeben; eine spätere Nutzung zur Kundenbewertung wäre ein neuer Anwendungsfall.
¶ 9.2 Häufige Fragen
Schnellentscheidung für Lesende: Eine KI-Anwendung bleibt gesperrt, solange Zweck, Datenfluss, Rollen, Anbietertraining, Rechtsgrundlage, Transparenz, Artikel 22, DSFA, Tests, menschliche Aufsicht, Löschung oder Change-Prozess offen sind. Ein erfolgreicher technischer Demo-Test ist keine Datenschutzfreigabe.
Dürfen Namen im Prompt stehen?
Nur wenn sie für den freigegebenen Zweck erforderlich sind und Anbieter, Vertrag, Einstellungen, Speicher- und Trainingsnutzung sowie Zugriffe geklärt wurden. Häufig reichen Rollenbezeichnungen, Pseudonyme oder abstrahierte Sachverhalte.
Ist ein Enterprise-Konto automatisch datenschutzkonform?
Nein. Vertragliche Zusagen sind wichtig, ersetzen aber weder Rollen-, Zweck-, Datenfluss-, Transfer-, Sicherheits- noch Testprüfung. Auch Konfiguration und tatsächliche Nutzung entscheiden.
Kann die KI-Ausgabe einfach gelöscht werden?
Ausgaben können in Protokollen, Zielsystemen, Backups oder Trainingsprozessen weiterbestehen. Löschung und Berichtigung müssen entlang des gesamten Datenflusses geprüft werden. Bei falschen Ausgangsdaten ist auch deren Quelle zu korrigieren.
Wann ist eine DSFA nötig?
Wenn die Verarbeitung voraussichtlich ein hohes Risiko für Rechte und Freiheiten erzeugt. Umfangreiche Bewertung, besondere Daten, Überwachung, verletzliche Personen, neue Technologie und erhebliche Entscheidungen sind wichtige Indikatoren. Die Entscheidung wird dokumentiert, nicht aus dem Produktnamen abgeleitet.
Darf die KI Entscheidungen erklären?
Eine automatisch erzeugte Erklärung ist nur dann hilfreich, wenn sie fachlich zutrifft und die tatsächliche Entscheidungslogik abbildet. Sie ersetzt keine nachvollziehbare System- und Verfahrensdokumentation.
¶ 9.3 Kennzahlen ohne Automatisierungsillusion
Gemessen werden freigegebene gegenüber unbekannten Anwendungsfällen, überfällige Reviews, kritische Testfehler, unzulässige Eingaben, Vorfälle, Korrekturzeiten und wirksame menschliche Abweichungen. Eine hohe Nutzungsquote oder schnelle Bearbeitung beweist weder Datenschutz noch fachliche Qualität.
¶ 10. Verknüpfte Seiten
- Automatisierte Entscheidungen und Profiling
- Datenschutz-Folgenabschätzung
- Privacy by Design und by Default
- Testdaten, Anonymisierung und Pseudonymisierung
¶ 11. Offizielle Grundlagen
- DSK: Orientierungshilfe KI und Datenschutz, Mai 2024
- DSK: Technische und organisatorische Maßnahmen für KI-Systeme, Juni 2025
- DSGVO – EUR-Lex
¶ 12. Weiterführende Informationen von SMCT MANAGEMENT
Datenschutz- und Risikomanagement für kontrollierte KI-Anwendungen
¶ 13. Änderungshistorie
| Version | Datum | Änderung | Freigabe |
|---|---|---|---|
| 1.0 | 09.08.2026 | Anwendungsfallprüfung, Datenfluss, Artikel 22, Testprogramm, Change und Praxisbeispiel ergänzt | Ausstehend |
| 0.1 | 08.08.2026 | Musterverfahren für KI und automatisierte Verarbeitung erstellt | Ausstehend |