¶ KI-Risiko- und Folgenbewertung – Risiken erkennen, Auswirkungen verstehen, Entscheidungen belegen
Kurz gesagt: Die KI-Risikobewertung betrachtet, wie Unsicherheiten die Ziele der Organisation beeinflussen. Die KI-Folgenbewertung betrachtet, wie ein KI-System und seine vorhersehbaren Anwendungen auf einzelne Menschen, Gruppen und die Gesellschaft wirken können. Beide Perspektiven gehören zusammen, sind aber nicht austauschbar.
Entscheidungsgrundsatz: Ein rechnerisch niedriger Risikowert erlaubt keine Nutzung, wenn ein Stop-Kriterium vorliegt. Unklare rechtliche Zulässigkeit, eine möglicherweise verbotene Praxis, schwerwiegende Auswirkungen auf Grundrechte oder Sicherheit, fehlende menschliche Aufsicht oder der unkontrollierte Einsatz vertraulicher Daten führen zur Sperre oder zur Managementeskalation.
Musterstatus: Methode, Bewertungen und Beispiele sind fiktiv. Sie bestätigen weder die Freigabe noch die Konformität, Sicherheit oder rechtliche Zulässigkeit eines realen KI-Systems.
¶ Dokumenteninformationen
| Feld | Wert |
|---|---|
| Dokumenten-ID | AIMS-METH-02-02 |
| Dokumentenart | Methodik und Arbeitsbeispiel zur KI-Risiko- und Folgenbewertung |
| Wiki.js-Pfad | /ISO-42001/02-KI-Risiken-und-Auswirkungen/KI-Risiko-und-Folgenbewertung |
| Prozesseigner | KI-Managementbeauftragte/r / AIMS-Verantwortliche/r |
| Bewertungsverantwortung | Fachlicher Owner des KI-Anwendungsfalls mit interdisziplinärem Bewertungsteam |
| Fachlich beteiligt | Informationssicherheit, Datenschutz, Recht/Compliance, Qualitätsmanagement, IT, Entwicklung, Einkauf, Personal, Betriebsrat und betroffene Fachbereiche |
| Freigabe | Nach Schwellenwert durch fachliche Leitung, AIMS-Verantwortung oder Geschäftsführung; rechtliche Fachbewertungen bleiben den zuständigen Funktionen vorbehalten |
| Status | Entwurf – organisationsbezogene Kriterien, Schwellenwerte und Befugnisse sind festzulegen und freizugeben |
| Version | 0.2 |
| Stand | 10.08.2026 |
| Prüfung | Vor Test oder Beschaffung, vor produktiver Freigabe, mindestens jährlich sowie anlassbezogen bei wesentlichen Änderungen, Vorfällen oder Beschwerden |
| Schutzklasse | Öffentliches Muster; betriebliche Bewertungen regelmäßig Intern bis Streng vertraulich |
| Normbezug | ISO/IEC 42001:2023; ergänzend ISO/IEC 23894:2023 und ISO/IEC 42005:2025 |
| Rechtliche Schnittstellen | Verordnung (EU) 2024/1689, DSGVO, BDSG, Arbeits-, Mitbestimmungs-, Urheber-, Geheimnis-, Produkt- und Branchenrecht |
Organisationsrisiko und Folgen für Menschen werden getrennt bewertet und in einer gemeinsamen Entscheidung zusammengeführt. Eigene redaktionelle SVG-Grafik. Zum Vergrößern öffnen.
¶ 1. Zwei Perspektiven statt einer einzigen Punktzahl
Eine klassische Unternehmensrisikobewertung fragt beispielsweise, ob ein KI-Dienst Geschäftsgeheimnisse offenlegt, falsche Entscheidungen verursacht, ausfällt, vertragliche Pflichten verletzt oder Kosten und Reputation beeinträchtigt. Eine Folgenbewertung wechselt die Perspektive: Sie untersucht, ob Menschen benachteiligt, manipuliert, überwacht, ihrer Entscheidungsfreiheit beraubt oder durch fehlerhafte Ergebnisse gefährdet werden können.
| Perspektive | Leitfrage | Beispiele für Schutzgüter | Typische Entscheidung |
|---|---|---|---|
| Organisationsrisiko | Wie kann Unsicherheit unsere Ziele und Verpflichtungen beeinflussen? | Vertraulichkeit, Integrität, Verfügbarkeit, Qualität, Compliance, Finanzen, Betrieb, Reputation | Risiko behandeln, übertragen, vermeiden oder begründet akzeptieren |
| KI-Folgenbewertung | Welche beabsichtigten und unbeabsichtigten Wirkungen entstehen für Menschen, Gruppen oder Gesellschaft? | Autonomie, Gleichbehandlung, Privatsphäre, Würde, Sicherheit, Zugangschancen, Transparenz, Umwelt | Anwendung, Zweck, Daten, Zielgruppe oder Kontrollkonzept ändern; gegebenenfalls stoppen |
Beide Bewertungen verwenden denselben Anwendungsfall und dieselben Szenarien, führen aber getrennte Begründungen. Ein Nutzen für die Organisation gleicht eine schwerwiegende Wirkung auf Betroffene nicht automatisch aus. Ebenso ist eine Anwendung nicht allein deshalb verantwortbar, weil keine personenbezogenen Daten verarbeitet werden.
¶ 2. Wann wird bewertet oder neu bewertet?
Die Erstbewertung beginnt vor Beschaffung, Entwicklung, Pilot oder Freigabe. Eine erneute Bewertung wird mindestens ausgelöst durch:
- einen neuen oder wesentlich erweiterten Zweck,
- neue Betroffenengruppen, Datenarten, Datenquellen oder Empfänger,
- einen Modell-, Anbieter-, Tarif-, Hosting- oder Schnittstellenwechsel,
- neue automatisierte Aktionen oder Entscheidungskompetenzen,
- eine geänderte Rolle der Organisation in der KI-Wertschöpfungskette,
- geänderte Rechts-, Kunden-, Branchen- oder Vertragsanforderungen,
- Qualitätsabfall, Drift, Sicherheitsereignis, Fehlentscheidung, Beschwerde oder Beinahe-Vorfall,
- eine Änderung der menschlichen Aufsicht oder der Qualifikation der Prüfenden,
- das Erreichen des festgelegten Reviewtermins.
Eine reine Versionsnummer des Anbieters ist nicht das einzige Kriterium. Auch Änderungen an Prompts, Wissensquellen, Schwellenwerten, Workflows, Nutzergruppen oder der tatsächlichen Nutzung können das Risikoprofil wesentlich verändern.
¶ 3. Bewertungsablauf als kontrollierter Prozess
| Schritt | Kernfragen | Verbindlicher Nachweis |
|---|---|---|
| 1. Kontext festlegen | Zweck, Grenzen, Rolle, Nutzer, Betroffene, Daten, Systeme, Orte und Lebenszyklusphase? | verknüpfter Eintrag im KI-Anwendungsregister |
| 2. Szenarien bilden | Was kann durch Fehler, Missbrauch, Ausfall, Manipulation oder unerwartete Wechselwirkung geschehen? | Szenarioliste mit Ursache, Ereignis und Auswirkungen |
| 3. Erstbewertung | Wie wahrscheinlich und schwerwiegend ist das Szenario ohne zusätzliche Behandlung? | begründeter Ausgangswert und Folgenprofil |
| 4. Kontrollen prüfen | Welche bestehenden Kontrollen verhindern, erkennen oder begrenzen das Szenario tatsächlich? | Kontrollowner, Umsetzungs- und Wirksamkeitsnachweise |
| 5. Behandlung planen | Welche Maßnahmen reduzieren Risiko oder Wirkung bis wann und durch wen? | Maßnahmenplan mit Zielwert, Termin und Verantwortlichkeit |
| 6. Restrisiko bewerten | Was bleibt nach nachweislich wirksamen Maßnahmen übrig? | neue Bewertung; keine automatische Subtraktion von Punkten |
| 7. Entscheiden | Ist die Nutzung zulässig, vertretbar und innerhalb der Risikobefugnis? | Freigabe, Auflagen, Ablehnung oder Aussetzung mit Datum und Scope |
| 8. Überwachen | Welche Kennzahlen, Ereignisse und Änderungen lösen Handlungen aus? | Monitoringplan, Schwellenwerte, Review- und Vorfallnachweise |
¶ 4. Ein gutes Szenario ist konkret
Ein Szenario wird nach dem Muster Ursache – Ereignis – Wirkung beschrieben. Aussagen wie „Datenschutzrisiko“, „Bias“ oder „KI macht Fehler“ sind keine ausreichenden Szenarien.
| Bestandteil | Leitfrage | Dummy-Beispiel |
|---|---|---|
| Ursache | Welche Schwäche, Abhängigkeit oder Bedingung ermöglicht das Ereignis? | Sprecher werden bei schlechter Audioqualität falsch zugeordnet |
| Ereignis | Was geschieht konkret? | Das System schreibt eine sensible Aussage der falschen Person zu |
| unmittelbare Wirkung | Was ist im Prozess falsch oder beschädigt? | Ein fehlerhaftes Protokoll wird zur Freigabe vorgelegt |
| Betroffene | Wer kann direkt oder indirekt betroffen sein? | Teilnehmende, Beschäftigte, Kunden und genannte Dritte |
| Folge | Welcher Schaden oder welche Beeinträchtigung ist vernünftigerweise vorhersehbar? | falsche Verantwortungszuweisung, Vertrauensverlust oder arbeitsrechtlicher Nachteil |
| Zeithorizont | Tritt die Wirkung sofort, wiederholt oder langfristig auf? | kurzfristige Korrektur möglich; wiederholte Fehler können Vertrauen dauerhaft schädigen |
| Nachweis | Worauf stützt sich die Einschätzung? | Testfälle, Fehlerraten, Nutzerinterviews, Beschwerden und Lieferantenunterlagen |
¶ 5. Risikodimensionen für die Organisation
Das Bewertungsteam prüft mindestens die folgenden Dimensionen. Nicht relevante Dimensionen werden begründet, nicht einfach gelöscht.
| Dimension | Beispielhafte Fragestellungen |
|---|---|
| Informationssicherheit | Können Eingaben, Ausgaben, Protokolle, Modelle oder Schnittstellen Vertraulichkeit, Integrität oder Verfügbarkeit beeinträchtigen? |
| Qualität und Zuverlässigkeit | Sind Ergebnisse korrekt genug, reproduzierbar, aktuell und für den Zweck belastbar? Werden Unsicherheiten sichtbar? |
| Recht und Compliance | Sind Rolle, Zweck, Datenverarbeitung, Transparenz, Verträge, Rechte und Verbote geklärt? |
| Betrieb und Kontinuität | Welche Abhängigkeiten von Anbieter, Modell, Cloud, API, Daten oder Fachpersonal bestehen? Gibt es einen Exit? |
| Sicherheit von Personen und Produkten | Können falsche oder verspätete Ergebnisse Gesundheit, Arbeitssicherheit oder Produktsicherheit beeinträchtigen? |
| Finanzen und Haftung | Welche Kosten, Vertragsstrafen, Nacharbeiten, Ansprüche oder Sanktionen sind plausibel? |
| Reputation und Vertrauen | Wie wirken Fehler, Intransparenz, Beschwerden oder missbräuchliche Nutzung auf Kunden und Beschäftigte? |
| Strategie und Lieferkette | Entstehen Lock-in, Kompetenzverlust, Konzentrationsrisiken oder unkontrollierbare Unterauftragnehmer? |
¶ 6. Wirkungsdimensionen für Menschen, Gruppen und Gesellschaft
| Wirkungsdimension | Prüffragen |
|---|---|
| Autonomie und menschliche Entscheidung | Können Menschen eine KI-Interaktion erkennen, verstehen, ablehnen oder eine Entscheidung anfechten? |
| Gleichbehandlung und Fairness | Werden bestimmte Gruppen systematisch schlechter erkannt, bewertet, bedient oder ausgeschlossen? |
| Privatsphäre und Überwachung | Werden Verhalten, Kommunikation, Leistung oder sensible Merkmale unverhältnismäßig erfasst oder abgeleitet? |
| Würde und soziale Wirkung | Kann die Anwendung stigmatisieren, entmenschlichen, manipulieren oder unangemessenen Druck ausüben? |
| Sicherheit und Wohlergehen | Sind physische, psychische, finanzielle oder soziale Nachteile möglich? |
| Zugang und Chancen | Beeinflusst KI den Zugang zu Arbeit, Bildung, Kredit, Versicherung, Versorgung oder öffentlichen Leistungen? |
| Transparenz und Anfechtbarkeit | Können Betroffene wesentliche Informationen erhalten, Fehler melden und eine wirksame menschliche Prüfung erreichen? |
| Schutzbedürftige Gruppen | Sind Kinder, ältere Menschen, Menschen mit Behinderung, Beschäftigte in Abhängigkeit oder andere vulnerable Gruppen betroffen? |
| Gesellschaft und Umwelt | Sind Desinformation, demokratische Prozesse, Ressourcenverbrauch, Machtkonzentration oder gesellschaftliche Ungleichheit relevant? |
Eine Wirkung kann positiv und negativ zugleich sein. Eine schnellere Bearbeitung hilft beispielsweise vielen Nutzenden, kann aber Personen benachteiligen, deren Sprache oder Lebenssituation in den Daten schlecht repräsentiert ist. Positive Wirkungen werden dokumentiert, dürfen jedoch schwerwiegende negative Folgen nicht pauschal „verrechnen“.
¶ 7. Bewertungsmaßstäbe von 1 bis 5
¶ 7.1 Eintrittswahrscheinlichkeit
| Wert | Beschreibung | Orientierung |
|---|---|---|
| 1 – selten | nur unter außergewöhnlichen Bedingungen plausibel | keine bekannten Fälle; starke Barrieren; eng begrenzter Scope |
| 2 – unwahrscheinlich | möglich, aber bei normaler Nutzung nicht zu erwarten | einzelne Schwächen; gute Erkennung und Korrektur |
| 3 – möglich | im Lebenszyklus realistisch | vergleichbare Fälle, mittlere Exposition oder begrenzte Kontrollen |
| 4 – wahrscheinlich | wiederholt oder bei typischer Nutzung zu erwarten | bekannte Fehlerklasse, hohe Exposition oder schwache Erkennung |
| 5 – sehr wahrscheinlich | häufig, systematisch oder bereits eingetreten | ungeeignete Daten, fehlende Barrieren oder fortbestehender Vorfall |
¶ 7.2 Schweregrad
| Wert | Beschreibung | Orientierung |
|---|---|---|
| 1 – gering | leicht korrigierbar, lokal begrenzt, keine wesentliche Beeinträchtigung | geringe Nacharbeit ohne nachhaltige Wirkung |
| 2 – moderat | spürbare, aber zeitnah reversible Beeinträchtigung | begrenzte Personen- oder Prozesswirkung |
| 3 – erheblich | wesentliche Ziel-, Rechts- oder Personenwirkung; aufwendige Korrektur | mehrere Betroffene, längere Dauer oder formale Meldung möglich |
| 4 – schwerwiegend | erheblicher Schaden, große Reichweite oder eingeschränkte Reversibilität | Gesundheits-, Existenz-, Diskriminierungs- oder größere Betriebswirkung |
| 5 – kritisch | existenzielle, irreversible oder großflächige Wirkung | Gefahr für Leben, Grundrechte, Markt- oder Unternehmensfortbestand |
Die Beschreibungen werden organisationsbezogen mit Beispielen, finanziellen Orientierungswerten und Befugnissen ergänzt. Die höchste plausible Auswirkung wird nicht durch einen Durchschnitt über mehrere Dimensionen verdeckt.
¶ 8. 5×5-Risikomatrix und Ampellogik
Der Orientierungswert ergibt sich aus Wahrscheinlichkeit × Schweregrad. Er strukturiert die Diskussion, ersetzt aber nicht die Begründung.
| W × S | 1 | 2 | 3 | 4 | 5 |
|---|---|---|---|---|---|
| 5 | 5 | 10 | 15 | 20 | 25 |
| 4 | 4 | 8 | 12 | 16 | 20 |
| 3 | 3 | 6 | 9 | 12 | 15 |
| 2 | 2 | 4 | 6 | 8 | 10 |
| 1 | 1 | 2 | 3 | 4 | 5 |
| Zone | Orientierungswert | Regel |
|---|---|---|
| 🟢 niedrig | 1–4 | im definierten Scope durch den benannten Owner entscheidbar, sofern kein Stop-Kriterium und alle Mindestkontrollen erfüllt sind |
| 🟡 mittel | 5–9 | Maßnahmen, Termin und fachliche Freigabe erforderlich; Pilot oder Nutzung nur unter dokumentierten Bedingungen |
| 🟠 hoch | 10–16 | vertiefte interdisziplinäre Prüfung und Freigabe durch höhere Risikobefugnis; Wirksamkeitsnachweise vor Produktion |
| 🔴 kritisch | 17–25 | grundsätzlich vermeiden oder wesentlich neu gestalten; Geschäftsführung und zuständige Fachfunktionen entscheiden, wenn eine Nutzung überhaupt vertretbar ist |
¶ 9. Folgenbewertung: Tiefe statt mathematischer Scheingenauigkeit
Zusätzlich zum Orientierungswert werden Auswirkungen nach vier Merkmalen beschrieben:
| Merkmal | Prüfpunkte |
|---|---|
| Intensität | Art und Schwere der Beeinträchtigung für eine einzelne betroffene Person |
| Umfang | Zahl, Verteilung und Vielfalt der betroffenen Personen oder Gruppen |
| Dauer und Reversibilität | Zeitspanne, Wiederholbarkeit und Möglichkeit einer vollständigen Korrektur |
| Vulnerabilität und Machtgefälle | Abhängigkeit, Schutzbedürftigkeit, fehlende Alternativen und Möglichkeit wirksamen Widerspruchs |
Eine seltene, aber irreversible schwere Wirkung bleibt kritisch. Ebenso kann eine jeweils kleine Beeinträchtigung bei sehr vielen Menschen oder systematischer Wiederholung eine vertiefte Behandlung verlangen. Das Bewertungsteam dokumentiert Unsicherheit und abweichende Einschätzungen, statt sie in einem Mittelwert zu verstecken.
¶ 10. Verbindliche Stop- und Eskalationskriterien
Mindestens einer der folgenden Befunde verhindert die produktive Freigabe bis zur Klärung:
- Verdacht auf eine verbotene KI-Praxis oder ungeklärte Hochrisiko-Konstellation,
- fehlender fachlicher und technischer Owner oder unklare Freigabebefugnis,
- ungeklärte Rechtmäßigkeit, Rechtsgrundlage, Mitbestimmung oder erforderliche Datenschutz-Folgenabschätzung,
- unkontrollierbare Offenlegung vertraulicher, personenbezogener oder besonders geschützter Informationen,
- ernsthafte Gefahr für Gesundheit, Sicherheit, Grundrechte oder existenzielle Chancen,
- menschliche Aufsicht ohne Kompetenz, Zeit, Information, Unabhängigkeit oder Stop-Befugnis,
- fehlende Tests für den realen Zweck, relevante Gruppen, Grenzfälle und vorhersehbaren Missbrauch,
- nicht beherrschbare Abhängigkeit oder fehlende Möglichkeit zur Sperrung und zum sicheren Ausstieg,
- aktive Sicherheitsverletzung, schwere Beschwerde oder wesentliche Abweichung ohne wirksame Sofortmaßnahme.
Der Status wird im KI-Anwendungsregister auf ausgesetzt oder in vertiefter Prüfung gesetzt. Entscheidung, Sofortmaßnahmen, Verantwortliche, Fristen und Voraussetzungen für eine erneute Prüfung werden protokolliert.
¶ 11. Risikobehandlung und Restrisiko
| Strategie | Bedeutung | KI-bezogenes Beispiel |
|---|---|---|
| Vermeiden | Tätigkeit nicht beginnen oder beenden | keine automatische Bewerberpriorisierung einsetzen |
| Reduzieren | Wahrscheinlichkeit oder Auswirkung durch Kontrollen senken | Zweck begrenzen, Daten minimieren, Ausgabe kennzeichnen, menschliche Prüfung und Tests ergänzen |
| Teilen/Übertragen | Verantwortung oder finanzielle Wirkung vertraglich verteilen | SLA, Haftung, Audit- und Unterstützungsrechte; interne Verantwortung bleibt bestehen |
| Akzeptieren | begründete Entscheidung innerhalb freigegebener Kriterien | begrenzter Restfehler bei nicht kritischer Textassistenz mit manueller Endkontrolle |
Maßnahmen erhalten Owner, Termin, Zielwert, Nachweis und Wirksamkeitsprüfung. Das Restrisiko wird neu bewertet, nachdem die Wirksamkeit belegt ist. Eine geplante, aber noch nicht umgesetzte Kontrolle darf den aktuellen Wert nicht reduzieren.
¶ 12. Praxisbeispiel 1: Besprechungen transkribieren
Ausgangslage: Ein Cloud-Dienst soll interne Besprechungen transkribieren und einen Protokollentwurf erstellen. Heimliche Aufzeichnung, Personalgespräche und besonders vertrauliche Termine sind ausgeschlossen.
| ID | Szenario | Ausgang | Wesentliche Maßnahmen | Restrisiko / Entscheidung |
|---|---|---|---|---|
| KI-R-001 | Vertrauliche Gesprächsinhalte werden für Anbietertraining oder unzulässige Zwecke verwendet | W4 × S4 = 16 🟠 | Vertrag und AVV prüfen, Training technisch deaktivieren, erlaubte Terminarten festlegen, EU-Konfiguration und Löschung testen | W2 × S4 = 8 🟡; Pilot nur mit Auflagen und Nachweis |
| KI-R-002 | Falsche Sprecherzuordnung führt zu einem sachlich falschen Protokoll | W4 × S3 = 12 🟠 | sichtbare Unsicherheitsmarkierung, Vier-Augen-Freigabe, Originalabgleich bei strittigen Aussagen, Qualitätsstichproben | W2 × S3 = 6 🟡; Veröffentlichung erst nach menschlicher Freigabe |
| KI-R-003 | Teilnehmende werden ohne ausreichende Information aufgezeichnet | W3 × S4 = 12 🟠 | Einladungstext, sichtbare Aufzeichnungsanzeige, Startbestätigung, definierter Widerspruchs-/Alternativprozess | W1 × S4 = 4 🟢; Rechtsgrundlage und Mitbestimmung separat bestätigen |
| KI-R-004 | Nutzende übernehmen Zusammenfassungen ungeprüft als verbindliche Entscheidung | W3 × S3 = 9 🟡 | Ausgabe als Entwurf, Verantwortliche benennen, Freigabeschritt technisch und organisatorisch verankern | W1 × S3 = 3 🟢; monatliche Stichprobe |
Folgenperspektive: Trotz reduzierter Organisationsrisiken bleiben Auswirkungen auf Privatsphäre, Autonomie und mögliche arbeitsrechtliche Nachteile relevant. Deshalb umfasst die Freigabe nur benannte Nutzer, Terminarten und einen dreimonatigen Pilot. Beschwerden, Fehlerquote, Löschtest und Auflagen werden vor einer Erweiterung bewertet.
¶ 13. Praxisbeispiel 2: Bewerbungen priorisieren
Ein Werkzeug soll Lebensläufe bewerten und eine Rangliste für die Personalauswahl erzeugen. Bereits die Erstprüfung zeigt ein erhebliches Machtgefälle, mögliche Auswirkungen auf den Zugang zu Beschäftigung, potenzielle Verzerrung historischer Daten und eine mögliche Hochrisiko-Konstellation.
| Prüfpunkt | Befund | Konsequenz |
|---|---|---|
| Betroffene und Wirkung | Bewerbende können ohne Kenntnis oder wirksame Anfechtung schlechter gestellt werden | vertiefte Folgenbewertung und Transparenzkonzept erforderlich |
| Daten und Fairness | Repräsentativität, Proxy-Merkmale und gruppenbezogene Fehlerraten sind nicht belegt | keine produktive Nutzung; Test- und Datenqualitätsnachweise anfordern |
| menschliche Aufsicht | Personalverantwortliche sehen nur den Score, nicht dessen Grenzen | keine wirksame Aufsicht; Entscheidungsprozess neu gestalten |
| Recht und Rolle | Einstufung, Pflichten, Datenschutz und Mitbestimmung sind offen | Recht, Datenschutz und Arbeitnehmervertretung beteiligen |
| Entscheidung | mehrere Stop-Kriterien erfüllt | Status 🔴 ausgesetzt; weder Pilot mit realen Bewerbenden noch Beschaffung freigegeben |
Das Beispiel zeigt: Eine allgemeine Zusage des Anbieters, der Mensch treffe „am Ende“ die Entscheidung, reicht nicht. Die prüfende Person benötigt verständliche Informationen, Zeit, Kompetenz und echte Befugnis, das Ergebnis abzulehnen oder den Prozess zu stoppen.
¶ 14. Qualitätsampel vor der Freigabe
| Prüffeld | 🔴 Rot | 🟡 Gelb | 🟢 Grün |
|---|---|---|---|
| Zweck und Scope | allgemein, nachträglich oder widersprüchlich | Zweck benannt, Grenzen teilweise offen | Zweck, Ausschlüsse, Nutzer, Daten und Lebenszyklus klar |
| Szenarien | Schlagworte ohne Ursache und Wirkung | wesentliche Szenarien vorhanden | Normalbetrieb, Fehler, Missbrauch, Ausfall und Änderungen abgedeckt |
| Betroffene | nur direkte Nutzer betrachtet | Hauptgruppen bekannt | direkte, indirekte und vulnerable Gruppen einbezogen |
| Bewertungsgrundlage | Bauchgefühl oder Anbieterwerbung | einzelne Tests und Annahmen | Belege, Unsicherheiten, abweichende Sichtweisen und Datenqualität dokumentiert |
| Rechtliche Prüfung | ungeklärt | Erstindikation vorhanden | Rolle, Einstufung und anwendbare Pflichten datiert und fachlich geprüft |
| Kontrollen | geplant, aber als wirksam gewertet | umgesetzt, Nachweis lückenhaft | Owner, Test, Ergebnis und Wirksamkeit belegt |
| menschliche Aufsicht | symbolisch oder ohne Stop-Befugnis | Rolle vorhanden, Kriterien unklar | kompetent, informiert, ausreichend unabhängig und eingriffsfähig |
| Restrisiko | nur rechnerisch reduziert | begründet, Freigabeschwelle offen | nach Wirksamkeitsprüfung neu bewertet und befugt entschieden |
| Monitoring | „bei Bedarf“ | Kennzahlen ohne Schwelle | Verantwortliche, Schwellen, Ereignisse und Reaktion definiert |
| Änderung und Exit | nicht geregelt | manuelle Einzelfalllösung | Neubewertungstrigger, Sperrung, Datenrückgabe, Löschung und Ausstieg getestet |
Freigaberegel: Ein rotes Feld bei Recht, Grundrechten, Sicherheit, vertraulichen Daten, Owner oder menschlicher Aufsicht verhindert die Freigabe. Gelbe Felder werden nur als ausdrücklich dokumentierte Auflage mit Termin und Verantwortlichkeit akzeptiert.
¶ 15. Rollen und Entscheidungsbefugnisse
| Rolle | Aufgabe in der Bewertung |
|---|---|
| Fachlicher Owner | Zweck, Nutzen, Prozess, fachliche Szenarien, Betroffene und laufende Überwachung verantworten |
| Technischer Owner | Architektur, Datenflüsse, Schnittstellen, Konfiguration, Sicherheit, Änderungen und Exit beurteilen |
| AIMS-Verantwortung | Methode, Moderation, Vollständigkeit, Konsistenz, Registerverknüpfung und Reviews steuern |
| Informationssicherheit | Bedrohungen, Schutzbedarf, Sicherheitskontrollen, Vorfälle und Lieferantenrisiken bewerten |
| Datenschutz | Personenbezug, Rechtsgrundlage, Transparenz, Rechte, AVV, Drittland und DSFA prüfen |
| Recht/Compliance | AI-Act-Rolle und -Einstufung sowie weitere Rechts- und Vertragspflichten bewerten |
| Betroffenenvertretung/Fachvertretung | tatsächliche Nutzung, Machtgefälle, Zugänglichkeit und Folgen aus Betroffenensicht einbringen |
| Geschäftsführung | Risikokriterien, Ressourcen und Entscheidungen oberhalb der delegierten Befugnisse verantworten |
Der fachliche Owner darf eine fehlende Datenschutz-, Rechts- oder Sicherheitsfreigabe nicht ersetzen. Umgekehrt übernimmt die AIMS-Verantwortung nicht die operative Verantwortung des Fachbereichs.
¶ 16. Nachweise und geschützte Ablage
Zu jeder Bewertung gehören mindestens:
- KI-ID, Bewertungs-ID, Version, Datum, Scope und beteiligte Rollen,
- System-, Modell-, Anbieter-, Daten- und Prozessbeschreibung,
- Szenarien, Annahmen, Unsicherheiten und verwendete Erkenntnisse,
- Ausgangs- und Restrisikobewertungen mit Begründungen,
- Folgenprofil für Betroffene, vulnerable Gruppen und gesellschaftliche Wirkungen,
- rechtliche Erstindikation und Verweise auf Fachprüfungen,
- Maßnahmen, Owner, Fristen, Nachweise und Wirksamkeitsergebnisse,
- Entscheidung, Befugnis, Auflagen, Gültigkeit und Reviewtrigger,
- abweichende Einschätzungen und deren Behandlung,
- Monitoring-, Vorfall-, Beschwerde- und Änderungsnachweise.
Das öffentliche Wiki stellt keine frei bearbeitbare Word- oder Excel-Vorlage bereit. Kundenspezifische Arbeitsmittel werden kontrolliert erstellt, über einen geschützten Kundenbereich bereitgestellt und mit den konkreten Freigabe- und Aufbewahrungsregeln verbunden.
¶ 17. Wirksamkeit und Managementkennzahlen
| Kennzahl | Aussage | Beispiel für Schwelle |
|---|---|---|
| Bewertungen ohne bestätigten Owner | fehlende Verantwortung | keine produktive Freigabe |
| offene Stop-Kriterien | kritische Governance-Lücke | sofortige Eskalation |
| überfällige Maßnahmen | Behandlung möglicherweise unwirksam | Owner und Leitung nach definierter Frist informieren |
| Risikoreduktion ohne Wirksamkeitsnachweis | mathematische Scheinsicherheit | Restrisikowert zurücksetzen |
| Fehler- und Beschwerderate | tatsächliche Wirkung im Betrieb | Schwelle je Anwendungsfall und Betroffenengruppe |
| gruppenbezogene Qualitätsunterschiede | mögliche systematische Benachteiligung | vertiefte Analyse und gegebenenfalls Aussetzung |
| wesentliche Änderungen ohne Neubewertung | Änderungsprozess funktioniert nicht | Nutzung bis Prüfung begrenzen |
| manuelle Übersteuerungen | Modellqualität oder ungeeigneter Workflow | Trend und Ursachen bewerten |
Die Managementbewertung betrachtet nicht nur die Zahl „grüner“ Anwendungen. Sie fragt, ob Unsicherheiten transparent, kritische Befunde tatsächlich gestoppt, Auflagen eingehalten und Auswirkungen aus Sicht der Betroffenen erkannt werden.
¶ 18. Interne Verknüpfungen
- ISO/IEC 42001 – KI-Managementsystem
- KI-Anwendungsregister
- KI-Freigabe und menschliche Aufsicht
- Methodik der ISMS-Risikobewertung
- ISMS-Risikoregister
- Datenschutz-Risikoregister
- Datenschutz-Folgenabschätzung
- KI und automatisierte Verarbeitung
- Einsatz von KI im Unternehmen
- Lieferanten und Dienstleister
- Informationsklassifizierung
¶ 19. Offizielle Quellen und Abgrenzung
- ISO: ISO/IEC 42001:2023 – AI management systems
- ISO: ISO/IEC 23894:2023 – Guidance on risk management
- ISO: ISO/IEC 42005:2025 – AI system impact assessment
- EUR-Lex: Verordnung (EU) 2024/1689
- EU-Kommission: Orientierung zu Rollen, Pflichten und Anwendungszeitpunkten
Diese Seite gibt Normthemen in eigenen Worten wieder. Sie ersetzt weder die lizenzierten Normtexte noch eine Rechtsberatung. Bewertungsmaßstäbe, Risikobefugnisse und gesetzliche Einstufungen werden für die konkrete Organisation und Anwendung fachlich festgelegt und regelmäßig aktualisiert.
¶ 20. Änderungshistorie und Freigabe
| Version | Datum | Änderung | Erstellt/geändert durch | Freigabe | Freigabedatum |
|---|---|---|---|---|---|
| 0.1 | 10.08.2026 | Erstfassung mit Doppelperspektive, Szenariomethode, 5×5-Matrix, Stop-Kriterien, Dummy-Beispielen, Qualitätsampel, Rollen, Nachweisen und Kennzahlen | Musterredaktion | Ausstehend | – |
| 0.2 | 10.08.2026 | Freigabe- und Aufsichtsverfahren als nachgelagerten Entscheidungsschritt verknüpft | Musterredaktion | Ausstehend | – |
Seite 1 von 1 · AIMS-METH-02-02 · Version 0.2