01
KI-Governance und Verantwortlichkeit
- Governance und Aufsicht3
- Rollen und Verantwortlichkeiten4
- Richtlinien und Standards4
- Einbindung in das Risikomanagement3
- Audit und Prüfung5
5 Kategorien19 Risikofaktoren
LUXORA VISION / KI-SICHERHEIT UND GOVERNANCE
KI-Risikokarte.
Eine Referenzübersicht über Risiken bei der Einführung von KI, von Governance und Strategie bis zu Sicherheit, Betrieb und autonomen Aktionen. Sie hilft, die relevanten Fragen für Ihre Organisation einzugrenzen.
Die Zahlen neben den Kategorien zeigen die Anzahl der aktiven Referenz-Risikofaktoren.
02
Strategie und Wertschöpfung
- Wettbewerbsposition3
- KI-Strategie und Fahrplan3
- Auswahl und Beschaffung von Anwendungsfällen3
- Wertmessung und ROI3
4 Kategorien12 Risikofaktoren
03
Daten und Datenschutz
- Datenquellen und Herkunft3
- Qualität und Kennzeichnung3
- Datenschutz und Einwilligung6
- Rechte an Trainingsdaten und geistiges Eigentum3
- Aufbewahrung und Löschung4
5 Kategorien19 Risikofaktoren
04
Modellentwicklung und Leistung
- Konzeption und Training3
- Genauigkeit und Validierung4
- Robustheit und Drift3
- Erklärbarkeit3
- Reproduzierbarkeit und Dokumentation3
5 Kategorien16 Risikofaktoren
05
Sicherheit und adversariale Bedrohungen
- Angriffe auf Daten und Pipelines3
- Angriffe auf Modelle3
- Angriffe während der Inferenz (Eingaben)5
- Sicherheit von Ausgaben und Integrationen3
- Integrität der Lieferkette und Artefakte4
- KI-Zugriffe und Identitäten5
6 Kategorien23 Risikofaktoren
06
Sicherheit, Ethik und verantwortungsvolle KI
- Verzerrungen und Fairness4
- Schädliche oder ungenaue Ausgaben3
- Transparenz, Offenlegung und Herkunft4
- Missbrauch und doppelte Verwendung3
- Menschliche Handlungsfähigkeit und übermäßiges Vertrauen4
5 Kategorien18 Risikofaktoren
07
Betrieb und Resilienz
- MLOps und Bereitstellung5
- Überwachung und Beobachtbarkeit4
- Verfügbarkeit und Skalierbarkeit3
- Vorfallmanagement4
- Änderungs- und Lebenszyklusmanagement6
5 Kategorien22 Risikofaktoren
08
Recht, Regulierung und Compliance
- Regulatorische Compliance5
- Geistiges Eigentum und Haftung3
- Verträge und Lizenzen3
- Grenzüberschreitende Fragen3
4 Kategorien14 Risikofaktoren
09
Dritte und Modelllieferkette
- Abhängigkeit von Basismodellen3
- Sorgfaltsprüfung von Anbietern4
- Bindung an Anbieter und Portabilität3
- Risiken durch Open-Source-Komponenten5
4 Kategorien15 Risikofaktoren
10
Personal, Menschen und Gesellschaft
- Kompetenzen und Talente4
- Kompetenzverlust und Verlust institutionellen Wissens3
- Veränderungen der Arbeitswelt3
- Gesellschaftliche Auswirkungen und Reputation4
4 Kategorien14 Risikofaktoren
11
Finanzen und Ressourcen
- Kosten und Rechenaufwand3
- Investitionen und Beschaffung3
- Grenzen bei Ressourcen und Skalierung2
3 Kategorien8 Risikofaktoren
12
Autonomie und delegierte Aktionen (agentenbasierte KI)
- Autonomie, Ausrichtung und Aufsicht4
- Werkzeugzugriff und Berechtigungen3
- Integrität von Speicher und Kontext3
- Orchestrierung mehrerer Agenten3
- Integrität und Nachvollziehbarkeit von Aktionen3
5 Kategorien16 Risikofaktoren
Referenzfaktoren zur Eingrenzung einer Bewertung. Die Zahlen bezeichnen Einträge der Taxonomie, keine Schweregrade, eigenständige Schadensszenarien oder kundenspezifische Erkenntnisse. Die Anwendbarkeit wird für jeden Auftrag abgestimmt.
VON RISIKEN ZU FÄHIGKEITEN
Eine Karte der Handlungsfelder.
Ein Ausgangspunkt für Entscheidungen.
Jeder Auftrag konzentriert sich auf die KI-Anwendungen, Betriebsumgebungen und Verantwortlichkeiten, die für Ihre Organisation relevant sind.
Die Fähigkeiten hinter der Karte verstehen.
Die Reifegradanalyse untersucht vorhandene Fähigkeiten, ihre Nachweise und die Lücken, die Aufmerksamkeit erfordern. Der Maßnahmenplan verbindet diese Erkenntnisse mit Prioritäten und Umsetzung.
Reifegradanalyse erkunden KI-Maßnahmenplan ansehen