ISO 42001 und KI-Governance: Ein Praxisrahmen auf einer Seite

Ob mit ISO 42001 oder ohne: KI-Governance beginnt mit 5 Kontrollen – einem Verzeichnis der KI-Nutzung, Datenregeln, menschlicher Prüfung, Anbieterprüfungen und einem Melde- und Reaktionsweg für Vorfälle. Für ein Unternehmen ohne Compliance-Team besteht das sinnvolle Minimum darin, für jede Kontrolle eine verantwortliche Person zu benennen und ihre Umsetzung belegen zu können. So lassen sich Kundenfragebögen beantworten, ohne Kontrollen zu versprechen, die sich nicht nachweisen lassen.

Das AI Risk Management Framework des National Institute of Standards and Technology, kurz NIST AI RMF, hilft, diese Arbeit zu strukturieren. ISO/IEC 42001, der internationale Standard für KI-Managementsysteme, wird interessant, wenn eine externe Zertifizierung einen geschäftlichen Zweck erfüllt. Welche gesetzlichen Pflichten für die eigene Rolle und den jeweiligen Anwendungsfall gelten, ist gesondert anhand des EU AI Act zu prüfen. Die drei Ansätze erfüllen unterschiedliche Aufgaben.

Die folgenden Beschreibungen der Rahmenwerke und die EU-Termine wurden am 20. Oktober 2026 anhand offizieller Seiten von NIST, ISO und der Europäischen Kommission überprüft. Dieser Beitrag gibt Hinweise für die betriebliche Praxis und ist keine Rechtsberatung. Konkrete rechtliche Pflichten sollten fachkundig geprüft werden.

Was ist KI-Governance?

KI-Governance legt fest, wer KI für welche Aufgaben und mit welchen Daten einsetzen darf – und wer verantwortlich bleibt, wenn das System eine Antwort liefert oder eine Handlung ausführt. Richtlinien geben die Regeln vor. Freigaben, technische Beschränkungen und Aufzeichnungen sorgen dafür, dass diese Regeln im Alltag greifen.

Ein Gemeinschaftsgarten macht den Unterschied anschaulich. Eine Liste zugelassener Pflanzen sagt noch nicht, wer das Tor öffnen, die Bewässerung ändern oder ein beschädigtes Beet versorgen darf. Dafür braucht es Grenzen, eine verantwortliche Person und einen Weg, Probleme zu erkennen und zu beheben. Bessere Gartengeräte beantworten diese Fragen nicht.

Im Unternehmen wird das konkret, sobald ein Supportassistent nicht mehr nur Antworten entwirft, sondern auch Erstattungen auslöst. Das Modell kann dasselbe geblieben sein; seine Befugnisse haben sich geändert. Governance muss diese Änderung erfassen, bevor die neue Berechtigung Auswirkungen auf Kunden hat.

Data Governance regelt den Umgang mit Informationen: Zugriff, Qualität, zulässige Nutzung und Aufbewahrung. KI-Governance ergänzt die Verhaltensebene: Was darf das System ableiten, empfehlen oder ausführen, wie wird das geprüft und wer kümmert sich um die Folgen?

KI-Governance auf einer Seite: der Praxisrahmen

Bei einem Unternehmen mit 20 bis 500 Beschäftigten sollte sich der Aufwand an den möglichen Folgen des jeweiligen Einsatzes orientieren. Jede Kontrolle braucht eine verantwortliche Person, eine Regel und einen Nachweis. Die folgende Vorlage wurde für den Betrieb in kleinen Unternehmen entwickelt. Sie ist weder eine Zertifizierungscheckliste noch ein Ersatz für die Bewertung eines konkreten Systems.

Geltungsbereich: KI-Nutzung durch Beschäftigte und KI-Funktionen in Vertrieb, Support und Entwicklung, einschließlich eingebetteter Funktionen in bereits eingesetzter Software.
Gesamtverantwortung: COO oder Unternehmensgründer. Die Fachbereichsleitungen verantworten ihre Arbeitsabläufe; die IT- oder Sicherheitsleitung verantwortet Zugriffe und technische Kontrollen.
Anlass für eine Freigabe: Ein neuer Zweck, eine sensible Datenquelle, ein externer Empfängerkreis oder eine neue Handlungsbefugnis erfordert vor dem Einsatz eine Prüfung.

Prüfrhythmus: Das Verzeichnis vierteljährlich prüfen und zusätzlich immer dann, wenn sich Zweck, Berechtigungen, Anbieterverhalten oder Daten ändern. Das ist ein Vorschlag für den Einstieg; bei entsprechend schwerwiegenden möglichen Folgen ist häufiger zu prüfen.
Ausnahmen: Genehmigende Person, Begründung, Einschränkungen und Ablaufdatum festhalten. Eine undokumentierte Ausnahme ist ein unbekanntes Risiko.
Berichte an das Aufsichtsgremium oder an Kunden: Zeigen, was zum Geltungsbereich gehört, was kontrolliert wird, welche Fragen offenbleiben und wer die nächste Entscheidung verantwortet.

Diese Seite sollte kurz bleiben. Das Verzeichnis und die Nachweise liegen dahinter; enthalten sie Kunden- oder Beschäftigtendaten, ist der Zugriff entsprechend zu beschränken. Die Seite dient als Wegweiser durch einen funktionierenden Prozess.

KI-Governance in Vertrieb, Support und Entwicklung umsetzen

Der Einstieg gehört dem Arbeitsablauf, bei dem am ehesten Daten offengelegt oder Kunden beeinträchtigt werden können. Wer nur Softwareabonnements zählt, übersieht die entscheidenden Berechtigungen.

Anwendungsfälle erfassen, nicht nur Toolnamen

Wird dasselbe Produkt für einen anderen Zweck oder mit anderen Berechtigungen eingesetzt, braucht es einen eigenen Eintrag. Ein Assistent für Vertriebsentwürfe und ein Ablauf zur Anreicherung von Kundendatensätzen gehören getrennt ins Verzeichnis, auch wenn beide vom selben Anbieter stammen.

Für jeden Eintrag sind festzuhalten: geschäftlicher Zweck, verantwortliche Person, Dienst und Konto, Datenkategorien, angebundene Systeme, Lese- und Schreibrechte, betroffene Personen, Prüfverfahren, Freigabestatus und Datum der letzten Prüfung. Bei einem selbst entwickelten System kommen die eingesetzte Modell- oder Dienstkonfiguration und ein Link zum Änderungsprotokoll hinzu.

Die Fachbereichsleitungen sollten auch Browsererweiterungen, Besprechungsassistenten, Programmierassistenten, Automatisierungen und aktivierte KI-Funktionen bestehender Software erfassen. Ihre Angaben werden mit den verfügbaren Abrechnungs- und Zugriffsunterlagen abgeglichen. Dabei ist die Abdeckung ehrlich zu beschreiben: Eine Beschäftigtenbefragung mit anschließender Kontenprüfung ist eine Methode zur Bestandsaufnahme, kein Beweis dafür, dass jede nicht freigegebene Nutzung gefunden wurde.

In einem beispielhaften Unternehmen mit 30 Beschäftigten kann der Gründer das Verzeichnis führen, während die Leitungen von Vertrieb, Support und Entwicklung ihre Einträge bestätigen. So entsteht ein klarer Eskalationsweg, ohne einen ständigen Ausschuss einzurichten.

KI-Richtlinie im Unternehmen: klare Grenzen für Daten

Eine Regel muss so konkret sein, dass Beschäftigte sie anwenden können: welches Konto, welche Daten, welche Aufgabe. „KI verantwortungsvoll nutzen“ verrät einem Vertriebsmitarbeiter nicht, ob ein Kundenvertrag in ein Chatfenster eingegeben werden darf.

Als vorsichtige Grundeinstellung gilt: Öffentliches Material darf in freigegebene Tools. Kundendatensätze, vertraulicher Code und interne Geschäftsinformationen erfordern einen ausdrücklich freigegebenen Dienst und Anwendungsfall. Zugangsdaten und Geheimnisse gehören nicht in Prompts. Sensible personenbezogene Informationen brauchen eine ausdrückliche Bewertung statt einer informellen Ausnahme.

Es muss feststehen, wovon die Freigabe abhängt: Aufbewahrungseinstellungen, Zugriffsrechte, vertraglich geregelte Datennutzung und die jeweilige Integration. Eine Anbieteraussage zum Modelltraining beantwortet für sich genommen weder, wo Prompts gespeichert werden, noch, wer darauf zugreifen kann. Das sind eigenständige Prüfpunkte.

Für die Regeln gegenüber Beschäftigten eignet sich die veröffentlichte Vorlage für eine Richtlinie zur zulässigen KI-Nutzung. Sie sollte in diesen Governance-Prozess eingebunden werden, damit jede Ausnahme eine verantwortliche Person und einen Prüftermin hat.

Menschliche Prüfung vor der folgenreichen Handlung

Wer prüft, braucht die Ausgangsinformationen, klare Kriterien, genügend Zeit und die Befugnis, eine Ausgabe abzulehnen. Ohne diese Voraussetzungen bietet ein Klick auf eine Freigabeschaltfläche kaum Schutz.

Im Vertrieb müssen Zusagen zu Preisen, Sicherheit und Vertragsbedingungen von einer Person geprüft werden, bevor sie Interessenten erreichen. Im Support kann der Assistent Antworten aus freigegebenem Material entwerfen; eine benannte Person prüft Erstattungen, Kontoänderungen und die Weitergabe sensibler Informationen. In der Entwicklung durchlaufen generierte Änderungen dieselben Code-Reviews, Tests und Freigabekontrollen wie andere Beiträge.

Für jeden Arbeitsablauf ist festzulegen, welche Fehler die Freigabe verhindern. Eine Supportantwort, die Angaben eines anderen Kunden offenlegt, fällt durch – unabhängig davon, wie flüssig sie formuliert ist. Eine Codeänderung bleibt unzulässig, wenn sie zwar einen Unit-Test besteht, aber die Berechtigungsprüfung umgeht.

Ein KI-Agent, also Software, die mit Tools Handlungen ausführen kann, braucht neben der Ausgabeprüfung klar begrenzte Berechtigungen. Erreichbare Konten, Datensätze und Aktionen müssen eingeschränkt werden. Diese Grenzen sind vor der Vergabe von Schreibrechten zu testen; die Rechte müssen sich auch wieder entziehen lassen.

Den konkreten Dienst und seine Konfiguration prüfen

Zu bewerten ist der tatsächlich eingekaufte Dienst, einschließlich Tarif, Kontotyp und Integration. Eine allgemeine Sicherheitsseite liefert Hintergrundmaterial, beschreibt aber nicht die eigene Konfiguration.

Die folgenden Prüfungen sollten knapp dokumentiert werden:

• Datenumgang: Welche Eingaben, Ausgaben und Metadaten werden aufbewahrt? Werden sie für das Training genutzt? Welche Löschmöglichkeiten gibt es?
• Vertrag und Verarbeitung: Was erlaubt die Vereinbarung, welche weiteren Anbieter verarbeiten die Daten und welche Zusagen gelten bei Vorfällen?
• Identität und Berechtigungen: Lassen sich Zugriffe steuern, ausscheidende Beschäftigte entfernen und angebundene Systeme beschränken?
• Betriebliche Nachweise: Welche Protokolle, Änderungsmitteilungen und Supportwege stehen für diesen Arbeitsablauf zur Verfügung?
• Ausstieg und Ausfall: Lässt sich die Funktion abschalten, lassen sich Zugangsdaten widerrufen und kann die wesentliche Aufgabe ohne sie fortgeführt werden?

Unbeantwortete Fragen bleiben als offen gekennzeichnet. Betrifft die fehlende Antwort Kundendaten oder eine unumkehrbare Handlung, muss der Einsatz eingeschränkt oder pausiert bleiben, bis eine zuständige Person ein konkretes, dokumentiertes Risiko akzeptiert.

Den bestehenden Prozess für Sicherheitsvorfälle nutzen

Beschäftigte brauchen einen leicht erkennbaren Meldeweg für unsichere Antworten, offengelegte Daten, unbefugte Handlungen oder vermuteten Missbrauch. Wer eine Meldung zuerst bearbeitet, muss wissen, wer die Integration deaktivieren kann und wer über die Wiederaufnahme entscheidet.

Festzuhalten sind der betroffene Arbeitsablauf, Zeitpunkt, beteiligte Daten, relevante Ausgaben oder Handlungen, Berechtigungen und verfügbare Protokolle. Der Zugriff auf diese Belege ist zu beschränken. Anschließend gilt es, das Problem einzudämmen, die Betroffenen zu ermitteln und die Zuständigkeit für etwaige Meldepflichten aus Verträgen und geltenden Vorschriften festzulegen.

Danach muss die versagte Kontrolle repariert werden. Hat ein Supportassistent ein zugriffsbeschränktes Dokument offengelegt, behebt das Löschen der Antwort nicht seinen Dokumentenzugriff. Die Berechtigungsänderung muss geprüft, der Fehlerfall erneut getestet und die Entscheidung zur Wiederaufnahme dokumentiert werden.

In einem beispielhaften Unternehmen mit 150 Beschäftigten kann die bereits für Sicherheitsvorfälle zuständige Person dies gemeinsam mit der Supportleitung koordinieren. Gibt es keine eigene Sicherheitsfunktion, sind die Person mit der Befugnis zum Entzug von Zugriffsrechten und die Führungskraft für Eskalationsentscheidungen ausdrücklich zu benennen.

ISO 42001, NIST und EU AI Act: Standards und KI-Compliance

NIST hilft, Risikoentscheidungen zu strukturieren, ISO dient dem Aufbau eines Managementsystems und der EU AI Act legt die jeweils geltenden gesetzlichen Pflichten fest. Wer die drei gleichsetzt, gibt in Kundenfragebögen leicht irreführende Antworten.

NIST auf einen überprüfbaren Arbeitsablauf anwenden

Die NIST-Funktionen bilden einen fortlaufenden Prozess, keine vier Kästchen, die einmal abgehakt werden. Der offizielle AI RMF Core sieht Anpassungen ausdrücklich vor und beschreibt Governance als eine Funktion, die sich durch alle anderen zieht.

Bei einem Supportassistenten könnte die Zuordnung so aussehen:

• Govern: Die Supportleitung verantwortet den Einsatz, der COO genehmigt den zulässigen Risikorahmen und die IT steuert den Zugriff.
• Map: Dokumentiert werden die Kundeninformationen, die der Assistent liest, die Empfänger seiner Antworten und die möglichen Schäden durch eine falsche Antwort.
• Measure: Typische und schwierige Fälle prüfen, einschließlich Versuchen, zugriffsbeschränkte Informationen abzurufen. Ergebnisse und ungelöste Einschränkungen festhalten.
• Manage: Zugriffe einschränken, bei Bedarf Prüfungen vorschreiben, Fehler beobachten und den Arbeitsablauf deaktivieren, wenn seine Grenzen überschritten werden.

Diese Zuordnung dient als Beispiel. Wenn genau das umgesetzt wurde, ist eine Formulierung wie „Wir nutzen NIST AI RMF zur Strukturierung unseres Risikomanagements“ angemessen. Die zugehörigen Nachweise müssen verfügbar sein.

Zertifizierung: eine Geschäftsentscheidung mit klarem Geltungsbereich

ISO/IEC 42001 betrifft das KI-Managementsystem einer Organisation. Die öffentliche Beschreibung folgt dem Plan-Do-Check-Act-Ansatz: den Prozess einrichten, betreiben, bewerten und verbessern. Eine einseitige Richtlinie ist nur ein kleiner Teil dieser Arbeit. Normenübersicht von ISO.

Die Zertifizierung ist eine gesonderte externe Prüfung. ISO entwickelt Normen, zertifiziert Organisationen aber nicht selbst. Das übernehmen externe Zertifizierungsstellen. Hinweise von ISO zur Zertifizierung.

Eine Zertifizierung kommt infrage, wenn Kunden sie verlangen, sie im relevanten Beschaffungsmarkt einen Wert hat oder der eigene KI-Betrieb ein formales Managementsystem rechtfertigt. Dabei ist zu prüfen, welche Gesellschaften, Standorte und Tätigkeiten das Zertifikat abdeckt. Das Kurszertifikat eines Mitarbeiters belegt nicht, dass die Arbeitsabläufe des Unternehmens unter einem geprüften Managementsystem betrieben werden.

Fristen im EU AI Act: Was gilt bereits, was kommt später?

Der Zeitplan für Hochrisikosysteme hat sich geändert. Das verschiebt jedoch nicht das gesamte Gesetz. Laut Kommission ist der AI Omnibus am 27. Juli 2026 in Kraft getreten. Er verlängert die wesentlichen Anwendungsfristen für Hochrisikosysteme und vereinfacht die bisherige Anforderung an Unternehmen zur KI-Kompetenz. Mitteilung der Kommission.

Der offizielle Umsetzungszeitplan nennt diese Meilensteine:

• 2. Februar 2025: Die ursprünglichen Verbote und Bestimmungen zur KI-Kompetenz wurden anwendbar.
• 2. August 2025: Die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck und die Governance-Bestimmungen wurden anwendbar.
• 2. August 2026: Allgemeiner Geltungsbeginn, einschließlich der Transparenzvorschriften aus Artikel 50.
• 2. Dezember 2026: Eine besondere Übergangsfrist nach Artikel 50(2) für bestimmte Anbieter von Systemen für synthetische Inhalte, die bereits vor dem 2. August 2026 auf dem Markt waren. Das ist keine pauschale Verlängerung der Transparenzfristen.
• 2. Dezember 2027: Hochrisikosysteme nach Anhang III.
• 2. August 2028: Hochrisiko-KI, die in regulierte Produkte nach Anhang I eingebettet ist.

Dies ist eine Auswahl der Meilensteine. Der Umsetzungszeitplan der Kommission nennt die zugehörigen Bestimmungen und Übergangsregelungen.

Für Gründer steht zunächst die eigene Rolle und der beabsichtigte Einsatz im Vordergrund. Die Kommission beschreibt einen Geltungsbereich, der öffentliche und private Akteure innerhalb und außerhalb der EU erfasst, wenn sie KI auf den EU-Markt bringen, in der EU in Betrieb nehmen oder dort nutzen. Bestimmte Anwendungen im Beschäftigungsbereich und zur Bonitätsbewertung nennt sie als Beispiele für Hochrisikosysteme. Die Beschäftigtenzahl allein beantwortet weder die Frage nach der Rolle noch nach dem Anwendungsfall. FAQ der Kommission zu Geltungsbereich und Einstufung.

Wer einen Chatbot mit direktem Kundenkontakt betreibt, sollte die anwendbaren Offenlegungspflichten jetzt prüfen. Wer eine Automatisierung für Einstellungsverfahren entwickelt, muss den vorgesehenen Einsatz bewerten, bevor das System wie ein gewöhnlicher Textassistent behandelt wird. Datum und Quelle dieser Bewertung gehören ins Verzeichnis.

Der Leitfaden zu Tools für den EU AI Act auf dieser Website ergänzt den Beitrag um die Beschaffungsperspektive. Für die hier zusammengefassten Termine und Anforderungen sind die oben verlinkten offiziellen Quellen maßgeblich.

Welche Nachweise gehören zu einem Sicherheitsfragebogen für Kunden?

Die Nachweise müssen zur Kundenfrage und zur angebotenen Leistung passen. Es gibt kein universelles Mindestpaket, das eine erfolgreiche Prüfung garantiert: Wer interne Textentwürfe bewertet, hat andere Anliegen als ein Kunde, der ein autonomes System mit Zugriff auf Produktionsdaten kauft.

Für eine erste Prüfung üblicher betrieblicher KI-Nutzung sollten diese sechs Nachweise zusammengestellt werden:

1. Freigegebene Richtlinie und Zuständigkeit: Eine aktuelle Richtlinie mit Freigabedatum, Geltungsbereich und gesamtverantwortlicher Führungskraft.
2. Relevanter Auszug aus dem Verzeichnis: Die für die Kundenleistung eingesetzten KI-Anwendungen, einschließlich Anbietern, Datenkategorien, Berechtigungen und Zuständigkeiten.
3. Anbieternachweise: Die Bewertung sowie zugehörige Vertragsbedingungen oder Einstellungen für diese Anwendungsfälle. Weitergegeben wird nur, was die Vereinbarungen erlauben.
4. Prüf- und Testbeispiel: Ein geschwärzter Nachweis, der zeigt, wie eine tatsächliche Ausgabe oder Änderung anhand festgelegter Kriterien geprüft wurde – einschließlich des Vorgehens bei einem negativen Prüfergebnis.
5. Unterweisungsnachweis: Wer die geltenden Regeln erhalten hat und wie die betreffenden Personen den Melde- und Freigabeweg kennengelernt haben.
6. Meldeweg und Vorfallsübung: Kontaktpersonen, Befugnis zum Stoppen sowie ein abgeschlossener Vorfallsbericht oder eine eindeutig als solche gekennzeichnete Übung.

Sensible Prompts oder Kundendaten sollten nicht allein deshalb mitgeschickt werden, damit die Unterlagen gründlich wirken. Besser sind eine Zusammenfassung für den konkreten Geltungsbereich und das Angebot, geeignete Belege unter beschränktem Zugriff einzusehen.

Eine brauchbare Antwort im Fragebogen benennt ihre Grenzen. Nur wenn diese Kontrollen tatsächlich umgesetzt sind, lässt sich etwa Folgendes vertreten:

Die KI-gestützte Erstellung von Antwortentwürfen im Support ist in unserem Verzeichnis der KI-Nutzung erfasst. Die Supportleitung verantwortet den Arbeitsablauf. Autorisierte Beschäftigte prüfen die Antworten vor dem Versand; die Integration kann keine Erstattungen auslösen. Vorfälle werden über unseren bestehenden Sicherheitsprozess bearbeitet. Wir können die entsprechende Richtlinie, die Anbieterbewertung und einen geschwärzten Prüfnachweis bereitstellen.

Ist eine Kontrolle erst geplant, muss sie als geplant bezeichnet werden – mit verantwortlicher Person und Zieltermin. Wurde nur der Support bewertet, darf die Aussage nicht den Eindruck erwecken, auch Vertrieb und Entwicklung abzudecken. Pauschale Aussagen wie „Unsere gesamte KI ist compliant“ sollten durch einen konkreten Geltungsbereich und belastbare Nachweise ersetzt werden.

Für das Aufsichtsgremium zählen Entscheidungen mehr als die Menge der Unterlagen: Welche Anwendungen sind freigegeben, welche können in externen Systemen handeln, welche wesentlichen Fehler sind aufgetreten, welche Ausnahmen sind noch offen und wo ist eine Freigabe der Geschäftsleitung nötig? Zahlen stammen aus dem eigenen Verzeichnis. Ist es unvollständig, muss das erkennbar sein.

Wer muss jetzt handeln, und was kann warten?

Handlungsbedarf besteht überall dort, wo KI Kundeninformationen verarbeitet, Zusagen macht oder ein laufendes System verändern kann. Vor einer Ausweitung ihrer Befugnisse müssen Berechtigungen und Zuständigkeiten geklärt sein.

Gründer: Die gesamtverantwortliche Führungskraft benennen und Anwendungen nicht mehr allein durch informelle Chatnachrichten freigeben. In einem kleinen Unternehmen kann eine Person mehrere Rollen übernehmen; trotzdem braucht jede Entscheidung einen Nachweis.

Betriebsverantwortliche: In Vertrieb und Support das Entwerfen von folgenreichen Handlungen trennen. Eine leitende Person im operativen Geschäft eines beispielhaften Unternehmens mit 400 Beschäftigten sollte für jeden Arbeitsablauf die Zuständigkeit finden können, ohne sich durch eine Kette weitergeleiteter Nachrichten zu arbeiten.

Entwickler: Bei einer neuen Toolanbindung, veränderten Datenzugriffen oder einer wesentlich anderen Konfiguration erneut bewerten. Eine bestehende Freigabe für Textgenerierung erlaubt noch keine Schreibzugriffe auf Produktivsysteme.

Einkäufer: Vor der Vergabe sensibler Zugriffsrechte Nachweise vom Anbieter verlangen. Governance-Software wird interessant, wenn manuelle Aufzeichnungen und Freigaben angesichts der tatsächlich eingesetzten Anwendungen unzuverlässig werden. Der Vergleich von Governance-Plattformen für KI-Agenten behandelt diese Kaufentscheidung.

Eine formale Zertifizierung und eine eigene Governance-Plattform können warten, wenn beides nicht erforderlich ist und die bestehenden Kontrollen beherrschbar bleiben. Ein unkritischer interner Entwurf braucht nicht denselben Freigabeaufwand wie ein Agent, der Konten verändern kann. Solange Zweck, Daten, Berechtigungen und Risiko unverändert bleiben, können vorhandene Kontrollen bis zur vorgesehenen Überprüfung weitergelten.

Schulungen zur KI-Governance müssen zur Aufgabe passen

Geschult werden sollten die Entscheidungen, die Beschäftigte tatsächlich treffen müssen. Eine allgemeine Sensibilisierungspräsentation zeigt einem Supportmitarbeiter noch nicht, wie eine unsichere Integration gestoppt wird.

Vertriebsmitarbeiter erhalten einen Entwurf mit einem unbelegten Produktversprechen. Supportmitarbeiter bekommen eine Antwort, die Informationen verschiedener Kunden vermischt. Entwickler prüfen eine plausibel wirkende Änderung, die eine Zugriffskontrolle abschwächt. Die Aufgabe lautet jeweils: das Problem erkennen, die Ausgabe ablehnen und den richtigen Meldeweg nutzen.

Unterweisung, Teilnahme und Nachbereitung werden dokumentiert. Ändert sich der Arbeitsablauf oder zeigt ein Vorfall eine Lücke, wird der relevante Teil wiederholt. Das ist eine Empfehlung für den Betrieb, keine Behauptung, jedes Unternehmen müsse einen bestimmten Kurs kaufen oder eine festgelegte Zahl an Schulungsstunden absolvieren.

Welche Erwartungen an KI-Governance sind überzogen?

Der teuerste Irrtum besteht darin, ein Governance-Dokument oder -Werkzeug mit einer funktionierenden Kontrolle zu verwechseln.

Eine Richtlinie schränkt keine Zugriffsrechte ein. Hat der Assistent weitreichende Schreibrechte, entzieht ihm der Satz „Vorher eine Freigabe einholen“ diese Rechte nicht. Regel und technische Berechtigung müssen zusammenpassen.

Menschliche Prüfung bietet nicht automatisch Sicherheit. Sie braucht Kriterien, Ausgangsmaterial, Entscheidungsbefugnis und ein Vorgehen für den Fall, dass ein Problem gefunden wird. Übersehene Fehler müssen erfasst und der Prozess verbessert werden.

Eine Anbieterzusage beschreibt nicht den eigenen Arbeitsablauf. Zuerst ist zu prüfen, welchen Dienst und Geltungsbereich sie abdeckt. Danach folgen die eigenen Datenzugriffe, die Integration und die betrieblichen Entscheidungen.

Eine Zertifizierung macht nicht jede Ausgabe richtig. Sie dient als Nachweis über das geprüfte Managementsystem. Das Verhalten, das Kunden beeinträchtigen kann, muss weiterhin geprüft werden.

Ein Dashboard trägt keine Entscheidungsverantwortung. Eine Person muss das Risiko akzeptieren, den Einsatz eingrenzen oder ihn stoppen. Ist unklar, wer das ist, schließt eine zusätzliche Berichtsebene diese Lücke nicht.

Häufige Fragen

Wird Data Governance durch KI ersetzt?

KI kann Governance-Aufgaben unterstützen. Die Verantwortung für Datenqualität, Zugriff, zulässige Nutzung und Aufbewahrung braucht trotzdem eine zuständige Person. Diese Kontrollen bleiben bestehen und werden um Regeln ergänzt, wie KI die Daten nutzen und auf Basis ihrer Ausgaben handeln darf.

Was macht GovAI?

GovAI ist ein Thinktank, der Entscheidungsträger in Politik und Wirtschaft durch Forschung zu fortgeschrittener KI sowie Programme zur Ausbildung von Governance-Fachkräften unterstützt. Es handelt sich um eine eigenständige Organisation, nicht um einen Compliance-Standard für Unternehmen. Auftrag von GovAI.

Was ist eine der größten Herausforderungen bei KI-Governance?

Freigegebene und tatsächliche Nutzung in Einklang zu halten. Ein System kann eine neue Datenquelle oder Handlungsbefugnis erhalten, während eine alte Bewertung es noch als reinen Textassistenten beschreibt. Solche Änderungen müssen eine erneute Prüfung auslösen.

Was bedeutet Governance für KI-Sicherheit?

Gemeint sind Zuständigkeit und Aufsicht für Sicherheitsentscheidungen rund um KI: Informationsverarbeitung, Zugriff, Tests, Bereitstellung und Reaktion auf Vorfälle. Diese Aufgaben gehören in den bestehenden Sicherheitsprozess. Für jeden KI-gestützten Arbeitsablauf muss feststehen, wer ihn deaktivieren kann.

Wie sieht KI-Governance in der Praxis aus?

Ein Supportassistent entwirft Antworten anhand freigegebener Dokumente. Eine benannte Person prüft die Antwort vor dem Versand. Der Assistent kann keine Erstattungen auslösen. Das Unternehmen dokumentiert die Anbieterprüfung, prüft auf unzulässige Datenzugriffe und bietet Beschäftigten einen Meldeweg für Fehler.

Ist KI-Governance ein attraktives Berufsfeld?

Das Feld lohnt einen Blick, wenn die Verbindung von technischem Verhalten, Richtlinien, Risikoentscheidungen und Nachweisen Freude macht. Konkrete Stellen sollten anhand ihrer Aufgaben und der geforderten Fähigkeiten bewertet werden. Die Stellenbezeichnung allein sagt wenig über die Arbeit aus.

Wie hoch ist das Gehalt in der KI-Governance?

Für diese Bezeichnung gibt es kein aussagekräftiges Einheitsgehalt. Sinnvoll ist der Vergleich aktuell ausgeschriebener Gehaltsspannen bei gleichem Standort, Erfahrungsniveau und Aufgabenbereich. Dabei sollten operatives Risikomanagement, technische Prüfung und Policy-Forschung getrennt betrachtet werden. Ein gemeinsamer Durchschnittswert würde diese Unterschiede verdecken.

Welche 5 Berufe werden KI überstehen?

Für keine feste Liste von fünf Berufen lässt sich garantieren, dass sie unverändert bestehen bleiben. Für eine Laufbahn in der Governance sind rollenübergreifende Fähigkeiten entscheidend: Fehler untersuchen, Nachweise prüfen, Berechtigungen verstehen und Entscheidungen gegenüber den Ergebnisverantwortlichen erklären.

Wie gelingt der Einstieg in die KI-Governance?

Ein guter Anfang ist ein klar abgegrenzter Arbeitsablauf, für dessen Bewertung eine Erlaubnis vorliegt. Dazu einen Verzeichniseintrag erstellen, mögliche Fehler erkennen, Kontrollen vorschlagen und Nachweise aus einer Prüfung oder einer ausdrücklich gekennzeichneten Übung erarbeiten. So wird sichtbar, wie eine Richtlinie mit ihrer praktischen Umsetzung zusammenhängt.

Der erste Schritt am Montag

Vertrieb, Support und Entwicklung bringen ihre aktiven KI-Anwendungen in eine kurze Arbeitssitzung ein. Dort werden die gesamtverantwortliche Führungskraft benannt, das Verzeichnis ausgefüllt und der Arbeitsablauf mit den größten möglichen Folgen für Kunden oder Daten ausgewählt.

Dieser Ablauf wird von den freigegebenen Daten über Ausgabe und Prüfung bis zu einer etwaigen Handlung nachvollzogen. Es muss feststehen, wer ihn stoppen kann. Anschließend wird ein Fehlerfall durchgespielt, jede Lücke dokumentiert und jede Korrektur einer Person zugewiesen. Die Ergebnisse bilden die Grundlage für die nächste Kundenantwort oder den nächsten Bericht an das Aufsichtsgremium.

Praktische Hinweise zum KI-Einsatz im Unternehmen gibt es im Newsletter.