Wozu brauchen Unternehmen eine KI-Governance?

Wozu brauchen Unternehmen eine KI-Governance? Art. 4 EU AI Act, KI-Kompetenz-Schulung, Rollen und Dokumentation praktisch erklärt.

Inhalt

In vielen Unternehmen ist KI längst da, nur die Zuständigkeit fehlt. Eine Mitarbeiterin formuliert Angebote mit einem Chatbot, der Vertrieb fasst Gesprächsnotizen zusammen, die Agentur liefert generierte Motive und niemand weiß genau, welche Daten in welches Werkzeug dürfen. Das ist der Punkt, an dem KI-Governance nützlich wird.

Sie ist kein neues Organigramm und kein 80-seitiges Handbuch. KI-Governance bedeutet, dass ein Unternehmen festlegt, welche KI wofür eingesetzt wird, wer entscheidet, welche Regeln gelten und wie der Einsatz nachvollziehbar bleibt. Für ein kleines Unternehmen kann das auf wenigen Seiten stehen.

Wozu brauchen Unternehmen eine KI-Governance?

Die kurze Antwort: damit KI nicht nur schnell, sondern wiederholbar vernünftig eingesetzt wird. Ohne gemeinsame Regeln entscheidet jede Person selbst, ob Kundendaten in ein öffentliches Modell dürfen, ob ein Ergebnis geprüft werden muss und wer auf einen Fehler reagiert.

Eine pragmatische Governance löst fünf sehr konkrete Probleme:

  • Sie schafft einen Überblick über tatsächlich genutzte Werkzeuge.
  • Sie trennt harmlose Schreibhilfe von sensiblen Entscheidungen über Menschen.
  • Sie definiert erlaubte Daten und verbotene Eingaben.
  • Sie sorgt für passende KI-Kompetenz im Team.
  • Sie macht Freigaben, Vorfälle und Änderungen nachvollziehbar.

Das hilft nicht nur für den EU AI Act. Es verhindert auch klassische Betriebsprobleme: falsche Aussagen an Kunden, verlorene Geschäftsgeheimnisse, unnötige Doppelabos und Automationen, für die sich nach einem Personalwechsel niemand mehr verantwortlich fühlt.

Was Art. 4 des EU AI Act seit 2025 verlangt

Art. 4 gilt bereits seit dem 2. Februar 2025 für Anbieter und Betreiber von KI-Systemen. Ein Unternehmen, das ein fremdes KI-Werkzeug beruflich nutzt, ist regelmäßig Betreiber im Sinne von Art. 3 Nr. 4.

Der Artikel wurde im Juli 2026 durch den Digital Omnibus neu gefasst. In der aktuellen Fassung müssen Anbieter und Betreiber Maßnahmen treffen, um die Entwicklung von KI-Kompetenz bei ihrem Personal und bei weiteren Personen zu unterstützen, die in ihrem Auftrag KI-Systeme bedienen oder nutzen. Dabei sollen Vorkenntnisse, Erfahrung, Ausbildung, der Einsatzkontext und die betroffenen Personengruppen berücksichtigt werden.

Neu klargestellt ist auch: Das Unternehmen muss kein bestimmtes Kompetenzniveau jeder einzelnen Person garantieren. Damit bleibt Art. 4 eine Pflicht zum angemessenen Handeln, keine Garantie für eine Prüfungspunktzahl.

Das betrifft nicht nur Entwickler. Wer ChatGPT, Microsoft Copilot, einen Bildgenerator, eine KI-Funktion im CRM oder ein spezialisiertes Branchenwerkzeug im Arbeitsprozess einsetzt, kann in den Anwendungsbereich fallen. Auch freie Mitarbeitende oder Dienstleister können relevant sein, wenn sie im Auftrag des Unternehmens mit dem System arbeiten.

Ist eine KI-Kompetenz-Schulung Pflicht?

Eine KI-Kompetenz-Schulung ist ein naheliegender Baustein, aber der AI Act schreibt weder einen bestimmten Kurs noch ein Zertifikat, eine feste Stundenzahl oder eine jährliche Prüfung vor. Entscheidend sind passende Maßnahmen für die Personen und Risiken im konkreten Einsatz.

Für ein Team, das KI nur für erste Textentwürfe nutzt, kann eine kurze interne Schulung mit Praxisregeln angemessen sein. Wer KI zur Bewerberbewertung, Bonitätseinschätzung oder Steuerung eines sicherheitsrelevanten Produkts einsetzt, braucht deutlich mehr Fachwissen, Kontrolle und Dokumentation. Bei Hochrisiko-Systemen verlangt Art. 26 Abs. 2 zusätzlich, dass die menschliche Aufsicht Personen mit der nötigen Kompetenz, Schulung und Befugnis übertragen wird. Diese Hochrisiko-Pflichten folgen einem eigenen Zeitplan.

Die Frage „Gibt es eine KI-Kompetenz-Schulung-Pflicht?” lässt sich deshalb so beantworten: Es gibt eine Pflicht zu Maßnahmen für KI-Kompetenz. Eine gekaufte Standardschulung ist nicht automatisch vorgeschrieben und nicht automatisch ausreichend.

Welche Inhalte eine gute Schulung abdecken sollte

Eine brauchbare Schulung erklärt nicht allgemein, dass KI Chancen und Risiken hat. Sie bezieht sich auf die Werkzeuge und Aufgaben, die im Unternehmen tatsächlich vorkommen.

Ein solides Grundmodul behandelt:

  • was ein KI-System kann und wo es plausibel falsche Ergebnisse produziert
  • welche Daten, Kundennamen und Geschäftsgeheimnisse nicht eingegeben werden dürfen
  • wann eine menschliche Prüfung nötig ist
  • wie KI-generierte Inhalte nach Art. 50 gekennzeichnet werden
  • welche Anwendungen vor der Nutzung freigegeben werden müssen
  • an wen sich Mitarbeitende bei Fehlern oder Unsicherheit wenden

Danach kommen rollenspezifische Teile. Marketing braucht andere Beispiele als Personal, Vertrieb oder IT. Eine Person, die nur Textvorschläge prüft, muss kein Modelltraining verstehen. Eine Führungskraft, die eine KI-gestützte Personalentscheidung freigibt, muss dagegen Zweck, Datenbasis, Grenzen und menschliche Verantwortung genauer kennen.

Die fünf Bausteine einer kleinen KI-Governance

Ein mittelständischer Betrieb braucht selten ein eigenes KI-Komitee. Fünf Bausteine reichen für einen belastbaren Anfang.

1. Ein KI-Inventar

Erfasst werden Werkzeug, Anbieter, Einsatzzweck, Nutzergruppe, verwendete Daten und sichtbare Ergebnisse. Wichtig ist die tatsächliche Nutzung, nicht nur die offiziell beschaffte Software. Eine anonyme Abfrage im Team fördert oft mehr Dienste zutage als die Buchhaltung.

Das Inventar sollte auch den Status enthalten: erlaubt, erlaubt mit Bedingungen, in Prüfung oder nicht erlaubt. So wird aus einer Liste ein Arbeitsmittel.

2. Klare Rollen

Jedes Werkzeug braucht eine fachlich verantwortliche Person. Sie muss nicht alle technischen Fragen selbst beantworten, aber sie hält Zweck, Freigabe und Änderungen zusammen. Datenschutz, Informationssicherheit, Personalvertretung oder Fachanwalt werden dort eingebunden, wo der Einsatz sie tatsächlich berührt.

In einem kleinen Unternehmen kann eine Person mehrere Rollen übernehmen. Entscheidend ist, dass „dafür ist irgendwie die IT zuständig” nicht die einzige Antwort bleibt.

3. Eine kurze KI-Richtlinie

Eine praktische Richtlinie beantwortet alltägliche Fragen:

  • Welche Tools dürfen genutzt werden?
  • Welche Daten dürfen hinein?
  • Welche Ergebnisse brauchen eine menschliche Freigabe?
  • Welche KI-Anwendungen sind ohne Prüfung ausgeschlossen?
  • Wie werden künstlich erzeugte Inhalte gekennzeichnet?
  • Wie werden Vorfälle gemeldet?

Die Richtlinie sollte Beispiele aus dem Betrieb enthalten. „Keine vertraulichen Daten in nicht freigegebene Dienste” hilft. Noch hilfreicher ist ein Beispiel, was im eigenen CRM, Exposé oder Angebot als vertraulich gilt.

4. Rollenbezogene Schulung

Ein Grundmodul für alle betroffenen Personen und kurze Ergänzungen je Aufgabe sind meistens besser als ein identischer langer Kurs. Neue Mitarbeitende sollten die Regeln vor dem ersten produktiven Einsatz kennenlernen. Bei neuen Werkzeugen oder deutlich veränderten Funktionen braucht es ein Update.

5. Schlanke Dokumentation und Kontrolle

Art. 4 verlangt kein bestimmtes Schulungsregister. Trotzdem sollte das Unternehmen festhalten, wann welche Maßnahme stattfand, welche Rollen teilgenommen haben, welche Werkzeuge besprochen wurden und wo die aktuelle Richtlinie liegt. Das macht die eigene Umsetzung überprüfbar und verhindert, dass dieselben Fragen jedes Quartal neu beantwortet werden.

Ein regelmäßiger kurzer Review reicht oft: Sind neue Tools hinzugekommen? Haben sich Zwecke oder Daten geändert? Gab es Fehler, Beschwerden oder neue Plattformregeln? Governance soll mit dem Betrieb mitlaufen, nicht danebenstehen.

Was dokumentiert werden sollte, und was nicht

Gute Dokumentation beweist nicht, dass nie ein Fehler passieren kann. Sie zeigt, dass das Unternehmen Risiken erkannt und vernünftige Maßnahmen getroffen hat.

Sinnvoll sind:

  • Version und Datum der KI-Richtlinie
  • aktuelles KI-Inventar mit Verantwortlichen
  • Schulungsthema, Zielgruppe, Datum und verwendete Unterlagen
  • Freigabeentscheidungen bei sensiblen Anwendungen
  • Hinweise zu menschlicher Kontrolle und Kennzeichnung
  • gemeldete Vorfälle und daraus folgende Änderungen

Nicht sinnvoll ist ein Formularfriedhof, den niemand liest. Eine unterschriebene Teilnahmebestätigung ohne verständliche Inhalte ersetzt keine Kompetenz. Ebenso wenig löst eine Richtlinie das Problem, wenn im Alltag nur nicht freigegebene Tools funktionieren.

Bußgelder, ohne Schreckenszahl-Marketing

Der EU AI Act enthält hohe Obergrenzen, aber sie gelten nicht pauschal für jeden Fehler. Art. 99 nennt für verbotene Praktiken nach Art. 5 grundsätzlich bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes. Für bestimmte aufgelistete Pflichten, darunter die Transparenzpflichten aus Art. 50, sind grundsätzlich bis zu 15 Millionen Euro oder 3 Prozent vorgesehen. Bei kleinen und mittleren Unternehmen gilt jeweils die niedrigere der genannten Obergrenzen. Jede Sanktion muss den Einzelfall und die Verhältnismäßigkeit berücksichtigen.

Art. 4 selbst steht nicht in diesem Katalog der unmittelbar mit 15 Millionen Euro oder 3 Prozent belegten Vorschriften. Auch das deutsche KI-Marktüberwachungs- und Innovationsförderungsgesetz, kurz KI-MIG, ordnet in § 15 derzeit kein pauschales Einzelbußgeld allein für eine versäumte KI-Schulung an. Behörden können die Einhaltung von Art. 4 dennoch beaufsichtigen und weitere Durchsetzungsmaßnahmen treffen.

Welche behördliche Maßnahme eine konkrete Lücke bei KI-Kompetenz nach aktueller deutscher Praxis auslösen kann, sollte bei einem relevanten Vorfall oder einem sensiblen Einsatz fachanwaltlich geprüft werden. [PRÜFEN]

Der bessere Grund für Governance ist ohnehin nicht die größtmögliche Bußgeldzahl. Er ist ein Betrieb, der erklären kann, welche KI er einsetzt und warum das Ergebnis verlässlich genug für seinen Zweck ist.

So fängt ein Unternehmen in vier Wochen pragmatisch an

In der ersten Woche sammelt das Team die genutzten Werkzeuge und Zwecke. In der zweiten werden riskante Datenflüsse, Veröffentlichungen und Entscheidungen markiert. In der dritten entstehen eine kurze Richtlinie und feste Verantwortlichkeiten. In der vierten folgt eine Schulung anhand der echten Fälle und die Dokumentation der offenen Punkte.

Danach ist nicht alles abgeschlossen. Aber das Unternehmen hat einen belastbaren Ausgangspunkt: Inventar, Regeln, Rollen, Kompetenzmaßnahme und Wiedervorlage.

Externe Unterstützung lohnt sich vor allem, wenn mehrere Abteilungen beteiligt sind, Entscheidungen über Personen automatisiert werden, sensible Daten verarbeitet werden oder niemand intern die rechtliche und technische Einordnung zusammenführen kann. Für einen kleinen, klaren Textworkflow kann eine gut vorbereitete interne Lösung völlig ausreichen.

Wer Inventar, Richtlinie und KI-Kompetenz-Schulung passend zum eigenen Betrieb aufsetzen möchte, kann das in einem unverbindlichen Erstgespräch vorsortieren.


Dieser Beitrag ist eine allgemeine Ersteinschätzung und keine Rechtsberatung. Für die verbindliche Bewertung der Pflichten und Maßnahmen in deinem Unternehmen wende dich an eine Rechtsanwältin oder einen Rechtsanwalt mit Schwerpunkt IT-Recht.