Einleitung

Mit dem Inkrafttreten der EU-Verordnung über Künstliche Intelligenz (KI-VO) am 2. Februar 2025 stehen Arbeitgeber vor einer neuen, weitreichenden Herausforderung: der KI-Schulungspflicht für Unternehmen, die durch den AI Act ab 2025 rechtliche Verpflichtungen mit sich bringt. Art. 4 KI-VO verpflichtet Unternehmen aller Größenordnungen dazu sicherzustellen, dass ihre Mitarbeitenden über ausreichende Kenntnisse im Umgang mit Künstlicher Intelligenz verfügen.

Diese Verpflichtung ist keine bloße Empfehlung, sondern eine konkrete Rechtspflicht und deren Einhaltung ab August 2026 von den nationalen Aufsichtsbehörden überprüft wird.

Der nachfolgende Beitrag beleuchtet die neuen Anforderungen an Kenntnisse und Schulungen, die notwendig sind, um KI-Systeme effektiv im Unternehmen nutzen zu können und Arbeitgeber und Arbeitnehmer mit der neuen Rechtslage vertraut zu machen. Im anschließenden FAQ beantworten wir Einzelfragen kurz und prägnant.

 

Was bedeutet „KI-Kompetenz“ nach der KI-Verordnung?

Rechtliche Definition

KI-Kompetenz ist in Art. 3 Nr. 56 KI-VO legaldefiniert als:

„die Fähigkeiten, die die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden“.

Diese Definition umfasst ausdrücklich auch die Kenntnis der wesentlichen Pflichten aus der KI-VO selbst.

 

Mindestanforderungen der EU-Kommission

Die EU-Kommission hat folgende Mindeststandards für ein ausreichendes Maß an KI-Kompetenz definiert:

• • Grundlegendes Verständnis über die Funktionsweise von KI

• • Klarstellung der Rolle des Unternehmens (Anbieter oder Betreiber?)

• • Analyse der Risiken und Maßnahmen zur Risikominderung

• 
  
  • Berücksichtigung rechtlicher Rahmenbedingungen und ethischer Leitlinien

• • Anpassung an unterschiedliche Erfahrungsstände und den spezifischen Kontext des KI-Einsatzes

Welche Unternehmen sind betroffen?

Grundsätzliche Anwendbarkeit

Art. 4 KI-VO lautet im Volltext:

„Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.“^[

Die Schulungspflicht gilt danach für alle Unternehmen, die KI-Systeme entwickeln oder nutzen – unabhängig von Größe oder Branche. Entscheidend ist, ob Mitarbeiter in ihrem Arbeitsalltag mit KI in Berührung kommen.

Die KI-VO unterscheidet dabei zwischen:

• • Anbietern: Entwickeln eigene KI-Systeme und bringen sie auf den Markt

• • Betreibern: Nutzen fremdentwickelte KI-Systeme für betriebliche Zwecke

Beide Gruppen sind zur Förderung der KI-Kompetenz verpflichtet.

Hochrisiko-KI-Systeme und besondere Anforderungen

Definition nach Art. 6 KI-VO

Art. 6 KI-VO („Einstufungsvorschriften für Hochrisiko-KI-Systeme“) definiert im Detail:

„(1) Ungeachtet dessen, ob ein KI‑System unabhängig von den unter den Buchstaben a und b genannten Produkten in Verkehr gebracht oder in Betrieb genommen wird, gilt es als Hochrisiko-KI‑System, wenn die beiden folgenden Bedingungen erfüllt sind:

a) das KI‑System soll als Sicherheitsbauteil eines unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Produkts verwendet werden oder das KI‑System ist selbst ein solches Produkt;

b) das Produkt, dessen Sicherheitsbauteil gemäß Buchstabe a das KI‑System ist, oder das KI‑System selbst als Produkt muss einer Konformitätsbewertung durch Dritte im Hinblick auf das Inverkehrbringen oder die Inbetriebnahme dieses Produkts gemäß den in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union unterzogen werden.

(2) Zusätzlich zu den in Absatz 1 genannten Hochrisiko-KI‑Systemen gelten die in Anhang III genannten KI‑Systeme als hochriskant.“

Hochrisiko-KI-Systeme erfassen nach Anhang III Ziff. 4 insbesondere Anwendungen im Personal-/HR-Bereich. Dazu gehören:

• • KI-Systeme für Bewerbungsverfahren und Personalauswahl

• • Systeme zur Leistungsbewertung von Mitarbeitern

• 
  
  • KI für Beförderungs- und Kündigungsentscheidungen

• • Überwachungssysteme am Arbeitsplatz

Menschliche Aufsicht als zentrale Pflicht – KI muss überwacht werden!

Gemäß Art. 14 KI-VO („Menschliche Aufsicht“) müssen Hochrisiko-KI-Systeme so konzipiert sein, dass natürliche Personen sie während ihrer Nutzung effektiv überwachen können:

„(1) Hochrisiko-KI‑Systeme werden so konzipiert und entwickelt, dass sie während der Dauer ihrer Verwendung – auch mit geeigneten Instrumenten einer Mensch-Maschine-Schnittstelle – von natürlichen Personen wirksam beaufsichtigt werden können.

(2) Die menschliche Aufsicht dient der Verhinderung oder Minimierung der Risiken für Gesundheit, Sicherheit oder Grundrechte, die entstehen können, wenn ein Hochrisiko-KI‑System im Einklang mit seiner Zweckbestimmung oder im Rahmen einer vernünftigerweise vorhersehbaren Fehlanwendung verwendet wird, insbesondere wenn solche Risiken trotz der Einhaltung anderer Anforderungen dieses Abschnitts fortbestehen.

(3) Die Aufsichtsmaßnahmen müssen den Risiken, dem Grad der Autonomie und dem Kontext der Nutzung des Hochrisiko-KI‑Systems angemessen sein und werden durch eine oder beide der folgenden Arten von Vorkehrungen gewährleistet:

a) Vorkehrungen, die vor dem Inverkehrbringen oder der Inbetriebnahme vom Anbieter bestimmt und, sofern technisch machbar, in das Hochrisiko-KI‑System eingebaut werden;

b) Vorkehrungen, die vor dem Inverkehrbringen oder der Inbetriebnahme des Hochrisiko-KI‑Systems vom Anbieter bestimmt werden und dazu geeignet sind, vom Betreiber umgesetzt zu werden.

(4) Für die Zwecke der Durchführung der Absätze 1,2 und 3 wird das Hochrisiko-KI‑System dem Betreiber so zur Verfügung gestellt, dass die natürlichen Personen, denen die menschliche Aufsicht übertragen wurde, angemessen und verhältnismäßig in der Lage sind,

a) die einschlägigen Fähigkeiten und Grenzen des Hochrisiko-KI‑Systems angemessen zu verstehen und seinen Betrieb ordnungsgemäß zu überwachen, einschließlich in Bezug auf das Erkennen und Beheben von Anomalien, Fehlfunktionen und unerwarteter Leistung;

b) sich einer möglichen Neigung zu einem automatischen oder übermäßigen Vertrauen in die von einem Hochrisiko-KI‑System hervorgebrachte Ausgabe („Automatisierungsbias“) bewusst zu bleiben, insbesondere wenn Hochrisiko-KI‑Systeme Informationen oder Empfehlungen ausgeben;“

Besondere Pflichten für Betreiber

Art. 26 Abs. 2 KI-VO stellt zu alledem für Betreiber die Notwendigkeit der Überwachung noch einmal gesondert heraus und verpflichtet sie hierzu:

„Die Betreiber übertragen natürlichen Personen, die über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen, die menschliche Aufsicht und lassen ihnen die erforderliche Unterstützung zukommen.“

Praktische Umsetzung der Schulungspflicht mit Schulungskonzept

Für die konkrete Umsetzung der KI-Verordnung bleibt den Unternehmen viel Gestaltungsspielraum. Klar ist aber, dass rein symbolische Maßnahmen nicht genügen werden. Vielmehr ist ein belastbares, risikobasiertes Schulungskonzept mit nachvollziehbarer Umsetzung zwingend erforderlich. In diesem müssen Kompetenzstandards definiert und Vorgaben für Schulungsprogramme festgelegt und danach dann umgesetzt werden. In der Praxis empfiehlt sich dafür ein 2–3-stufiges Schulungskonzept (Basisschulung, ergänzende Schulung, Wiederholungsschulung).

Für die praktische Umsetzung empfiehlt sich ein modularer Ansatz mit zwei bis drei Stufen (kein One-size-fits-all“-Ansatz!):

Stufe 1: Basisschulungen für alle Mitarbeiter

Alle Beschäftigten, die mit KI in Berührung kommen, benötigen eine Grundlagenschulung zu:

• • Grundlagen der KI: Erkennung und Verständnis von KI-Systemen

• • Ethik und Verantwortung: Bewusstsein für gesellschaftliche Auswirkungen

• • Praktische Anwendung: Sachkundiger Einsatz von KI-Tools

Stufe 2a: Ergänzende zielgruppenspezifische Schulungen

Der konkrete Umfang der erforderlichen KI-Kompetenz hängt von verschiedenen Faktoren ab:

• • Umfang und Kontext der KI-Nutzung

• • Risikograd des eingesetzten Systems

• • Position und Funktion der Mitarbeiter

• • Individuelle Vorkenntnisse

Je nach Kenntnisstand ist hierauf aufbauend zu schulen.

Stufe 2b: Spezielle Schulungsanforderungen für Aufsichtspersonen

Personen, die die menschliche Aufsicht bei Hochrisiko-KI-Systemen ausüben, benötigen spezialisierte Schulungen, die sie befähigen:

• • Die Funktionsweise des Systems zu verstehen und Anomalien zu erkennen

• • Übermäßiges Vertrauen in KI-Ergebnisse zu vermeiden („Automatisierungsbias“)

• • KI-Ausgaben korrekt zu interpretieren

• • Bei Bedarf Entscheidungen zu treffen, die die Nutzung des Systems betreffen

• • Das System zu stoppen oder dessen Ausgabe zu ignorieren

Stufe 3: Wiederholungsschulung und regelmäßige Auffrischung der Kenntnisse und Fähigkeiten

Die Dauer und Regelmäßigkeit der durchzuführenden Schulungen richten sich nach dem „ausreichenden Maß der KI-Kompetenz“. Was rechtlich dahinter zu verstehen ist, ist bisher nicht klar und definiert. Daher werden regelmäßige weitergehende Schulungen notwendig sein, um mit der steten Weiterentwicklung von KI-Systemen Schritt halten zu können. Wiederholungsschulungen in regelmäßigen Abständen sinnvolldaher verpflichtend, in denen auch Weiterentwicklungen mit aufzugreifen sind.

Empfohlen werden derzeit:

• • Regelmäßige bzw. aktualisierte Schulungen bei neuen KI-Anwendungen

• • Interner Austausch durch Workshops und Diskussionsrunden

• • E-Learning-Plattformen für kontinuierliche Fortbildung

• • Regelmäßiges Feedback zu Schulungsmaßnahmen

Aufsicht und Durchsetzung in Deutschland – Bundesnetzagentur als zentrale Aufsichtsbehörde

Die Bundesregierung hat entschieden, die Bundesnetzagentur (BNetzA) zur zentralen Marktüberwachungsbehörde für die KI-VO zu machen. Diese soll nicht nur Aufsichtsaufgaben übernehmen, sondern auch als KI-Kompetenzzentrum für die Innovationsförderung fungieren. Die sektoralen Zuständigkeiten bleiben erhalten: So bleiben etwa die BaFin für den Finanzbereich und die Datenschutzbehörden für datenschutzrechtliche Aspekte zuständig.

Zeitplan für die Marktüberwachung

Die Marktüberwachung beginnt offiziell am 3. August 2026. Ab diesem Zeitpunkt sind die nationalen Behörden befugt, Sanktionen zu verhängen – darunter Bußgelder oder behördliche Auflagen. Dennoch empfiehlt es sich schon jetzt die notwendigen Strukturen zu schaffen und den Anforderungen der KI-VO zu genügen.

Rechtsfolgen bei Nichteinhaltung der KI-VO

Am 03.08.2026 beginnt die Marktüberwachung. Ab diesem Zeitpunkt sind nationale Behörden befugt Sanktionen zu verhängen. Hierzu gehören Bußgelder oder behördliche Auflagen. Die Höhe des Bußgeldes und die Art der Maßnahmen richten sich nach dem konkreten Verstoß, seiner Schwere und möglichen Folgeschäden.

Interessant: Der Verstoß gegen die Pflicht zur Schaffung der KI-Kompetenz selbst ist nicht bußgeldbewehrt, weil Art. 99 Abs. 4 KI-VO keine Sanktionen dafür vorsieht. Trotzdem drohen Unternehmen bei Verstößen gegen die KI-Schulungspflicht(en) zivilrechtliche Haftungsrisiken. Nach diesen können Arbeitnehmer oder Verbraucher Ansprüche geltend machen, wenn die mangelnde Schulung im Umgang mit KI-Systemen zu Schäden führt und/oder geführt hat. Zudem haften Unternehmen auch weiterhin bei etwaigen Datenschutzverstöße nach wie vor nach Art. 82 DSGVO.

Fazit und Handlungsempfehlungen

Die KI-Schulungspflicht nach Art. 4 KI-VO stellt Unternehmen vor neue Herausforderungen, bietet aber auch die Chance, die Digitalkompetenz der Belegschaft systematisch zu stärken. Eine universelle Lösung gibt es nicht – das konkrete Verständnis von KI-Kompetenz ist höchst einzelfallabhängig. In jedem Fall sollten durchgeführte Schulungen dokumentiert werden.

Konkrete Schritte für Unternehmen:

1. • Bestandsaufnahme: Identifikation aller eingesetzten KI-Systeme und betroffenen Mitarbeiter

1. • Risikoanalyse: Bewertung der KI-Systeme nach Risikoklassen (insbesondere Hochrisiko-Systeme im HR-Bereich)

1. • Zielgruppenanalyse: Ermittlung spezifischer Schulungsbedarfe verschiedener Mitarbeitergruppen

1. • Schulungskonzept: Entwicklung eines zweistufigen, modularen Ansatzes

1. • Dokumentation: Lückenlose Aufzeichnung aller Schulungsmaßnahmen

1. • Kontinuierliche Weiterentwicklung: Regelmäßige Aktualisierung bei neuen KI-Anwendungen

Die KI-Schulungspflicht stellt eine neue Dimension der Arbeitgeberpflichten dar. Wer frühzeitig handelt und strukturierte Schulungskonzepte entwickelt, ist für die Zukunft der KI-Regulierung gut gerüstet. Für eine individuelle Beratung zur Umsetzung der KI-Schulungspflicht und anderen arbeitsrechtlichen sowie it-rechtlichen Fragen im Zusammenhang mit der KI-Verordnung stehen Ihnen unsere Experten im Arbeitsrecht und IT-Recht gerne zur Verfügung. Kontaktieren Sie Ralf Onasch oder Björn Gräber!

FAQ zur KI-Kompetenz nach Art. 4 KI-VO

Basierend auf den häufigsten Anfragen unserer Mandanten und den Klarstellungen der EU-Kommission haben wir die wichtigsten Fragen zur KI-VO für Sie zusammengestellt:

Grundlagen der KI-Kompetenzpflicht

Was bedeutet KI-Kompetenz nach Art. 4 KI-VO?

KI-Kompetenz bezeichnet gemäß Art. 3 Nr. 56 KI-VO die Fähigkeiten, Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen ermöglichen, KI-Systeme sachkundig einzusetzen und sich der Chancen und Risiken von KI und möglicher Schäden bewusst zu werden. Die EU-Kommission betont, dass es sich um eine konkrete Handlungspflicht und nicht um eine bloße Empfehlung handelt.

Welche Unternehmen sind betroffen?

Alle Unternehmen, die KI-Systeme entwickeln oder nutzen, sind betroffen – unabhängig von der Unternehmensgröße. Die Pflicht gilt sowohl für:

• • Anbieter: Entwickeln und bringen KI-Systeme auf den Markt

• • Betreiber: Nutzen fremdentwickelte KI-Systeme für betriebliche Zwecke

Seit wann gilt die KI-Schulungspflicht?

Die Verpflichtung gilt bereits seit dem 2. Februar 2025. Die Überwachung und Durchsetzung durch nationale Behörden beginnt am 3. August 2026.

Schulungsumfang und -inhalte

Welche Mitarbeiter müssen geschult werden?

Geschult werden müssen alle Personen, die mit KI-Systemen arbeiten, einschließlich:

• • Interne Mitarbeiter

• • Externe Dienstleister und Auftragnehmer

• • Freiberufliche Mitarbeiter

• • Alle Personen, die „im Auftrag“ des Unternehmens KI-Systeme nutzen

Was muss eine KI-Schulung mindestens enthalten?

Nach den Mindestanforderungen der EU-Kommission müssen Unternehmen sicherstellen:

a) Grundlegendes Verständnis von KI: Was ist KI? Wie funktioniert sie? Welche KI wird im Unternehmen eingesetzt?

b) Rollenklärung: Entwickelt das Unternehmen KI-Systeme oder nutzt es nur fremde Systeme?

c) Risikoanalyse: Welche Risiken bestehen und wie können sie minimiert werden?

d) Rechtliche und ethische Aspekte: Berücksichtigung von Gesetzen und ethischen Leitlinien

Müssen alle Mitarbeiter die gleiche Schulung erhalten?

Nein, die EU-Kommission empfiehlt ausdrücklich keinen „One-size-fits-all“-Ansatz. Die Schulungen müssen angepasst werden an:

• • Technische Kenntnisse und Erfahrung der Mitarbeiter

• • Kontext der KI-Nutzung

• • Risikograd des eingesetzten Systems

• • Position und Funktion der Mitarbeiter

Praktische Umsetzung

Welche Schulungsformate sind zulässig?

Die KI-VO schreibt keine bestimmten Schulungsformate vor. Zulässig sind:

• • Präsenzschulungen

• • Online-Trainings

• • E-Learning-Plattformen

• • Workshops und Diskussionsrunden

• • Interne und externe Schulungen

Sind Zertifikate oder Nachweise erforderlich?

Nein, Zertifikate sind nicht gesetzlich vorgeschrieben. Die EU-Kommission empfiehlt jedoch, alle Schulungsmaßnahmen intern zu dokumentieren, um im Streitfall Rechenschaft ablegen zu können.

Wie oft müssen Schulungen wiederholt werden?

Es gibt keine festen Fristen für Wiederholungsschulungen. Aufgrund der schnellen Entwicklung der KI-Technologie werden jedoch regelmäßige Aktualisierungen empfohlen, insbesondere bei:

• • Neuen KI-Anwendungen im Unternehmen

• • Änderungen der rechtlichen Rahmenbedingungen

• • Technologischen Weiterentwicklungen

Besondere Anforderungen

Gelten besondere Regeln für Hochrisiko-KI-Systeme?

Ja, bei Hochrisiko-KI-Systemen gelten verschärfte Anforderungen. Besonders relevant für das Arbeitsrecht sind KI-Systeme nach Anhang III Ziff. 4 KI-VO für:

• • Bewerbungsverfahren und Personalauswahl

• • Leistungsbewertung von Mitarbeitern

• • Beförderungs- und Kündigungsentscheidungen

• • Überwachung am Arbeitsplatz

Hier ist eine menschliche Aufsicht nach Art. 14 und Art. 26 Abs. 2 KI-VO erforderlich, die spezielle Schulungen erfordert.

Müssen auch KMU die KI-Schulungspflicht beachten?

Ja, die Pflicht gilt für alle Unternehmen unabhängig von der Größe. Kleinere Unternehmen können jedoch von vereinfachten Ansätzen profitieren, da die Anforderungen an die verfügbaren Ressourcen angepasst werden können.

Rechtliche Konsequenzen

Welche Strafen drohen bei Nichteinhaltung?

Ein direkter Bußgeldtatbestand für Verstöße gegen Art. 4 KI-VO existiert nicht. Jedoch bestehen zivilrechtliche Haftungsrisiken:

• • Schadensersatzansprüche von Arbeitnehmern

• • Verbraucherschutzrechtliche Ansprüche

• • Datenschutzrechtliche Sanktionen nach Art. 82 DSGVO

Ab wann können Sanktionen verhängt werden?

Die Marktüberwachung beginnt am 3. August 2026. Ab diesem Zeitpunkt können nationale Behörden Sanktionen verhängen, wobei ein verhältnismäßiger Ansatz verfolgt wird.

Organisatorische Fragen

Muss ein KI-Beauftragter ernannt werden?

Nein, die KI-VO kennt keine offizielle Bestellungspflicht für einen KI-Beauftragten. Je nach Unternehmensgröße und Bedeutung von KI kann es jedoch sinnvoll sein, entsprechende Verantwortlichkeiten festzulegen.

Wer darf KI-Schulungen durchführen?

Die KI-VO enthält keine Bestimmungen zur Fortbildungsbefugnis. Schulungen können sowohl intern als auch extern von jeder fachkundigen Person durchgeführt werden. Wichtig sind die entsprechende Qualifikation und Erfahrung der Referenten.

Können externe Dienstleister bei der Umsetzung helfen?

Ja, Unternehmen können externe Dienstleister für die Entwicklung und Durchführung von KI-Schulungen beauftragen. Die Verantwortung für die Einhaltung der Schulungspflicht verbleibt jedoch beim Arbeitgeber.

Ausblick und Empfehlungen

Wird es weitere Leitlinien der EU-Kommission geben?

Die EU-Kommission hat angekündigt, weitere Leitlinien und Klarstellungen zu veröffentlichen. Zusätzlich können die nationalen Marktüberwachungsbehörden eigene Durchsetzungsleitlinien erlassen.

Wie sollten Unternehmen jetzt vorgehen?

Unternehmen sollten proaktiv handeln und nicht auf weitere Vorgaben warten:

1. • Bestandsaufnahme: Identifikation aller KI-Systeme und betroffenen Mitarbeiter

1. • Risikoanalyse: Bewertung der KI-Systeme nach Risikoklassen

1. • Zielgruppenanalyse: Ermittlung spezifischer Schulungsbedarfe

1. • Schulungskonzept: Entwicklung eines modularen Ansatzes

1. • Dokumentation: Aufzeichnung aller Schulungsmaßnahmen

1. • Kontinuierliche Weiterentwicklung: Regelmäßige Aktualisierung bei neuen Entwicklungen

Wo finden Unternehmen weitere Unterstützung?

Hilfreiche Ressourcen bieten:

• • Das lebende Repository der EU-Kommission zu KI-Kompetenzpraktiken, abrufbar hier: https://digital-strategy.ec.europa.eu/de/faqs    

• • Europäische Digitale Innovationszentren (EDIH) für KMU, hier zu finden: https://digital-strategy.ec.europa.eu/de/policies/edihs

• • Fachspezifische Beratung durch spezialisierte Rechtsanwälte, insbesondere durch unsere Fachanwälte für Arbeitsrecht Ralf Onasch und IT-Recht Björn Gräber

• • Branchenverbände und Kammern