EU-Verordnung zum Thema künstliche Intelligenz: Neue Arbeitgeber*innenpflichten ab Februar 2025

Doch was genau ist eigentlich unter KI-Kompetenz zu verstehen, in welchem Umfang werden Unternehmen in die Pflicht genommen und welche Konsequenzen drohen bei Verstößen?

Welche neuen Verpflichtungen haben Arbeitgeber zu erfüllen?

Grundsätzlich gilt: Anbieter*innen und Betreiber*innen von KI Systemen haben gemäß der KI-VO nach bestem Wissen und Gewissen sicherzustellen, dass eigenes Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI Systemen befasst sind, über ein ausreichendes Maß an KI Kompetenz verfügen. Unternehmen, die ein KI-System mit allgemeinem Verwendungszweck entwickeln oder entwickeln lassen und unter eigenem Namen in Verkehr bringen oder in Betrieb nehmen, gelten dabei als Anbieter*innen. Entschließt sich ein*e Arbeitgeber*in dagegen, zur Förderung arbeitstechnischer Zwecke im Unternehmen fremdentwickelte KI-Systeme in eigener Verantwortung zu verwenden, gilt er als Betreiber im Sinne der KI-VO. Dies gilt im Übrigen unabhängig von der Unternehmensgröße – ob Start-up oder internationaler Konzern: Arbeitgeber*innen, die KI-Systeme einsetzen, sind verpflichtet, entsprechend ihrer verfügbaren Ressourcen und technologischen Möglichkeiten angemessene Maßnahmen zu ergreifen.

Was ist unter KI-Kompetenz zu verstehen?

Die KI-VO definiert die KI-Kompetenzen als

„die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.“

KI-Kompetenz bedeutet damit zusammengefasst die Fähigkeit, mit KI-Systemen fundiert umzugehen, ihre Potenziale und Risiken zu erkennen und auf dieser Grundlage verantwortungsvolle Entscheidungen zu treffen.

Wie kann ein ausreichendes Maß an KI-Kompetenz vermittelt werden?

Eine konkrete Regelung, wie ein „ausreichende Maß“ an KI-Kompetenz zu erreichen ist und wann es als erfüllt gilt, bestimmt die KI-VO nicht näher. Es obliegt dem Unternehmen, ein passendes Konzept zu entwickeln, das es den betroffenen Personen ermöglicht, fundierte Entscheidungen im Umgang mit KI Systemen treffen zu können. Der Fokus sollte darauf liegen, Mitarbeitenden die notwendigen Fähigkeiten, Kenntnisse und das Verständnis zu vermitteln, um die Anforderungen der Verordnung zu erfüllen. Eine einheitliche Lösung gibt es dabei nicht; der konkrete Umfang hängt vielmehr vom jeweiligen Einzelfall ab. Dabei gilt es insbesondere, die Branche des Unternehmens, den Einsatzbereich des KI-Systems und die damit verbundenen Risiken zu berücksichtigen. Auch die technischen Kenntnisse der Mitarbeiter*innen deren Ausbildung und Erfahrung sowie der Kontext, in dem KI-Systeme eingesetzt werden sollen, spielen eine Rolle.

Folgende Punkte können als Leitfaden für die notwendigen Überlegungen zur Entwicklung eines entsprechenden Konzepts dienen:

1. Schulungsbedarf ermitteln

Unternehmen sollten zunächst eine Bedarfs- und Kompetenzanalyse durchführen, um die spezifischen Anforderungen zu identifizieren:

• Welche KI-Systeme werden im Unternehmen eingesetzt?
• Wie risikoreich sind diese Systeme?
• Wer interagiert mit diesen Systemen?
• Welches Wissen und welche Fähigkeiten sind bereits vorhanden?

2. Allgemeine und individuelle Schulungsmaßnahmen

Basierend auf dieser Analyse sollten Unternehmen Schulungen auf verschiedenen Ebenen anbieten:

• Allgemeine Schulungen: Vermittlung von Grundkenntnissen über KI, deren Funktionsweise und rechtliche sowie ethische Aspekte.
• Individuelle Vertiefungen: Für spezifische Anwendungen, wie z.B. sicherheitskritische oder branchenspezifische KI-Systeme können weiterführende Schulungen erforderlich sein.

3. KI-Governance etablieren

Ergänzend zu den Schulungen sollten Unternehmen einen klaren Rahmen für ihre KI-Governance schaffen, der Leitlinien und Richtlinien für die Nutzung von KI aufstellt. Ein sogenanntes „KI-Playbook“ kann Mitarbeitenden als Orientierung dienen und den sicheren Umgang mit KI-Systemen gewährleisten.

4. Einsatz eines KI-Beauftragten

Je nach Unternehmensgröße und Umfang der KI-Nutzung kann auch der Einsatz eines KI-Beauftragten sinnvoll sein, der Risikobewertungen sowie Risikofolgenabschätzungen durchführt, die Implementierung, Überwachung und Koordination der KI-Strategien vorantreibt und die Planung und Koordination von Schulungen übernimmt.

Wie sind die Maßnahmen zu dokumentieren?

Die KI-VO verlangt keine konkrete Dokumentation. Für Arbeitgeber*innen ist es dennoch ratsam, insbesondere Schulungsmaßnahmen (elektronisch) festzuhalten. Eine nachvollziehbare Dokumentation schützt Unternehmen vor Haftungsrisiken und belegt die Erfüllung der Verpflichtung nach Art. 4 KI-VO.

Welche Folgen drohen bei unzureichender oder unterlassener Umsetzung?

Artikel 4 KI-VO ist nicht als konkrete Verpflichtung, sondern vielmehr als ein Appell ausgestaltet. Dies zeigt sich unter anderem darin, dass ein Verstoß weder bußgeld- noch strafbewehrt ist. Es drohen damit keine unmittelbaren Geldstrafen bei unzureichender oder unterlassener Umsetzung. Sollte jedoch durch eine fehlerhafte Bedienung eines KI-Systems oder eine unzureichende Risikobewertung ein Schaden entstehen, könnte dies als Verstoß gegen die allgemeine Sorgfaltspflicht des Unternehmens ausgelegt werden, hätte der Schaden durch angemessene Maßnahmen verhindert werden können.

Fazit

Die Einführung von Artikel 4 der KI-VO macht die Sicherstellung der KI-Kompetenz zu einer zentralen Verantwortung für Arbeitgeber*innen. Auch ohne unmittelbare Sanktionen sollten Unternehmen vor allem die Schulungspflicht ernst nehmen. Durch die Etablierung eines umfassenden Schulungskonzepts können Arbeitgeber*innen nicht nur die regulatorischen Vorgaben erfüllen, sondern auch die sichere und verantwortungsvolle Nutzung von KI-Systemen im Betrieb fördern. Letztlich bietet die Sicherstellung von KI-Kompetenz nicht nur rechtliche Absicherung, sondern auch einen Wettbewerbsvorteil, da gut geschulte Mitarbeitende KI-Systeme effizienter und risikoärmer einsetzen können.

Dr. Manuela Rauch

Hinweis: Der Beitrag ist in einer ähnlichen Version bei Haufe.de erschienen: https://www.haufe.de/personal/arbeitsrecht/arbeitgeberpflicht-zur-sicherstellung-der-ki-kompetenz_76_639984.html

Weiterer Hinweis: In unserer Kanzlei haben wir ein AI-Literacy-Training entwickelt. Dies ist ein 20-minütiger E-Learning-Kurs, der die Pflichtinhalte der KI-VO enthält. Das Training gibt es derzeit in deutscher, englischer und französischer Sprache und kann auch in das Learning-Management-System (LMS) Ihres Unternehmens eingebunden werden. Weitere Informationen sind hier zu finden:

AI Implementation Toolkit | Client Tools | Eversheds Sutherland

EU AI Act: Article 4 Compliance eLearning module

Bei Interesse wenden Sie sich bitte an Nils Müller: NilsMueller@eversheds-sutherland.com.