KI-Verordnungen am 2. Februar in Kraft getreten
Mit dem AI Act der Europäischen Union ist seit vergangenen August das weltweit erste staatenübergreifende Regelwerk zur Risikominimierung im Umgang mit künstlicher Intelligenz in Kraft. Seit dem 2. Februar sind Unternehmen nun in besonderem Maße gefordert: KI-Systeme mit inakzeptablem Risiko sind verboten. Ziel ist es, den Schutz von Grundrechten, Transparenz und ethischen Standards in der Nutzung von KI-Systemen zu gewährleisten. Unternehmen, die KI-Technologien einsetzen oder entwickeln, haben umfassende Pflichten zu erfüllen. Die Bundesvereinigung der Deutschen Arbeitgeberverbände (BDA) informierte hierzu in einem Rundschreiben.
Am 2. Februar 2025 sind die ersten Regelungen der KI-Verordnung in Kraft getreten (vgl. RS X/016/24 vom 4. November 2024). Nach Art. 113 lit. a KI-VO treten Kapitel I und II der KI-VO in Kraft. Für Arbeitgeber sind folgende Neuerungen relevant:
KI-Kompetenzen
Nach Art. 4 KI-VO müssen Arbeitgeber als sog. Betreiber, Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass alle Beschäftigten, die mit der Nutzung von KI-Anwendungen befasst sind, über die notwendigen Kompetenzen verfügen. Dabei sind technische Vorkenntnisse, Erfahrungen, Qualifikation sowie der Kontext, in dem die KI-Systeme eingesetzt werden, zu berücksichtigen.
KI-Kompetenzen sind nach Art. 3 Nr. 56 KI-VO die Fähigkeiten, die Kenntnisse und das Verständnis, die es Beschäftigten ermöglicht, „KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu machen“.
Dabei ist zu beachten:
Die Pflicht zum Ergreifen von Maßnahmen für die Kompetenzvermittlung gilt grundsätzlich für alle KI-Anwendungen, unabhängig von der Risikoklassifizierung.
Die Vorschrift ist dabei wenig konkretisiert. Welche Maßnahmen erforderlich sind, hängt im Einzelfall von der eingesetzten KI und von den Beschäftigten ab.
Mögliche Maßnahmen können sein: Schulungen, KI-Guidelines, praxisorientiertes Lernen in divers zusammengesetzten Teams, Weiterbildungs- und Zertifizierungsprogramme oder die Benennung von Anlaufstellen wie betriebsinterner KI-Beauftragter.
Die Pflicht ist sehr weich formuliert, sie kann als Appell verstanden werden. Dafür spricht, dass Art. 4 KI-VO nicht sanktionsbewährt ist.
Das Unterlassen von Maßnahmen nach Art. 4 KI-VO stellt aber eine Sorgfaltspflichtverletzung dar, die bei Eintritt eines Schadens eine Schadensersatzpflicht auslösen kann.
Verbotene KI-Systeme:
Nach Art. 5 KI-VO sind KI-Systeme mit einem unannehmbar hohen Risiko grundsätzlich verboten. Gemeint sind damit KI-Systeme, von denen eine eindeutige Bedrohung ausgeht, weil sie z. B. manipulieren, täuschen oder Merkmale von Personen (Alter, Geschlecht, Herkunft etc.) kalkuliert ausnutzen. Die KI-VO katalogisiert diese verbotenen KI-Systeme, darunter z. B. solche, die ein sog. social scoring vornehmen oder Systeme zur biometrischen Identifizierung. Dazu gehören grundsätzlich auch alle KI-Systeme zur Emotionserkennung am Arbeitsplatz.
Dabei ist zu beachten:
Ausgenommen sind KI-Systeme, die aus rein medizinischen oder sicherheitstechnischen Gründen Emotionen erkennen, wie z. B. für therapeutische Zwecke.
Nicht gemeint sind nicht körperliche Zustände wie Schmerzen oder Müdigkeit.
Das Verbot nach Art. 5 KI-VO ist grundsätzlich sanktionsbewährt nach Art. 99 KI-VO.
Weitere Informationen zu den für Arbeitgeber relevanten Regelungen der KI-Verordnung finden Sie in dem Anwendungspapier „EU AI Act – Was steht drin?“, das auf der Webseite der BDA bereitsteht.