Am 2feb2025 haben die ersten Bestimmungen des im August 2024 in Kraft getretenen ihre Gültigkeit erlangt – wir sprechen vom EU AI Act. Die Botschaft ist eindeutig: Unternehmen sollen die Vorteile von KI nutzen – jedoch nicht auf Kosten von Grundrechten, Sicherheit oder Fairness.
Künstliche Intelligenz (KI) hat die Arbeitswelt verändert, optimiert, revolutioniert. Doch während KI-Systeme die betriebliche Effizienz stetig steigern und neue innovative Möglichkeiten schaffen, wächst gleichzeitig auch das Bewusstsein für ihre Risiken.
Risikobasierter Regelungsansatz des AI Acts
Zentrales Element des AI Acts ist die in Art 6 ff normierte risikobasierte Regelungssystematik, die KI-Anwendungen entsprechend ihrem Gefährdungspotenzial in drei Risikokategorien einordnet:
- Verbotene KI-Systeme (Art 5 KI-VO): KI-Anwendungen, deren Einsatz mit den Grundwerten der Union als unvereinbar qualifiziert wird und daher einem absoluten Verbot unterliegt.
- Hochrisiko-KI-Systeme (Art 6 iVm Anhang III KI-VO): Diese Kategorie umfasst Anwendungen, die erhebliche Risiken für Gesundheit, Sicherheit oder Grundrechte natürlicher Personen bergen können. Solche Systeme unterliegen spezifischen Anforderungen hinsichtlich Risikomanagement, Datengovernance, technischer Dokumentation, Transparenz sowie menschlicher Aufsicht.
- Sonstige KI-Systeme: Hierunter fallen Anwendungen mit niedrigerem Risikopotenzial, die gleichwohl bestimmten Transparenzanforderungen unterliegen.
Rechtliche Konsequenzen der Klassifikation
Diese normative Differenzierung zeitigt erhebliche Rechtsfolgen für die betriebliche Praxis. Unternehmen sind verpflichtet, eine systematische Evaluierung ihrer KI-Implementierungen vorzunehmen, insbesondere auch dann, wenn KI-Funktionalitäten in bestehende Softwarelösungen integriert werden.
Verbotene KI-Systeme (Art 5 EU AI Act)
Art 5 der KI-VO statuiert einen abschließenden Katalog verbotener KI-Praktiken, die als unvereinbar mit den Grundwerten der Union qualifiziert werden. Für den arbeitsrechtlichen Kontext sind insbesondere folgende Verbotstatbestände von Relevanz:
Verbot der unterschwelligen Beeinflussung (Art 5 Abs 1 lit a KI-VO)
Diese Bestimmung untersagt das Inverkehrbringen, die Inbetriebnahme oder die Verwendung von KI-Systemen, die geeignet sind, durch manipulative Techniken das Verhalten natürlicher Personen wesentlich zu beeinflussen, sofern dies geeignet ist, erheblichen Schaden zu verursachen. Im arbeitsrechtlichen Kontext kann das beispielsweise KI-gestützte Motivations- oder Leistungsoptimierungssysteme betreffen, die auf unbewusste Entscheidungsprozesse der Arbeitnehmenden einwirken.
Ausnutzung von Vulnerabilitäten (Art 5 Abs 1 lit b KI-VO)
Verboten sind ferner KI-Systeme, die gezielt Schwächen einer Person aufgrund ihres Alters, einer Behinderung oder spezifischer sozialer Umstände ausnutzen. Die entsprechende Norm ist insbesondere im Kontext personalisierter KI-gestützter Personalentwicklungs- und Weiterbildungssysteme zu beachten.
Bewertung natürlicher Personen (Art 5 Abs 1 lit c KI-VO)
Das sogenannte Social Scoring, also die Bewertung natürlicher Personen auf Grundlage ihres sozialen Verhaltens oder persönlicher Merkmale, ist nach der Verordnung unzulässig, sofern das zu einer nachteiligen oder ungünstigen Behandlung führt, die in einem anderen Kontext oder zu unangemessenen Zwecken erfolgt. Das betrifft insbesondere KI-gestützte Personalbeurteilungssysteme, die über den unmittelbaren arbeitsvertraglichen Kontext hinausgehen.
Emotionserkennung am Arbeitsplatz (Art 5 Abs 1 lit f KI-VO)
Explizit untersagt ist der Einsatz von KI-Systemen zur Analyse oder Klassifizierung von Emotionen natürlicher Personen im Arbeitskontext. Dabei ist zu beachten, dass dieses Verbot nicht auf Systeme anwendbar ist, die zur Erkennung gefährlicher Zustände (etwa Müdigkeit bei Fahrzeugführern) eingesetzt werden.
Sanktionsregime des EU AI Acts
Von erheblicher praktischer Relevanz ist das in Art 99 Abs 3 KI-VO normierte Sanktionsregime. Bei Verstößen gegen die Verbotstatbestände des Art 5 drohen Bußgelder in Höhe von bis zu 35 Millionen Euro oder bis zu 7% des weltweiten Jahresumsatzes eines Unternehmens im vorangegangenen Geschäftsjahr, je nachdem, welcher Betrag höher ist. Das verdeutlicht die besondere Bedeutung, die der Gesetzgeber der Einhaltung dieser grundlegenden Verbote beimisst.
KI-Kompetenz als neue Pflicht für Arbeitgebende
Art 4 KI-VO begründet eine neuartige Verpflichtung für Anbietende und Betreibende von KI-Systemen, hinreichende KI-Kompetenz bei relevanten Personengruppen sicherzustellen. Die Bestimmung verlangt, dass Unternehmen, die KI-Systeme entwickeln, betreiben oder nutzen, sicherstellen müssen, dass die damit befassten Personen über ein angemessenes Verständnis der Funktionsweise, Potenziale und Risiken dieser Technologie verfügen.
Die Verordnung definiert in Art 3 Z 56 KI-VO den Begriff der „KI-Kompetenz“ als die Fähigkeiten, Kenntnisse und das Verständnis, die es natürlichen Personen ermöglichen:
- KI-Systeme sachkundig zu nutzen; sowie
- Sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.
Von besonderer Bedeutung für die betriebliche Umsetzung ist der in Art 4 des AI Acts verankerte Grundsatz der Kontextabhängigkeit und Zielgruppenspezifität. Demnach sind die erforderlichen Kenntnisse und Fähigkeiten in Abhängigkeit von der jeweiligen Rolle und Verantwortung der betreffenden Personen zu vermitteln. Das impliziert ein gestuftes Kompetenzmodell, das zwischen verschiedenen Funktionsgruppen (z.B. technische Entwicklung, Führungskräfte, HR-Verantwortliche) differenziert.
Wie Unternehmen eine solide KI-Kompetenzbasis schaffen können
Zur Erfüllung der in Art 4 KI-VO normierten Anforderungen empfiehlt sich die Entwicklung eines mehrstufigen Schulungsprogramms, das folgende Kernfragen behandelt:
- Was ist KI?
- Wie funktionieren KI-Systeme?
- Was kann KI – und was nicht?
- Rechtliche Rahmenbedingungen
Neben theoretischem Wissen sollten Mitarbeitende zudem auch praktische Erfahrungen sammeln können. Z.B. durch Fallstudien, Rollenspiele oder das Testen von KI-Systemen in sicheren Umgebungen. Entscheidend ist dabei vor allem das Bewusstsein, dass KI-Kompetenz – insbesondere angesichts des kontinuierlichen technologischen Fortschritts – einen fortlaufenden Lernprozess darstellt und nicht als einmalige „Compliance-Übung“ betrachtet werden kann.
EU AI Act: Fazit und Ausblick
Künstliche Intelligenz ist gekommen, um zu bleiben. Der AI Act schafft nun den Beginn eines rechtlichen Rahmens. Für Arbeitgebende bedeutet das einerseits rechtliche und organisatorische Herausforderungen, andererseits aber auch die Chance, den Umgang mit KI-Technologien auf eine solide und rechtskonforme Basis zu stellen.
Unternehmen sollten daher spätestens jetzt beginnen, ihre internen Prozesse zu evaluieren und anzupassen. So positionieren sie sich nicht nur als vertrauenswürdige, sondern auch als zukunftsorientierte Akteure.
EU AI Act 2025 | Was Arbeitgeber über die KI-Verordnung wissen müssen
⇒ Arbeits-Recht
