Bitte benutze einen modernen Browser

← zurück

Der europäische „AI Act“ („KI-Verordnung“)

Immer mehr Unternehmen nutzen Künstliche Intelligenz (KI), um effizienteres Arbeiten zu ermöglichen und die Auswirkungen des Fachkräftemangels zu minimieren. Doch die uneingeschränkte Nutzung von KI birgt auch Risiken. Daher hat die Europäische Union im März 2024 als erste Institution weltweit eine Verordnung zur Regulierung der Nutzung von KI („AI Act“) erlassen.

Der AI Act verfolgt einen risikobasierten Ansatz: je höher die Risiken sind, die vom KI-System ausgehen, desto strenger sind die rechtlichen Vorgaben für seine Nutzung. Danach werden KI-Systeme in vier verschiedene Gruppen klassifiziert: Sie können ein unannehmbares Risiko setzen, ein Hochrisikosystem sein, eine allgemeines Risiko setzen oder sogar nur ein begrenztes Risiko. Die Nutzung von KI-Systemen, die ein unannehmbares Risiko setzen, ist grundsätzlich verboten und nur in sehr wenigen Ausnahmefällen erlaubt. Alle anderen Systeme, sogar hochriskante, sind grundsätzlich erlaubt. Es werden aber je nach Grad des Risikos mehr oder weniger strenge Anforderungen an die Verwendung und Aufklärung darüber vorgegeben.

Verbotene KI-Systeme am Arbeitsplatz

Verboten ist nach Art. 5 Abs. 1 des AI Acts das Inverkehrbringen, die Inbetriebnahme oder die Verwendung von KI-Systemen die den emotionalen Zustand von Einzelpersonen in Situationen, ableiten sollen, die mit dem Arbeitsplatz im Zusammenhang stehen. Dieses Verbot sollte nicht für KI-Systeme gelten, die ausschließlich aus medizinischen oder sicherheitstechnischen Gründen in Verkehr gebracht werden, wie z. B. Systeme, die der Bekämpfung von Menschenhandel und anderen schweren Straftaten dienen. Am Arbeitsplatz wird eine solche Ausnahmesituation typischerweise nicht bestehen und die Verwendung von KI-Systemen, die Emotionen erkennen, wird verboten bleiben.

Hochrisiko-KI-Systeme am Arbeitsplatz

Grundsätzlich erlaubt wiederum ist die Nutzung von Hochrisiko-KI-Systemen. Hochrisiko-KI-Systeme sind nach Anhang III des AI-Acts beispielsweise solche, die bestimmungsgemäß für Entscheidungen, die die Bedingungen von Arbeitsverhältnissen, Beförderungen und Kündigungen von Arbeitsvertragsverhältnissen beeinflussen, für die Zuweisung von Aufgaben aufgrund des individuellen Verhaltens oder persönlicher Merkmale oder Eigenschaften oder für die Beobachtung und Bewertung der Leistung und des Verhaltens von Personen in solchen Beschäftigungsverhältnissen verwendet werden sollen. Als hochriskant werden sie eingeordnet, weil diese KI-Systeme die künftigen Karriereaussichten und die Lebensgrundlagen der Beschäftigten und die Arbeitnehmerrechte spürbar beeinflussen können. Solche Systeme können während des gesamten Einstellungsverfahrens und bei der Bewertung, Beförderung oder Weiterbeschäftigung von Personen in Arbeitsvertragsverhältnissen historische Diskriminierungsmuster fortschreiben, beispielsweise gegenüber Frauen. KI-Systeme zur Überwachung der Leistung und des Verhaltens dieser Personen können auch deren Grundrechte auf Datenschutz und Privatsphäre untergraben.

Bei solchen Hochrisikosystemen sind diverse Regelungen zu beachten, unter anderem die Einrichtung eines Risikomanagements (Art. 9), die Etablierung einer Daten-Governance (Art. 10) und die Erstellung einer technischen Dokumentation (Art. 11). Außerdem sind die Hochrisiko-KI-Systeme nach Art. 14 des AI Acts so zu entwickeln und anzuwenden, dass natürliche Personen sie während ihrer Verwendung wirksam beaufsichtigen können.

Mitbestimmung des Betriebsrats bei Einführung und Nutzung von KI-Systemen

Der AI Act soll jedoch nach Aussage des europäischen Parlaments die nationalen Arbeitsrechtsvorschriften zur Beschäftigung und zum Schutz von Arbeitnehmern oder die Arbeit der Betriebsräte nicht beeinträchtigen.

Die Pflichten der Arbeitgeber in Bezug auf den Betriebsrat ergeben sich daher nicht aus dem AI Act sondern aus dem BetrVG. Nur wenn das BetrVG keine ausreichenden Instrumente zur Unterrichtung des Betriebsrates vorsehen würde, müsste nach dem AI Act trotzdem sichergestellt werden, dass Arbeitnehmer und ihre Vertreter über die geplante Einführung von Hochrisiko-KI-Systemen am Arbeitsplatz unterrichtet werden.

Im BetrVG gibt es seit dem Betriebsrätemodernisierungsgesetz 2021 verschiedene Regelungen zu den Rechten des Betriebsrats beim Einsatz von KI. Nach § 80 Abs. 3 S. 2 BetrVG darf der Betriebsrat immer einen Sachverständigen hinzuziehen, wenn er zur Erfüllung seiner Aufgaben die Einführung oder die Anwendung von Künstlicher Intelligenz beurteilen muss. Außerdem muss der Betriebsrat nach § 90 Abs. 1 BetrVG vom Arbeitgeber vor dem Einsatz von Künstlicher Intelligent unterrichtet werden. Außerdem bedürfen nach § 95 Abs. 2a BetrVG Richtlinien über die personelle Auswahl bei Einstellungen, Versetzungen, Umgruppierungen und Kündigungen insbesondere dann der Zustimmung des Betriebsrats, wenn bei der Aufstellung der Auswahlrichtlinien Künstliche Intelligenz zum Einsatz kommt.

Über diese KI spezifischen Regelungen hinaus besteht zudem regulär nach § 87 Abs. 1 Nr. 6 BetrVG die erzwingbare Mitbestimmung, wenn KI als technisches System zur Überwachung von Verhalten und Leistung geeignet ist. Bei der Ausübung dieses Mitbestimmungsrechts haben Betriebsräte den AI Act zukünftig in ähnlicher Weise zu berücksichtigen, wie auch bisher schon die gesetzlichen Vorgaben zum Datenschutz. Bevor der Betriebsrat seine Zustimmung gemäß § 87 Abs. 1 Nr. 6 BetrVG zur Einführung und Anwendung eines KI-Systems erteilt oder hierfür eine entsprechende Betriebsvereinbarung mit dem Arbeitgeber abschließt, ist zu prüfen, ob die Vorgaben des AI-Acts dabei eingehalten werden. Gegebenenfalls sind in der Betriebsvereinbarung für die Verwendung des KI-Systems konkrete Regelungen und Einschränkungen festzulegen, um den Einsatz des KI-Systems gemäß AI Act überhaupt in zulässiger Weise einsetzen zu können.

Schließlich hat der Betriebsrat gemäß § 80 Abs. 1 Nr. 1 BetrVG ein Kontrollrecht dahingehen, dass KI-Systeme, die Zugriff auf Beschäftigtendaten haben, in zulässiger Weise und ohne Verstoß gegen den AI Act eingesetzt werden. Dieses Kontrollrecht korrespondiert mit dem Informationsrecht des Betriebsrats gemäß § 80 Abs. 2 BetrVG: zur Ausübung seines Kontrollrechts ist der Betriebsrat rechtzeitig und umfassend zu unterrichten.

Du möchtest unsere News abonnieren?

Du möchtest zukünftig unsere Artikel und Infos rund ums Arbeitsrecht sowie Updates zu Gerichtsurteilen und Gesetzesänderungen per E-Mail erhalten? Dann registriere Dich ganz einfach für unseren Newsletter!

Du kannst Dich jederzeit hier oder immer auch am Ende des erhaltenen Newsletters abmelden.