Künstliche Intelligenz (KI) revolutioniert unsere Welt und beeinflusst fast jeden Lebensbereich – von der Arbeitsweise bis hin zu alltäglichen Technologien. Mit der KI-Verordnung der EU, die am 1. August 2024 in Kraft getreten ist, hat die Europäische Union einen umfassenden Rechtsrahmen geschaffen, um KI zu regulieren. Besonders im Arbeitsrecht wirft diese neue Gesetzgebung viele Fragen auf. In diesem Beitrag beleuchten wir wie sich die KI-Verordnung auf arbeitsrechtliche Aspekte auswirkt und was dies für Arbeitgeber bedeutet.

Inhalt der Verordnung

Die KI-Verordnung wurde eingeführt, um auf die rapide zunehmende und bisher weitgehend unregulierte Nutzung von KI zu reagieren . Ziel der Verordnung ist es, den Fortschritt und die Weiterentwicklung der Technologie zu fördern, dabei aber potenzielle Risiken zu minimieren und die Interessen der Anwender zu schützen.

Die Verordnung richtet sich an Anbieter und Betreiber von KI-Systemen (Art. 2, 3 AI Act). Arbeitgeber, die fremdentwickelte KI-Systeme im eigenen Unternehmen einsetzen, werden hierbei als Betreiber eingestuft und tragen die Verantwortung für die Einhaltung der Vorschriften.

Ein zentraler Bestandteil des AI Acts ist der risikobasierte Ansatz, bei dem KI-Systeme in vier Risikokategorien eingeteilt werden. Je höher das Risiko für Gesundheit, Sicherheit oder Grundrechte, desto strenger die Anforderungen:

1. Unannehmbares Risiko: KI-Systeme, die die Sicherheit oder Grundrechte gefährden, sind verboten (Art. 5 AI Act), z. B. Social-Scoring-Systeme.
2. Hohes Risiko: Diese Systeme unterliegen strengen Anforderungen, darunter Risikobewertungen, Dokumentationspflichten und EU-Konformitätserklärungen (Art. 6 AI Act). Sie kommen häufig im Personalwesen zum Einsatz, z. B. bei der Analyse von Bewerbungen oder der Leistungsbewertung.
3. Begrenztes Risiko: Transparenzanforderungen gelten für Systeme wie Chatbots, die Nutzer klar informieren müssen, dass sie mit einer KI interagieren.
4. Minimales Risiko: Hierbei handelt es sich um Systeme wie Spamfilter, die nur grundlegende Anforderungen erfüllen müssen.

Im HR-Bereich sind besonders Systeme zur Bewerberauswahl, Leistungsbewertung sowie Entscheidungen über Beförderungen oder Kündigungen betroffen. Diese gelten oft als hochriskant und erfordern umfassende Maßnahmen zur Compliance (Art. 26 AI Act).

Was Arbeitgeber nun tun müssen

Der AI Act sieht gestaffelte Übergangsfristen vor und wird bis 2026 vollständig anwendbar sein (Art. 113 AI Act). Arbeitgeber sollten frühzeitig Maßnahmen ergreifen, um die Anforderungen zu erfüllen.

Ab 01.08.2024:

• Identifikation und Klassifikation: Alle im Unternehmen eingesetzten KI-Systeme müssen erfasst und in Risikostufen eingeteilt werden.

Bis 31.01.2025

• Risikobewertung: Eine umfassende Analyse der identifizierten KI-Systeme hinsichtlich ihrer Auswirkungen auf Sicherheit und Grundrechte ist durchzuführen.
• Verbot von Systemen mit unannehmbarem Risiko: Arbeitgeber dürfen solche Systeme nicht mehr einsetzen.

Bis 31.07.2025

• Sicherstellung von Compliance: Hochrisiko-KI-Systeme müssen sicher, robust und diskriminierungsfrei sein. Regelmäßige Tests und Audits sind erforderlich.

Bis 31.01.2026

• Transparenzmaßnahmen: Mitarbeiter und Bewerber müssen über den Einsatz von KI informiert werden, einschließlich der Funktionsweise und der Verarbeitung ihrer Daten.

Kontinuierliche Maßnahmen:

• Schulung und Sensibilisierung: Mitarbeiter sollten technische Schulungen und ethische Einweisungen im Umgang mit KI-Systemen erhalten.
• Überwachung und Verbesserung: KI-Systeme müssen regelmäßig überprüft und optimiert werden, um die Einhaltung des AI Acts zu gewährleisten.
• Dokumentation: Alle Maßnahmen sollten sorgfältig dokumentiert werden, um bei Kontrollen Nachweise erbringen zu können. Verstöße können hohe Bußgelder nach sich ziehen.

Fazit

Für Arbeitgeber bringt der AI Act neue Herausforderungen, aber auch die Chance, KI verantwortungsvoll und sicher einzusetzen. Frühzeitige Vorbereitung ist entscheidend, um rechtliche Risiken zu minimieren und gleichzeitig das Potenzial von KI optimal zu nutzen.

https://artificialintelligenceact.eu/de/