Ihr Arbeitgeber und KI: was das europäische Gesetz ihm nun verbietet.
Seit dem 2. August 2026 setzt der AI Act strenge Grenzen für den Einsatz von KI in Unternehmen. Pflicht zur Transparenz, gezielte Verbote und neue Verantwortlichkeiten: Hier erfahren Sie, was Ihr Arbeitgeber nicht mehr tun darf und wie Sie die Einhaltung prüfen können.
Was der AI Act Ihrem Arbeitgeber seit 2025 verbietet
Der AI Act hat sechs Praktiken eingeführt, die Arbeitgebern strikt verboten sind. Diese Regeln, seit Februar 2025 anwendbar, sollen Arbeitnehmer vor missbräuchlicher Nutzung von KI schützen.
Zu den für die Arbeitswelt relevantesten Verboten gehören:
Analyse von Emotionen am Arbeitsplatz
Der Einsatz von KI-Systemen zur Ableitung von Emotionen der Arbeitnehmer ist verboten, außer in sehr spezifischen Fällen wie der medizinischen Sicherheit. Diese Regel gilt für Tools zur Gesichts- oder Stimmerkennung, die zur Bewertung der Stimmung von Mitarbeitern verwendet werden.
Soziale Bewertung im Beruf
Der AI Act verbietet Systeme, die Arbeitnehmer auf der Grundlage ihres sozialen oder beruflichen Verhaltens bewerten oder einordnen, wenn diese Bewertungen ihre Arbeitsbedingungen oder Karrierechancen beeinflussen.
Subliminale Manipulation
Techniken, die darauf abzielen, das Verhalten von Arbeitnehmern durch subliminale Reize zu manipulieren, wie versteckte Botschaften in Software-Schnittstellen, sind verboten.
Diese Verbote gelten unabhängig von der Unternehmensgröße oder Branche. Arbeitgeber müssen ihre bestehenden Tools prüfen, um sicherzustellen, dass sie nicht gegen diese Regeln verstoßen. Artikel 5 des AI Act enthält alle verbotenen Praktiken.
Transparenzpflicht seit dem 2. August 2026
Artikel 50 des AI Act verpflichtet Arbeitgeber nun, Arbeitnehmer klar zu informieren, wenn KI-Systeme in ihrer Arbeitsumgebung eingesetzt werden.
Diese Transparenzpflicht umfasst mehrere Aspekte:
- Die Identifizierung der verwendeten KI-Systeme mit einer Beschreibung ihres Zwecks.
- Die Modalitäten der Interaktion zwischen Arbeitnehmern und diesen Systemen.
- Die Rechte der Arbeitnehmer in Bezug auf diese Tools, insbesondere im Bereich Datenschutz.
Für generative KI-Systeme, wie Chatbots oder Tools zur Inhaltsgenerierung, muss der Arbeitgeber zudem klar angeben, wenn Inhalte von einer KI generiert oder verändert wurden. Diese Pflicht gilt auch, wenn das Tool in eine größere Software, wie ein CRM oder ein Produktivitätstool, integriert ist.
Arbeitgeber müssen außerdem Mechanismen einrichten, die es Arbeitnehmern ermöglichen, Probleme oder Bedenken im Zusammenhang mit dem Einsatz von KI zu melden. Der AI Office stellt Leitlinien bereit, um Unternehmen bei der Einhaltung dieser Anforderungen zu unterstützen.
HR-Tools und KI: die gesetzlichen Grenzen
KI-Systeme, die in HR-Prozessen eingesetzt werden, unterliegen aufgrund ihrer möglichen Auswirkungen auf die Rechte der Arbeitnehmer besonderen Regelungen durch den AI Act.
Zu den betroffenen Tools gehören:
Rekrutierung und Auswahl
KI-Systeme, die zur Sichtung von Lebensläufen oder Bewertung von Kandidaten eingesetzt werden, müssen strenge Transparenz- und Nichtdiskriminierungskriterien erfüllen. Arbeitgeber müssen in der Lage sein, die von diesen Tools getroffenen Entscheidungen zu erklären.
Leistungsbewertung
KI-Tools zur Bewertung der Leistung von Arbeitnehmern müssen so gestaltet sein, dass sie Verzerrungen vermeiden und Fairness gewährleisten. Die Bewertungskriterien müssen dokumentiert und für die Arbeitnehmer zugänglich sein.
Karriereplanung
KI-Systeme, die Schulungen oder Karriereentwicklungen vorschlagen, müssen transparent sein und dürfen keine bestehenden Diskriminierungen reproduzieren. Arbeitnehmer müssen Zugang zu den von diesen Tools verwendeten Kriterien haben.
Arbeitgeber müssen zudem sicherstellen, dass diese Tools die DSGVO einhalten, insbesondere im Bereich Schutz personenbezogener Daten. Die CNIL hat spezifische Empfehlungen für den Einsatz von KI in HR-Prozessen veröffentlicht.
Wie Sie die Konformität Ihres Unternehmens prüfen
Arbeitnehmer können eine aktive Rolle bei der Überprüfung der Einhaltung der AI-Act-Pflichten durch ihren Arbeitgeber spielen.
Hier sind einige Schritte zur Bewertung der Situation:
- Identifizierung der verwendeten KI-Tools: Fordern Sie eine Liste der im Unternehmen eingesetzten KI-Systeme an, inklusive ihres Zwecks und Anbieters.
- Transparenz prüfen: Stellen Sie sicher, dass der Arbeitgeber die Arbeitnehmer über den Einsatz dieser Tools informiert hat und dass von KI generierte Inhalte klar gekennzeichnet sind.
- HR-Prozesse prüfen: Vergewissern Sie sich, dass die in HR-Prozessen verwendeten KI-Tools die Kriterien für Transparenz und Nichtdiskriminierung erfüllen.
- Dokumentation einsehen: Fordern Sie die technische Dokumentation und Risikobewertungen der verwendeten KI-Systeme an.
Arbeitgeber müssen zudem einen Verantwortlichen für die AI-Act-Konformität benennen, der der Datenschutzbeauftragte oder eine andere kompetente Person sein kann. Dieser Verantwortliche muss für Arbeitnehmer zugänglich sein, um Fragen zu beantworten und Bedenken entgegenzunehmen.
Für eine vertiefte Prüfung können Arbeitnehmer Tools wie die AiActo-Diagnose nutzen, um die Konformität ihres Unternehmens schnell zu bewerten.
Was tun bei Nichteinhaltung der Regeln
Stellt ein Arbeitnehmer fest, dass sein Arbeitgeber die Pflichten des AI Act nicht einhält, stehen mehrere Rechtsbehelfe zur Verfügung.
Zunächst empfiehlt es sich, den Verantwortlichen für die AI-Act-Konformität oder den Datenschutzbeauftragten des Unternehmens zu informieren. Diese Ansprechpartner sind dafür zuständig, Meldungen zu bearbeiten und notwendige Maßnahmen zur Behebung von Verstößen zu ergreifen.
Führt dieser interne Schritt nicht zum Erfolg, kann der Arbeitnehmer:
- Die zuständigen Behörden, wie die CNIL in Frankreich oder den AI Office auf europäischer Ebene, einschalten.
- Einen auf Arbeitsrecht oder Datenschutz spezialisierten Anwalt konsultieren, um mögliche rechtliche Schritte zu prüfen.
- Die internen oder externen Meldesysteme des Unternehmens nutzen, die gemäß den DSGVO-Pflichten eingerichtet wurden.
Die Sanktionen bei Nichteinhaltung des AI Act können bis zu 35 Millionen Euro oder 7% des weltweiten Umsatzes des Unternehmens betragen, je nachdem, welcher Betrag höher ist. Diese Sanktionen sollen die Einhaltung der Arbeitnehmerrechte und den Schutz personenbezogener Daten gewährleisten.
Hält sich Ihr Arbeitgeber an den AI Act?
Ermitteln Sie in 3 Minuten die für Ihr Unternehmen geltenden Pflichten und die Risiken bei Nichteinhaltung.
Häufige Fragen
Alles, was Sie über die Rechte von Arbeitnehmern gegenüber KI im Unternehmen wissen müssen.
Nein. Seit Februar 2025 verbietet der AI Act ausdrücklich den Einsatz von KI-Systemen zur Ableitung von Emotionen der Arbeitnehmer, außer in sehr spezifischen Fällen wie der medizinischen Sicherheit. Dieses Verbot gilt für alle Tools zur Gesichts- oder Stimmerkennung, die zur Bewertung der Stimmung oder des emotionalen Zustands der Mitarbeiter verwendet werden.
Ja. Seit dem 2. August 2026 verpflichtet der AI Act Arbeitgeber, Arbeitnehmer klar zu informieren, wenn KI-Systeme in ihrer Arbeitsumgebung eingesetzt werden, einschließlich der Leistungsbewertung. Diese Information muss den Zweck des Systems, die Interaktionsmodalitäten und die Rechte der Arbeitnehmer in Bezug auf dieses Tool umfassen.
Die Sanktionen bei Nichteinhaltung des AI Act können bis zu 35 Millionen Euro oder 7% des weltweiten Umsatzes des Unternehmens betragen, je nachdem, welcher Betrag höher ist. Diese Sanktionen sollen die Einhaltung der Arbeitnehmerrechte und den Schutz personenbezogener Daten gewährleisten. Bei Verstößen können Arbeitnehmer die zuständigen Behörden, wie die CNIL oder den AI Office, einschalten.
Um die Konformität eines Tools zu überprüfen, können Sie Ihren Arbeitgeber um die technische Dokumentation des Systems, dessen Risikobewertung und die Maßnahmen zur Gewährleistung von Transparenz und Nichtdiskriminierung bitten. Sie können auch die Leitlinien des AI Office konsultieren oder Tools wie die AiActo-Diagnose nutzen, um die Konformität schnell zu bewerten.
Nein. Der AI Act schreibt vollständige Transparenz über den Einsatz von KI-Systemen vor, einschließlich automatisierter Entscheidungen. Ihr Arbeitgeber muss Sie klar informieren, wenn KI zur Entscheidungsfindung über Sie eingesetzt wird, z. B. bei Leistungsbewertungen, Weiterbildungsvorschlägen oder Aufgabenverteilungen. Sie haben zudem das Recht, eine Erklärung über die Funktionsweise dieser Systeme und die verwendeten Kriterien zu verlangen.