35 Millionen Euro Strafe: die 6 seit 2025 verbotenen KI-Praktiken.
Seit dem 2. Februar 2025 sind sechs KI-Praktiken in Europa offiziell verboten. Die Höchststrafe: 35 Millionen Euro oder 7% des weltweiten Umsatzes. Hier erfahren Sie, was Ihr Unternehmen wissen muss, um Risiken zu vermeiden.
Warum diese Verbote?
Der AI Act regelt streng die als gefährlich für Grundrechte eingestuften KI-Anwendungen.
Die europäische Verordnung stuft bestimmte Praktiken als inakzeptable Risiken ein. Diese Verbote gelten für alle Akteure, ob Anbieter oder Betreiber von KI-Systemen. Die in Artikel 99 Absatz 2 vorgesehenen Sanktionen sollen missbräuchliche Anwendungen abschrecken.
Die sechs verbotenen Praktiken umfassen verschiedene Bereiche: Verhaltensmanipulation, biometrische Überwachung, Sozialkreditsysteme oder auch Emotionsanalyse. Jede Praxis adressiert spezifische Herausforderungen zum Schutz von Individuen und Gesellschaft.
1. Subliminale oder irreführende Manipulation
Artikel 5 Absatz 1 Buchstabe a verbietet Techniken, die eine Person unbemerkt beeinflussen, um ihr Verhalten zu verändern.
Rechtliche Definition
Jedes KI-System, das darauf ausgelegt ist, Entscheidungen einer Person zu beeinflussen, ohne dass diese sich dessen bewusst ist, durch subliminale Reize oder falsche Informationen, ist verboten. Ziel ist es, körperlichen oder psychischen Schaden zu vermeiden.
Konkrete Beispiele
Eine Fitness-App, die subliminale Audiobotschaften nutzt, um den Nutzer zum Kauf von Nahrungsergänzungsmitteln zu bewegen, ohne dass dieser sich dessen bewusst ist. Diese Botschaften, eingebettet in Umgebungsgeräusche, fördern den Konsum unter dem Deckmantel der Motivation.
Betroffenes Tool
Plattformen für zielgerichtete Werbung, die Algorithmen für Dark Patterns einsetzen, um die Nutzerbindung zu maximieren, wie bestimmte Funktionen sozialer Netzwerke oder mobiler Spiele.
2. Ausnutzung von Schwächen
Artikel 5 Absatz 1 Buchstabe b zielt auf Systeme ab, die Schwächen schutzbedürftiger Personen ausnutzen.
Rechtliche Definition
KI-Systeme, die spezifische Gruppen (Kinder, Menschen mit Behinderungen, Personen in wirtschaftlicher Notlage) gezielt ansprechen, um deren Verhalten zu verzerren und ihnen Schaden zuzufügen, sind verboten.
Konkrete Beispiele
Ein mobiles Spiel, das Kinder dazu verleitet, In-App-Käufe zu tätigen, indem es deren mangelnde kognitive Reife ausnutzt. Das Spiel verwendet sofortige Belohnungen und Mechanismen sozialen Drucks, um Ausgaben zu fördern.
Betroffenes Tool
Schnellkredit-Apps, die sich an einkommensschwache Bevölkerungsgruppen richten, mit hohen Zinssätzen und Algorithmen, die darauf ausgelegt sind, die Verschuldung zu maximieren.
3. Sozialkreditsysteme
Artikel 5 Absatz 1 Buchstabe c verbietet Systeme zur sozialen Bewertung durch öffentliche Stellen.
Rechtliche Definition
KI-Systeme, die von öffentlichen Stellen genutzt werden, um Bürger anhand ihres sozialen, wirtschaftlichen oder persönlichen Verhaltens zu bewerten oder einzustufen, sind verboten. Dieses Verbot erstreckt sich auch auf private Akteure, deren Auswirkungen ähnlich wären.
Konkrete Beispiele
Ein System zur Bewertung von Bürgern basierend auf ihrer Teilnahme an Gemeinschaftsaktivitäten, ihrer Kredithistorie oder ihrem Online-Verhalten, das genutzt wird, um soziale Vorteile zu gewähren oder zu verweigern.
Betroffenes Tool
Plattformen zur Bewertung von Mietern oder Mitarbeitern, wie bestimmte in China eingesetzte Systeme, die den Zugang zu Wohnraum oder Arbeitsplätzen anhand intransparenter Kriterien beeinflussen.
4. Biometrie aus der Ferne in Echtzeit
Artikel 5 Absatz 1 Buchstabe d regelt streng den Einsatz von Gesichtserkennung in öffentlichen Räumen.
Rechtliche Definition
Die biometrische Fernidentifikation in Echtzeit in öffentlich zugänglichen Räumen ist verboten, mit Ausnahme strenger Ausnahmen: Terrorismusbekämpfung, Suche nach vermissten Personen oder Abwehr einer spezifischen und erheblichen Bedrohung.
Konkrete Beispiele
Ein Gesichtserkennungssystem, das in einem Einkaufszentrum eingesetzt wird, um Kunden in Echtzeit zu identifizieren und ihnen gezielte Werbung zuzusenden. Diese Art der Nutzung ist ohne ausdrückliche Einwilligung verboten.
Betroffenes Tool
Clearview AI, dessen Datenbank von ohne Einwilligung gesammelten Gesichtern bereits in Europa sanktioniert wurde.
5. Emotionserkennung
Artikel 5 Absatz 1 Buchstabe f verbietet die Analyse von Emotionen in sensiblen Kontexten.
Rechtliche Definition
KI-Systeme, die darauf ausgelegt sind, Emotionen von Personen in beruflichen oder bildungsbezogenen Kontexten zu erkennen, sind verboten, es sei denn, sie dienen streng geregelten medizinischen oder Sicherheitszwecken.
Konkrete Beispiele
Eine Software zur Gesichtsanalyse, die in Vorstellungsgesprächen eingesetzt wird, um die Ehrlichkeit oder Motivation von Bewerbern anhand ihrer Gesichtsausdrücke zu bewerten. Diese Art von Tool, basierend auf unbewiesenen Korrelationen, ist verboten.
Betroffenes Tool
Lösungen wie HireVue oder Affectiva, die Emotionen von Bewerbern oder Mitarbeitern analysieren, um Personalentscheidungen zu beeinflussen.
6. Biometrische Kategorisierung
Artikel 5 Absatz 1 Buchstabe g verbietet Systeme, die Personen auf Basis sensibler biometrischer Daten klassifizieren.
Rechtliche Definition
KI-Systeme, die Personen anhand biometrischer Daten (ethnische Herkunft, sexuelle Orientierung, religiöse Überzeugungen) in Kategorien einteilen, sind verboten, mit sehr begrenzten Ausnahmen.
Konkrete Beispiele
Ein Rekrutierungsalgorithmus, der Bewerber anhand ihrer ethnischen Herkunft oder ihres Geschlechts einstuft, indem er ihre Gesichtszüge oder Stimme analysiert. Diese Art der Kategorisierung, selbst indirekt, ist verboten.
Betroffenes Tool
Software zur Gait Analysis (Ganganalyse), die zur Identifizierung persönlicher Merkmale ohne solide wissenschaftliche Grundlage eingesetzt wird.
Nutzt Ihr Unternehmen eine verbotene KI?
Identifizieren Sie Ihre Risiken in 3 Minuten mit unserer kostenlosen Diagnose.
Wie Sie prüfen, ob Ihr Unternehmen keine verbotene Praxis anwendet
Compliance erfordert eine gründliche Prüfung Ihrer Tools und Prozesse.
1. KI-Tools inventarisieren
Erstellen Sie eine Liste aller in Ihrem Unternehmen genutzten KI-Systeme, einschließlich solcher, die in Drittsoftware integriert sind. Überprüfen Sie deren Konformität mit Artikel 5 des AI Act.
2. Anwendungsfälle analysieren
Identifizieren Sie für jedes Tool den Nutzungskontext. Beispielsweise kann eine Gesichtsanalysesoftware im medizinischen Bereich erlaubt, in Vorstellungsgesprächen jedoch verboten sein.
3. Ausnahmen dokumentieren
Falls ein Tool in einer Grauzone liegt (wie Biometrie aus der Ferne aus Sicherheitsgründen), dokumentieren Sie die rechtlichen Begründungen und holen Sie die erforderlichen Genehmigungen ein.
4. Teams schulen
Sensibilisieren Sie Ihre Mitarbeiter für die Verbote des AI Act, insbesondere die Teams aus HR, Marketing und Sicherheit. Eine angepasste Schulung reduziert das Risiko von Non-Compliance.
5. Regelmäßig auditieren
Compliance ist kein statischer Zustand. Führen Sie regelmäßige Audits durch, um sicherzustellen, dass Ihre Tools den regulatorischen Entwicklungen entsprechen.
Häufige Fragen
Alles, was Sie über die durch den AI Act verbotenen Praktiken wissen müssen.
Die Sanktionen können bis zu 35 Millionen Euro oder 7% des weltweiten Umsatzes des Unternehmens betragen, je nachdem, welcher Betrag höher ist. Diese Geldstrafen sind in Artikel 99 Absatz 2 des AI Act vorgesehen.
Ja, wenn das Unternehmen Dienstleistungen oder Produkte auf dem europäischen Markt anbietet, muss es den AI Act einhalten, einschließlich der Verbote in Artikel 5.
Nein, das Verbot gilt nur für berufliche und bildungsbezogene Kontexte. Medizinische oder sicherheitsrelevante Anwendungen, die streng geregelt sind, können erlaubt sein.
Ein Compliance-Audit ist erforderlich. Es muss eine Analyse der Funktionen des Tools, seines Nutzungskontexts und seiner technischen Dokumentation umfassen. Die AiActo-Diagnose ermöglicht es, Risiken in wenigen Minuten zu identifizieren.
Die Ausnahmen betreffen die Terrorismusbekämpfung, die Suche nach vermissten Personen oder die Abwehr einer spezifischen und erheblichen Bedrohung. Diese Anwendungen müssen von einer zuständigen Justiz- oder Verwaltungsbehörde genehmigt werden.
