Artikel 5 verbietet bestimmte Einsatzformen vollständig. Kein Formular, keine Dokumentation, keine Einwilligung macht sie zulässig. Die Regeln gelten seit dem 2. Februar 2025 und sind mit den höchsten Bußgeldern bewehrt: bis 35 Mio. € oder 7 % des Jahresumsatzes, für KMU der niedrigere Betrag.
Die Liste
Verboten ist unter anderem der Einsatz von KI-Systemen, die
- unterschwellig oder manipulativ beeinflussen und dadurch erheblichen Schaden verursachen können,
- Schwächen aufgrund von Alter, Behinderung oder sozialer Lage ausnutzen,
- Menschen anhand ihres Verhaltens sozial bewerten und daraus Benachteiligungen in unzusammenhängenden Zusammenhängen ableiten,
- allein anhand von Profiling oder Persönlichkeitsmerkmalen das Risiko einer Straftat vorhersagen,
- Gesichtsbilder ungezielt aus dem Internet oder von Überwachungsaufnahmen abgreifen, um Datenbanken aufzubauen,
- Emotionen am Arbeitsplatz oder in Bildungseinrichtungen erkennen,
- Personen biometrisch kategorisieren, um auf geschützte Merkmale wie Religion, politische Meinung oder sexuelle Orientierung zu schließen,
- zur biometrischen Echtzeit-Fernidentifizierung im öffentlich zugänglichen Raum für Strafverfolgungszwecke eingesetzt werden.
Zwei, die im Mittelstand wirklich vorkommen
Emotionserkennung am Arbeitsplatz. Software, die im Kundengespräch die Stimmung der Mitarbeiterin misst, oder ein Videointerview-Werkzeug, das Bewerber nach Mimik bewertet. Das Verbot gilt für Arbeitsplatz und Bildungseinrichtungen, mit engen Ausnahmen aus medizinischen oder Sicherheitsgründen. Es kommt nicht darauf an, ob die Betroffenen zustimmen.
Soziale Bewertung. Ein Punktesystem über Beschäftigte oder Kunden, das aus Verhalten in einem Bereich Nachteile in einem völlig anderen ableitet.
Was Sie tun sollten
Prüfen Sie diese Punkte, bevor Sie über Risikostufen nachdenken. Ein verbotenes System wird nicht dadurch zulässig, dass Sie eine Dokumentation dafür anlegen. Der Fragebogen dieses Werkzeugs fragt die Praktiken deshalb zuerst ab und bricht die Einstufung ab, wenn eine zutrifft.