Artikel 50 ist für den Mittelstand die wichtigste Vorschrift der ganzen Verordnung, weil sie den Normalfall regelt: KI, die niemanden gefährdet, aber mit Menschen zu tun hat. Die Pflichten sind gering, sie sind aber leicht zu übersehen, weil sie in vier Absätzen mit unterschiedlichen Adressaten stehen.
Alles davon gilt ab dem 2. August 2026.
Absatz 1 — Interaktion mit Menschen
Wer ein System anbietet, das unmittelbar mit Menschen interagiert, muss dafür sorgen, dass diese erkennen, dass sie mit einer KI zu tun haben.
Die Ausnahme: Es ist aus Sicht einer verständigen Person offensichtlich. Darauf sollte man sich nicht verlassen. Ein Chatbot mit menschlichem Namen und Profilbild ist es nicht.
Siehe: Chatbots richtig kennzeichnen
Absatz 2 — Synthetische Inhalte
Wer ein System anbietet, das Texte, Bilder, Audio oder Video erzeugt, muss die Ausgaben in einem maschinenlesbaren Format kennzeichnen und erkennbar machen, dass sie künstlich erzeugt oder verändert wurden.
Diese Pflicht trifft den Anbieter des Werkzeugs, nicht den Betrieb, der es benutzt. Praktisch heißt das für ein KMU: Sie schulden diese Kennzeichnung in der Regel nicht selbst — prüfen Sie aber, ob Ihr Werkzeug sie umsetzt.
Siehe: KI-Inhalte kennzeichnen
Absatz 3 — Emotionserkennung und biometrische Kategorisierung
Wer ein solches System betreibt, muss die betroffenen Personen darüber informieren. Zusätzlich gilt das Datenschutzrecht.
Achtung: Am Arbeitsplatz und in Bildungseinrichtungen ist Emotionserkennung nach Art. 5 verboten — dort stellt sich die Frage der Information gar nicht mehr.
Absatz 4 — Deepfakes und veröffentlichte Texte
Wer Deepfakes erzeugt oder verwendet, muss offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Dasselbe gilt für veröffentlichte Texte zu Angelegenheiten von öffentlichem Interesse.
Dieser Absatz trifft den Betreiber — also Sie, wenn Sie damit arbeiten.
Siehe: Deepfakes offenlegen
Absatz 5 — Wie informiert wird
Die Information muss spätestens bei der ersten Interaktion erfolgen, klar und unterscheidbar sein und den Anforderungen an Barrierefreiheit genügen.
Das schließt zwei verbreitete Lösungen aus: ein Hinweis in der Datenschutzerklärung und ein Satz, den man erst nach dem Gespräch findet.