Nach Art. 50 Abs. 2 muss die Ausgabe eines generierenden KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder verändert erkennbar sein.
Wen die Pflicht trifft
Den Anbieter des Systems, nicht den Betrieb, der damit arbeitet. Wenn Sie Texte mit einem eingekauften Werkzeug schreiben, schulden Sie diese Kennzeichnung in aller Regel nicht selbst.
Das entlastet, ist aber kein Grund wegzusehen: Sie sollten wissen, ob Ihr Werkzeug es tut. Fragen Sie den Anbieter oder sehen Sie in dessen Dokumentation nach. Falls Sie ein Modell selbst betreiben oder ein Produkt unter eigenem Namen weitergeben, trifft die Pflicht Sie.
Was „maschinenlesbar" heißt
Nicht der sichtbare Satz „Erstellt mit KI", sondern eine Markierung, die ein Programm auswerten kann. In der Praxis:
- Metadaten in der Datei, etwa nach dem C2PA-Standard für Bilder,
- Wasserzeichen in Bild, Audio oder Video,
- Herkunftsangaben, die bei der Weitergabe erhalten bleiben.
Die Verordnung schreibt keine Technik vor. Sie verlangt, dass die Lösung wirksam, interoperabel, belastbar und zuverlässig ist, soweit das technisch machbar ist.
Die Grenze der Pflicht
Absatz 2 nimmt Systeme aus, die eine unterstützende Funktion für die Standardbearbeitung ausüben und die Eingabedaten nicht wesentlich verändern. Eine Rechtschreibprüfung oder eine Autovervollständigung fällt darunter.
Wo die Grenze verläuft, ist im Einzelfall Auslegungssache. Faustregel: Je mehr vom Ergebnis aus der Maschine stammt und je weniger aus Ihrer Eingabe, desto eher greift die Pflicht.
Was für Sie als Betrieb bleibt
Zwei Dinge, die nicht aus Art. 50 Abs. 2 folgen, aber sinnvoll sind:
- Interne Regel, wann generierte Inhalte vor Veröffentlichung geprüft werden. Ein Sprachmodell erfindet Belege; die Verantwortung für das, was Sie veröffentlichen, bleibt bei Ihnen.
- Sichtbare Angabe, wo es der Sache angemessen ist. Verpflichtend ist sie hier nicht — bei Deepfakes und bei veröffentlichten Texten zu Themen von öffentlichem Interesse dagegen schon, siehe Deepfakes offenlegen.