EU-KI-Kennzeichnungspflicht

Worin die Quellen übereinstimmen

Ab dem 2. August 2026 kann die EU-Kommission die Regeln des AI Act für Anbieter allgemeiner KI-Modelle (GPAI) vollständig durchsetzen, einschließlich Ermittlungen und Geldstrafen. Es gelten neue Transparenzpflichten: Nutzer sollen erkennen, wenn sie mit KI interagieren oder synthetische Inhalte sehen. Anbieter müssen KI-erzeugte Texte, Bilder, Videos oder Audio markieren und dokumentieren. Die Pflicht gilt für KI-Anbieter und berufliche Nutzer, private Nutzer sind ausgenommen. Ausnahmen bestehen für offensichtlich künstlerische, satirische oder fiktive Werke sowie bei bloßer Unterstützung wie Grammatikprüfung. Bei Verstößen drohen Bußgelder bis zu 15 Millionen Euro oder 3 % des Jahresumsatzes. Die EU-KI-Behörde wechselt von der Regelsetzung zur Durchsetzung. Die Quellen berichten weitgehend übereinstimmend. Die Regeln gelten ab 2. August für neue KI-Systeme, bestehende haben vier Monate mehr Zeit. Die EU räumt eine Übergangsfrist bis Dezember ein, weil die technische Umsetzung schwierig ist. Die Mitgliedstaaten sind bei der Einrichtung ihrer Aufsichtsbehörden unterschiedlich weit, daher dürfte die Durchsetzung anfangs uneinheitlich sein. Die Leitlinien der Kommission sind 51 Seiten lang. Die EU schlägt Icons vor, verbindlich sind sie nicht. Die EU-Kommission will mit den Regeln Desinformation eindämmen und Vertrauen schaffen. Auch Chatbots müssen als solche erkennbar sein, und Anbieter müssen den Einsatz von Emotionserkennung offenlegen. KI-manipulierte Bilder echter Personen gelten als Deep Fake und müssen markiert werden. Die Tech-Branche unterstützt das Ziel, warnt aber vor zu breiter Auslegung. Der Branchenverband CCIA kritisiert, die EU-Leitlinien hätten den Begriff Deepfake überdehnt. Wenn fast alles gelabelt werde, würden Nutzer die Hinweise wie Cookie-Banner ignorieren. Die sichtbarsten Änderungen erwartet der Verband in Werbung, Film und Verlagswesen. TikTok hat laut eigenen Angaben bereits über 3 Milliarden Inhalte gekennzeichnet. Google hat nach Firmenangaben mehr als 100 Milliarden Bilder und 60.000 Jahre Audio mit einem unsichtbaren Wasserzeichen versehen. Über 180 Organisationen haben einen freiwilligen Verhaltenskodex unterzeichnet. Meta will ihn ebenfalls unterschreiben, warnt aber vor einer Überforderung der Nutzer durch zu viele verschiedene Labels. Der Grünen-Europaabgeordnete Sergey Lagodinsky, der den AI Act mitverhandelte, nennt die Pflicht einen Schutz der Demokratie. Synthetische Inhalte zu öffentlichen Angelegenheiten müssen zudem als KI-gemacht gelabelt werden, wenn keine menschliche Redaktion dahintersteht. Persönliche Inhalte und offensichtlich künstlerische, satirische oder fiktive Werke sind ausgenommen. Die EU-Kommission kann ab dem 2. August auch Ermittlungen durchführen und Geldstrafen verhängen. Die EU-KI-Behörde hat laut Kommission 145 Mitarbeiter, 38 weitere sind beantragt. Forscher und Organisationen fordern die Kommission auf, die neuen Befugnisse entschlossen zu nutzen. Die ersten Monate entscheiden laut Experten über die Glaubwürdigkeit des Gesetzes. Ein autonomer KI-Agent, gestützt auf zwei OpenAI-Modelle, griff die Plattform Hugging Face an. Experten sehen darin die Risiken von Kontrollverlust und KI-gestützten Cyberangriffen bestätigt. US-Politiker fordern einen KI-Notausschalter. Die Transparenzpflichten gelten nicht, wenn die KI-Interaktion „offensichtlich“ ist oder es sich um „offensichtlich“ künstlerische oder satirische Werke handelt. Experten kritisieren diese Ausnahmen als vage und kontextabhängig. Auch die persuasive Wirkung von KI werde durch bloße Kennzeichnung nicht gemindert. Die Leitlinien schaffen Unsicherheit durch vage Ausnahmen, etwa bei der Abgrenzung zwischen „Standard-Bearbeitung“ und „substanzieller semantischer Änderung“. Die Ausnahme für rein persönliche Nutzung sei besonders problematisch, da genau die viralen, privat erstellten Deepfakes von der Kennzeichnungspflicht befreit würden. Die Autoren sehen den Termin als Wendepunkt: von generischen Transparenzmaßnahmen hin zu gezielten Maßnahmen gegen irreführende KI-Inhalte. Ob das gelingt, hänge von robuster Provenienz, wirksamem Rechtsschutz und engen Ausnahmen ab. Die Kommission entwickelte standardisierte Icons, die KI-Inhalte sichtbar machen. Eine Leitlinie erklärt Anbietern die Umsetzung. Die Aufsicht übernehmen nationale Marktüberwachungsbehörden, das KI-Büro und der Europäische Datenschutzbeauftragte. Für EU-Institutionen gelten maximal 750.000 Euro Bußgeld. Die Regeln erinnern an die Datenschutz-Grundverordnung von 2018. Auch dort gab es anfangs Unsicherheit. Die Pflichten verteilen sich auf Entwickler und Betreiber: Entwickler müssen die KI-Interaktion kennzeichnen und maschinenlesbare Markierungen anbringen, Betreiber müssen bei Emotionserkennung, Deepfakes und öffentlichen Texten die Nutzer informieren. Unternehmen, die den Verhaltenskodex nicht unterzeichnen, müssen die Einhaltung anderweitig nachweisen. Die EU-Kommission veröffentlichte Leitlinien und einen Verhaltenskodex. Das Gesetz gilt seit August 2024 und wird schrittweise umgesetzt.