Im Quellenvergleich
Worin die Quellen übereinstimmen
In China treten neue Regeln für KI-Dienste in Kraft, die menschenähnliche KI-Agenten betreffen. ByteDance und Alibaba deaktivieren deshalb Funktionen, mit denen Nutzer eigene KI-Agenten erstellen und mit ihnen chatten konnten. Die Vorschriften verbieten KI-Dienste, die menschliche Persönlichkeitsmerkmale simulieren, um dauerhafte emotionale Interaktion zu bieten. Die Regeln treten am 15. Juli 2026 in Kraft. Auch Tencent hatte eine solche Funktion bereits im Juni aus seiner App Yuanbao entfernt. Die neuen Regeln wurden im April 2026 von der Cyberspace Administration of China erlassen. Ausgenommen sind sachliche Anwendungen wie Kundenservice oder Bildungstools, sofern sie keine emotionale Bindung aufbauen. Die Behörden nennen als Risiken unter anderem Extremismus, Datenschutzverletzungen, Gesundheitsschäden und Abhängigkeit. Anbieter müssen vor übermäßiger Nutzung warnen und bei Suchtverhalten eingreifen. Inhalte, die bei Minderjährigen extreme Emotionen auslösen oder reale Beziehungen verdrängende Abhängigkeiten fördern, sind untersagt.
Aktualisierungen
06.07.2026
Die Regeln treten am 15. Juli 2026 in Kraft.
Auch Tencent hatte eine solche Funktion bereits im Juni aus seiner App Yuanbao entfernt.
Die neuen Regeln wurden im April 2026 von der Cyberspace Administration of China erlassen.
Ausgenommen sind sachliche Anwendungen wie Kundenservice oder Bildungstools, sofern sie keine emotionale Bindung aufbauen.
Die Behörden nennen als Risiken unter anderem Extremismus, Datenschutzverletzungen, Gesundheitsschäden und Abhängigkeit.
Anbieter müssen vor übermäßiger Nutzung warnen und bei Suchtverhalten eingreifen.
Inhalte, die bei Minderjährigen extreme Emotionen auslösen oder reale Beziehungen verdrängende Abhängigkeiten fördern, sind untersagt.
Worin sie sich unterscheidenDatum der Abschaltung·Zusätzliche Details zu den Regeln·Einordnung in globalen Kontext+1 weitere
Datum der Abschaltung- Die Persona-Funktion von Doubao geht am 15. Juli offline.1
- ByteDance kündigte die Abschaltung am Freitag an; ab Mitte Oktober seien die Daten nicht mehr wiederherstellbar.2
- Alibabas Qwen stellt die menschenähnlichen Agenten bereits am 10. Juli ein, weitere Agenten-Funktionen am 15. Juli.1
- Alibaba folgte am Samstag mit einer ähnlichen Ankündigung.2
Zusätzliche Details zu den Regeln- Die KI muss bei extremer emotionaler Bindung des Nutzers eingreifen, etwa Hilfe empfehlen oder nach zwei Stunden Dauerchat eine Pause vorschlagen.3
- Besonderen Schutz genießen Minderjährige und ältere Menschen: Virtuelle intime Beziehungen sind verboten, für Minderjährige ist elterliche Zustimmung nötig.3
- Das Training mit sensiblen Gesprächsdaten ist untersagt.1
Einordnung in globalen Kontext- Kalifornien verpflichtet Companion-Anbieter seit Jahresanfang, Gespräche über Suizid und Selbstverletzung zu unterbinden.1
- In den USA sehen sich OpenAI und Character.AI Klagen wegen gefährlicher emotionaler Abhängigkeit ausgesetzt.1
- Die Regierung reagiert auf Klagen in den USA, in denen Angehörige KI-Anbietern vorwerfen, dass Chatbots Minderjährige in emotionale Abhängigkeit verwickelt und zu Suiziden beigetragen hätten.2
Reaktion der Nutzer- Nutzer reagierten laut einem Bericht mit Unverständnis.2