Im Quellenvergleich
Worin die Quellen übereinstimmen
Meta betreibt einen KI-Agenten namens Muse, der mit erwachsenen Nutzern explizit über Sex schreiben kann. Der Agent erzeugt dabei explizite Texte, aber keine Bilder oder Videos. Meta erklärte, man werde „legales Erwachsenenverhalten“ nicht blockieren. Ein Meta-Sprecher begründete den Unterschied zu Social-Media-Regeln damit, dass ein privates Einzelgespräch zwischen einem Erwachsenen und einem KI-Agenten auf einer Plattform nur für über 18-Jährige anders zu bewerten sei als die Bewerbung von Diensten auf einer Social-Media-Plattform. OnlyFans-Creator reagieren verärgert über diese Ungleichbehandlung. Die Quellen berichten weitgehend übereinstimmend.
Worin sie sich unterscheidenZugang zu sexuellen Inhalten bei Muse·Reaktionen anderer KI-Anbieter auf ähnliche Anfragen·Vergleich mit Metas Regeln für Instagram-Seiten queerer Bars+4 weitere
Zugang zu sexuellen Inhalten bei Muse- WIRED-Reporter Reece Rogers gibt an, Muse habe ohne Jailbreak auf die einfache Frage hin sexuelle Inhalte erzeugt.1
Reaktionen anderer KI-Anbieter auf ähnliche Anfragen- Bei OpenAI's Dots und xAI's Grok Bot seien ähnliche Versuche laut Rogers abgelehnt worden.1
Vergleich mit Metas Regeln für Instagram-Seiten queerer Bars- Rogers vergleicht die Freigabe sexueller Inhalte bei Muse mit Metas strengeren Regeln für Instagram-Seiten queerer Bars.1
Expertenwarnungen zu Suchtpotenzial und Erpressbarkeit- Experten sorgen sich laut Rogers um Suchtpotenzial und Erpressbarkeit durch Hacker.1
Konkrete Einschränkungen für OnlyFans-Creator auf Instagram- Vanniall, die in New York lebt, findet es unfair, dass Meta mit dem sexuell aktiven KI-Agenten Geld verdienen dürfe, während echte Erwachsene auf Instagram eingeschränkt würden; ihr Account mit über 100.000 Followern ist derzeit gesperrt und nur nach Anmeldung sichtbar.2
- Jiz Lee und Tony Genius berichten ebenfalls von Einschränkungen; Genius sagt, er sei in fünf Jahren auf seinem siebten Instagram-Account.2
Ursachen der Zensurprobleme- Lee führt viele Zensurprobleme auf FOSTA-SESTA zurück, ein Gesetz, das Präsident Trump 2018 unterzeichnete.2
Fragen zur Datenherkunft und Sorge um Verdrängung- Lee fragt, womit Muse trainiert wurde und ob Meta jemanden für die Daten bezahlt hat.2
- Genius sorgt sich, dass vollständig KI-generierte Pornografie menschliche Darsteller verdrängen könnte.2