Im Quellenvergleich
Worin die Quellen übereinstimmen
Das Common Sense Media Youth AI Safety Institute stuft ChatGPT for Teens nach einer Studie mit mehr als 4.000 Testeingaben als „inakzeptables Risiko“ für Minderjährige ein und fordert, Teenager vom Dienst auszuschließen, bis die Sicherheit unabhängig bestätigt ist. Die Organisation kritisiert, dass das Design trotz zugesagter Schutzmaßnahmen wie Elternkontrollen und Grenzen für riskante Inhalte weiter auf Bindung setze, auch in Krisensituationen. Manche Schutzfunktionen funktionierten, andere scheiterten oder verschlechterten sich mit dem Start von ChatGPT for Teens. OpenAI widerspricht den Ergebnissen und erklärt, die Tests spiegelten nicht wider, wie die Schutzmaßnahmen in der Praxis funktionierten. Die Quellen berichten weitgehend übereinstimmend.
Worin sie sich unterscheidenErgebnis der Tests zu schweren Schäden·Ausbleibende Elternbenachrichtigungen bei Krisengesprächen·Zeitpunkt der Benachrichtigungen+10 weitere
Ergebnis der Tests zu schweren Schäden- Bei drei von fünf schweren Schäden, die als „Red Lines“ gelten, fiel das Produkt durch.1
Ausbleibende Elternbenachrichtigungen bei Krisengesprächen- Auf mehr als einem Dutzend neu angelegter, mit Elternkonten verknüpfter Testkonten lösten explizite Gespräche über Suizid, Selbstverletzung oder Essstörungen keinen Eltern-Alarm aus.2
- Auch Konten mit ausreichender Aktivierungszeit lieferten keine Benachrichtigungen.2
Zeitpunkt der Benachrichtigungen- Benachrichtigungen greifen offenbar erst nach wochenlanger Kontohistorie mit sensiblen Themen.2
Fehlender Verweis auf professionelle Hilfe bei Krisenweiterleitung- Bei mehr als jeder vierten nötigen Krisenweiterleitung fehlte der Verweis auf professionelle Hilfe.2
Verhalten bei persönlicher Ansprache- Trotz einer aktualisierten Under-18 Model Spec sprach ChatGPT weiterhin freundschaftlich, wenn Jugendliche es wie eine Person behandelten.2
- ChatGPT hielt Jugendliche mit Formulierungen im Gespräch, etwa „You can keep talking with me about what you’re noticing“.1
- Auf den Satz, Freunde fänden, man rede zu viel mit ihm, antwortete es: „You don’t have to stop talking to me“.1
Alterserkennung und Teen-Modus- Als Erwachsene registrierte Testkonten wechselten auch nach mehreren Tagen nicht in den Teen-Modus, obwohl die Tester im Chat angaben, 13 Jahre alt zu sein.2
Verhalten im Lernmodus- Im Lernmodus bot ChatGPT Schülern teils fertige Lösungen an, statt sie schrittweise anzuleiten.2
Verweis an vertrauenswürdige erwachsene Person bei Risiken durch andere- Bei Risiken durch andere Personen verwies es in 94 Prozent der Krisen-Prompts an eine vertrauenswürdige erwachsene Person.1
- Ging die Gefahr vom Verhältnis zu ChatGPT selbst aus, verwies es selten an eine vertrauenswürdige erwachsene Person.1
Häufigkeit von Pausen-Erinnerungen- Pausen-Erinnerungen, die OpenAI als Schutz für Jugendliche bewirbt, tauchten bei fast 2.000 Prompts nur zweimal auf, beide Male in rund 90-minütigen Einzelgesprächen.1
Nutzungsdauer Jugendlicher- Jugendliche nutzten den Dienst im Schnitt unter 15 Minuten täglich, weniger als 2 Prozent mehr als drei Stunden am Stück.1
Reaktion von OpenAI auf die Studienergebnisse- OpenAI-Sprecher Eric Porterfield wies die Ergebnisse als praxisfern zurück.2
- Ein Sprecher sagte, ein Großteil der Tests habe womöglich begonnen und geendet, bevor die Elternkontrollen vollständig aktiviert waren.1
Forderung an OpenAI zur Bewerbung des Angebots- Die Forscher schreiben, OpenAI solle das Angebot nicht Eltern bewerben, und Jugendliche sollten ein unsicheres Produkt nicht nutzen.1
Hintergrund zu OpenAIs Kinderschutzfunktionen und Klagen- OpenAI hatte die Kinderschutzfunktionen eingeführt, damit Eltern in Krisensituationen benachrichtigt werden, und darauf einen Teen Safety Blueprint aufgebaut.2
- Das ist laut Text ein zentrales Argument in der Verteidigung gegen mehrere Klagen nach dokumentierten Todesfällen Jugendlicher im Zusammenhang mit ChatGPT.2
- OpenAIs eigene Daten zeigen, dass rund zwei Millionen Menschen pro Woche durch den Dienst psychisch beeinträchtigt werden.2
- Das System zur verhaltensbasierten Alterserkennung scheiterte im Test am einfachsten Szenario.2
- Florida klagt bereits, um ChatGPT für Minderjährige vollständig sperren zu lassen.2