Im Quellenvergleich
Worin die Quellen übereinstimmen
Discord hat eingeräumt, dass ein Fehler in seinem KI-gestützten Moderationssystem in den vergangenen zwei Monaten mehr als 8.000 Nutzerkonten fälschlich gesperrt hat. Die KI hatte harmlose Bilder wie Tabellenkalkulationen, Schachbretter oder Spieltexturen fälschlich als schädlichen Inhalt eingestuft. Das Problem trat seit Mai auf; weitere 200 Nutzer wurden am Wochenende gesperrt, bevor Discord den Fehler fand und behob. Alle betroffenen Konten werden wiederhergestellt. Laut Discord gleicht das System hochgeladene Inhalte mit Datenbanken bekannter schädlicher Inhalte ab. Ein menschlicher Moderator prüft die Treffer normalerweise, doch ein Fehler führte zur sofortigen Sperrung.
Worin sie sich unterscheidenArt des fälschlich erkannten schädlichen Inhalts·Anzahl der fälschlich gesperrten Konten·Zusätzliche Details zum Softwarefehler+1 weitere
Art des fälschlich erkannten schädlichen InhaltsDas System stufte die Bilder fälschlich als schädlichen Inhalt ein.- Das System stufte die Bilder fälschlich als Kinderpornografie (CSAM) ein.1
Anzahl der fälschlich gesperrten KontenMehr als 8.000 Nutzer wurden fälschlich gesperrt.- Rund 8.200 Nutzerkonten wurden zu Unrecht gesperrt.1
Zusätzliche Details zum SoftwarefehlerEin Fehler führte zur sofortigen Sperrung statt zur vorherigen Prüfung durch einen menschlichen Moderator.- Ein Softwarefehler habe statt einer vorübergehenden Upload-Sperre sofort eine dauerhafte Kontosperrung ausgelöst.1
- Derselbe Fehler verhinderte die automatische Wiederherstellung freigegebener Konten.1
Reaktionen und Vermutungen der Nutzer- Nutzer auf X und Reddit berichten von dauerhaften Sperren wegen Bildern mit Gittermustern.2
- Sie vermuten, die KI reagiere empfindlich auf solche Muster, weil diese früher genutzt wurden, um anstößige Inhalte zu verschleiern.2