Im Quellenvergleich
Worin die Quellen übereinstimmen
Anthropic beschreibt in einem Blogbeitrag neue Abwehrmaßnahmen gegen sogenannte Distillation-Angriffe, bei denen Unternehmen die Fähigkeiten des Modells Claude ausspähen, um sie ohne Genehmigung in eigene Modelle zu kopieren. Nach eigenen Angaben haben die neuen Methoden die von Distillern gesammelte Datenmenge um etwa 90 bis 99 Prozent reduziert. Die Abwehrmaßnahmen setzen an drei Stellen an. Als Beispiel für ein betroffenes Modell nennt Anthropic Zhipu, das Cyber-Fähigkeiten für sein Modell GLM-5.3 abgeschöpft habe. Anthropic sieht das Risiko, dass destillierte Fähigkeiten in ausländische Militär-, Geheimdienst- und Überwachungssysteme fließen. Das Unternehmen räumt ein, dass die Maßnahmen Kompromisse mit sich bringen und auch legitime Nutzer betroffen sind.
Worin sie sich unterscheidenUmfang und Art der Angreifer-Netzwerke·Beteiligte Unternehmen·Bewertung der Schutzmaßnahmen von GLM-5.3+3 weitere
Umfang und Art der Angreifer-Netzwerke- Angreifer nutzten Netzwerke mit Hunderttausenden gefälschter Konten.1
Beteiligte Unternehmen- An den Angriffen sind nach Angaben von Anthropic die chinesischen Unternehmen Zhipu und Moonshot beteiligt.1
- Moonshot habe Anfragen heimlich an Claude weitergeleitet.1
Bewertung der Schutzmaßnahmen von GLM-5.3- Nach Einschätzung von CAISSI ist GLM-5.3 das cyberfähigste offene Modell, und seine Schutzmaßnahmen lassen sich leicht umgehen.2
Erste Abwehrmaßnahme und ihre Wirkung- Claude fasste seine Denkprozesse zusammen, was die Transkripte für Distiller weniger nützlich machte.2
- Ein damit trainiertes Modell erreichte im Coding-Benchmark SWE-bench Verified 71,8 Prozent statt 80,4 Prozent mit vollständigen Transkripten.2
- Daraufhin gingen Angreifer zu aktiver Extraktion über.2
Konkrete Abwehrmechanismen- Die Abwehr stützt sich auf eingeschränkten Zugriff auf Claudes interne Begründungsschritte, ein Klassifikator-System zur Erkennung von Extraktionsversuchen und automatische Kontosperren.1
- Zehntausende Accounts seien bereits gesperrt worden.1
- Die neuen Abwehrmaßnahmen umfassen unter anderem „preserved thinking“, das neue API-Konten daran hindert, Claudes früheren Kontext zu bearbeiten.2
Kosten der Maßnahmen- Anthropic habe auf Umsatz und große Mengen zahlenden Datenverkehrs verzichtet, und einige legitime Nutzer mussten ihre Integrationen anpassen.2