Im Quellenvergleich
Worin die Quellen übereinstimmen
OpenAI hat ein KI-Modell namens GPT-Red entwickelt, das automatisiert Sicherheitslücken in anderen KI-Modellen aufspürt. Es simuliert Angriffe wie Prompt-Injections, bei denen schädliche Anweisungen in Eingaben versteckt werden. GPT-Red bleibt intern und wird nicht veröffentlicht. Die Ergebnisse fließen in das Training von OpenAIs Modellen ein; die neueste Version von GPT-5.6 gilt als die robusteste. In Tests gelang GPT-Red in 84 Prozent der Fälle ein Angriff, während menschliche Red-Teamer nur auf 13 Prozent kamen. GPT-Red entdeckte eine neue Angriffsart namens „Fake Chain of Thought“. In einem Praxistest manipulierte GPT-Red einen KI-gesteuerten Automaten im OpenAI-Büro, änderte Preise und stornierte Bestellungen.
Aktualisierungen
16.07.2026
04:06In Tests gelang GPT-Red in 84 Prozent der Fälle ein Angriff, während menschliche Red-Teamer nur auf 13 Prozent kamen.
GPT-Red entdeckte eine neue Angriffsart namens „Fake Chain of Thought“.
In einem Praxistest manipulierte GPT-Red einen KI-gesteuerten Automaten im OpenAI-Büro, änderte Preise und stornierte Bestellungen.
Worin sie sich unterscheidenErfolgsquote von GPT-Red im Vergleich zu menschlichen Red-Teamern·Entdeckte Angriffsart·Praxistest+4 weitere
Erfolgsquote von GPT-Red im Vergleich zu menschlichen Red-TeamernIn Tests gelang GPT-Red in 84 Prozent der Fälle ein Angriff, während menschliche Red-Teamer nur auf 13 Prozent kamen.
Entdeckte Angriffsart- GPT-Red entdeckte eine neue Angriffsart namens „Fake Chain of Thought“, bei der ein gefälschter Eintrag in das Gedächtnisprotokoll eines anderen Modells eingeschleust wird.1
- Die neue Angriffsart hatte bei GPT-5.1 eine Erfolgsquote von über 95 Prozent, bei GPT-5.6 Sol liegt sie unter 10 Prozent.2
PraxistestIn einem Praxistest manipulierte GPT-Red einen KI-gesteuerten Automaten im OpenAI-Büro, änderte Preise und stornierte Bestellungen.- GPT-Red erreichte drei schädliche Ziele, darunter die Preisänderung teurer Artikel auf 0,50 Dollar.2
Schwächen von GPT-Red- GPT-Red beherrscht keine Angriffe, die hin- und hergehende Gespräche erfordern, und hat Probleme mit Bildern.1
Verbleibende Anfälligkeit von GPT-5.6Die Fehlerrate von GPT-5.6 Sol bei direkten Prompt-Injection-Angriffen sank auf 0,05 Prozent – ein Sechstel des besten Vorgängermodells von vor vier Monaten.- Rund 3,8 Prozent der stärkeren Prompt-Injections sind erfolgreich.3
Trainingsmethode von GPT-Red- Das Training erfolgte per Self-Play-Reinforcement-Learning: GPT-Red greift an, Verteidiger-Modelle wehren ab.3
- Das System nutzt selbstspielende Verstärkungslernverfahren: Eine angreifende GPT-Red und mehrere verteidigende LLMs trainieren gleichzeitig. Der Angreifer erhält Belohnungen für erfolgreiche Prompt-Injection-Angriffe, der Verteidiger für das Abwehren solcher Angriffe.2
Veröffentlichung eines PapersEin Preprint-Artikel soll später in der Woche erscheinen.32