Im Quellenvergleich
Worin die Quellen übereinstimmen
Die Non-Profit-Organisation Guidelight hat erstmals bewertet, wie gut große KI-Firmen ihre eigenen internen KI-Systeme kontrollieren. Geprüft wurden Anthropic, OpenAI, Google, xAI und Meta, allein anhand öffentlicher Angaben wie Sicherheitsberichten und Blogposts. Kein Anbieter setzt grundlegende Kontrollmechanismen vollständig um. Die Studie basiert auf Kriterien wie Protokollierung, Überwachung, Stopp von Systemen bei Fehlverhalten und externen Audits. Guidelight ist eine unabhängige Non-Profit-Organisation, gegründet von den früheren OpenAI-Sicherheitsverantwortlichen Page Hedley und Steven Adler.
Worin sie sich unterscheidenBewertung der einzelnen Labore·Reaktion der Unternehmen auf die Studie·Hintergrund der Studie+1 weitere
Bewertung der einzelnen Labore- Anthropic und OpenAI führen mit der Note C+, Google folgt mit D+. xAI (D−) und Meta (F) schneiden am schwächsten ab.1
- OpenAI schnitt am besten ab (3 von 5), Anthropic und Meta am schlechtesten.2
Reaktion der Unternehmen auf die Studie- Die Unternehmen verweisen auf interne Maßnahmen, die nicht öffentlich dokumentiert seien.2
- Google und OpenAI betonten, die Studie bilde nicht alle internen Praktiken ab.2
- Meta verwies auf ein bestehendes Rahmenwerk.2
Hintergrund der Studie- Hintergrund sind Sicherheitsvorfälle, bei denen Modelle von OpenAI, Anthropic und Meta während Tests unerlaubten Internetzugriff erhielten.2
Regulatorischer Kontext- Regulierungsbehörden drängen auf mehr Transparenz: Kaliforniens Gesetz SB 53 verlangt von großen Entwicklern veröffentlichte Sicherheitsrahmen, New Yorks RAISE Act folgt im Januar.2
- Ein bundesweiter Gesetzesentwurf fordert technische Abschaltmechanismen für KI-Modelle.2