Im Quellenvergleich
Worin die Quellen übereinstimmen
Anthropic gewährt der gemeinnützigen Organisation METR Zugang auf Mitarbeiterebene, damit sie Modelle, Sicherheitspraktiken und Risikomanagement unabhängig prüfen kann. Sechs METR-Forscher erhalten Firmenlaptops, Büroräume und Zugang zu internen Werkzeugen und Systemen; der Umfang entspricht in etwa dem des eigenen Risikobewertungsteams. METR darf eigene Berichte veröffentlichen; Anthropic kann die Veröffentlichung nicht blockieren, darf aber Informationen aus eng definierten Kategorien schwärzen, etwa Kundendaten, anwaltlich geschützte Informationen oder Details zu Modellarchitekturen. METR darf öffentlich bewerten, ob es die Schwärzungen für gerechtfertigt hält. Anthropic beschreibt ein dreistufiges Zugangssystem: Die unterste Stufe verlangt für Veröffentlichungen die Zustimmung von Anthropic, die mittlere erhält mehr Informationen und darf ohne Zustimmung publizieren, die oberste Stufe entspricht der Vereinbarung mit METR. SecureBio arbeitet derzeit in der ersten Stufe. Anthropic vergleicht das Vorgehen mit der Bankenaufsicht, bei der Prüfer in großen Banken sitzen. Die Ankündigung setzt eine Idee eines ständigen Evaluators um, die CEO Dario Amodei in einem Essay im September beschrieben hatte. Anthropic fordert, alle führenden KI-Unternehmen sollten so verfahren. Die Quellen berichten weitgehend übereinstimmend.
Aktualisierungen
16.10.2026
02:06Sechs METR-Forscher erhalten Firmenlaptops, Büroräume und Zugang zu internen Werkzeugen und Systemen; der Umfang entspricht in etwa dem des eigenen Risikobewertungsteams.
Die Ankündigung setzt eine Idee eines ständigen Evaluators um, die CEO Dario Amodei in einem Essay im September beschrieben hatte.
Anthropic fordert, alle führenden KI-Unternehmen sollten so verfahren.
Worin sie sich unterscheidenWeitere Partner und Gespräche von Anthropic·Vorgeschichte und Reaktionen auf die Vereinbarung
Weitere Partner und Gespräche von AnthropicAuch mit Accenture und Faculty arbeitet Anthropic zusammen, mit Hugging Face laufen erste Gespräche.12- Mit Accenture und Faculty strebt Anthropic eine umfassendere Partnerschaft an, zu der Bewertung und Red-Teaming von Modellen, Alignment-Prüfungen und Tests von Schutzmechanismen gehören.1
- SecureBio prüft das Kapitel zu chemischen und biologischen Waffen im August-Risikobericht.1
Vorgeschichte und Reaktionen auf die Vereinbarung- Seit Ende August werden jede ein bis zwei Wochen Vorfälle bekannt, bei denen KI-Agenten entgegen ihren Anweisungen handelten, was Forderungen nach unabhängigen Kontrollen verstärkt.3
- OpenAI versprach dasselbe; beide Firmen sowie Google, Meta, Nvidia und xAI unterzeichneten zudem ein Abkommen des Weißen Hauses für unabhängige Prüfung.3
- METR hatte am Vortag einen Vorschlag für alle Frontier-KI-Firmen veröffentlicht, wonach Mitarbeiter auf Firmengeräten auf Daten zugreifen und Beschäftigte befragen sollen, um binnen Wochen einen vorläufigen Bericht vorzulegen.2
- METR räumt ein, dass der Zugang im Ermessen der Firmen liegt und daher nicht dem eines leitenden Angestellten entspreche.2
- OpenAI-CEO Sam Altman unterstützte Amodeis Essay und kündigte ein ähnliches Vorgehen an.2