Anthropic-Bericht zu KI-Missbrauch

Worin die Quellen übereinstimmen

Anthropic hat einen Bericht zur Bedrohungslage veröffentlicht. Darin beschreibt das Unternehmen Versuche, seine KI-Modelle für den Bau von Raketen und Bomben, die Entwicklung tödlicher Erreger und die Überwachung von Regimekritikern zu nutzen. Der Bericht nennt fünf Fallstudien, in denen Wissenschaftler die Modelle für biologische Forschung nutzten und dabei Schutzmechanismen umgingen. Die Konten wurden gesperrt. Namen der Institute und Länder nannte das Unternehmen nicht. Weitere Beispiele betreffen Cyberoperationen, Überwachungsprogramme, Propagandakampagnen sowie die Entwicklung von Software für konventionelle Waffen. Der Bericht erscheint zwei Tage, nachdem der Anthropic-Mitarbeiter Jacob Coxon mit seinem Rücktritt eine Medienwelle auslöste. Coxon begründete ihn damit, dass das Unternehmen bei der Entwicklung seiner Technologie nicht verantwortungsvoll handle. Aktuelle Anthropic-Mitarbeiter veröffentlichten öffentlich Zustimmung. Viele KI-Experten halten die realen Bedrohungen der nächsten drei Jahre für besorgniserregender als einen durch eine allmächtige Intelligenz ausgelösten Weltuntergang. Anthropic zufolge bleibt realer Missbrauch meist unsichtbar und wird intern sowie von Forschern, Regierungen und internationalen Organisationen untersucht. Die gesamte Branche müsse mit Regierungen zusammenarbeiten, um Schäden zu begegnen und Abwehrmaßnahmen zu schaffen. Je fähiger die Modelle würden, desto größer die Risiken – es sei denn, Entwickler und Verteidiger handelten. Der Bericht trägt den Titel „Detecting and countering misuse of AI“ und umfasst mehr als 150 Seiten. Er deckt die vergangenen acht Monate ab und behandelt die Bereiche Cyberoperationen, Einflussnahme, Überwachung, Betrug, biologischer Missbrauch, Entwicklung konventioneller Waffen und Destillation. Betroffen waren Modelle der Familien Haiku, Sonnet und Opus. Anthropic zufolge handelt es sich nicht um typischen Missbrauch, sondern um neuartige schädliche Aktivitäten staatsnaher Gruppen, Krimineller, Spyware-Anbieter, Propaganda-Institutionen und politisch motivierter Einzelpersonen. Bei den Destillationskampagnen versuchten chinesische Firmen, die Gedankenkette von Claude aus dessen Antworten zu extrahieren, um damit kleinere Modelle zu trainieren. Die Angreifer tarnten Abfragen, etwa als Übersetzungsauftrag, um das Modell zur Offenlegung zu bringen. Die Quellen berichten weitgehend übereinstimmend.