Im Quellenvergleich
Worin die Quellen übereinstimmen
Anthropic-CEO Dario Amodei hat einen Essay und zwei Policy-Frameworks veröffentlicht. Er fordert verpflichtende Sicherheitsprüfungen für leistungsstarke KI-Modelle durch Dritte und eine staatliche Blockademöglichkeit bei unzureichenden Sicherheitsstandards. Die Frameworks heißen Advanced AI Framework und Economic Policy Framework.
Worin sie sich unterscheiden
Begründung für die Forderung nach Sicherheitsprüfungen- Amodei beklagt ein grundlegendes Missverhältnis zwischen der exponentiellen Geschwindigkeit des KI-Fortschritts und der Langsamkeit politischer Entscheidungsprozesse.1
- Bisher hatte Anthropic nur Transparenzpflichten befürwortet; nun reiche das nicht mehr, weil Frontier-Modelle reale Risiken für Finanzsektor, Infrastruktur und nationale Sicherheit bergen.2
Schwellenwerte für das Advanced AI Framework- Das Framework verlangt unabhängige Tests in vier Risikobereichen.1
- Das Framework gilt für Entwickler, deren Modelle mehr als 10^25 Trainings-FLOP benötigen und die mehr als 500 Millionen Dollar KI-Umsatz erzielen oder mehr als eine Milliarde Dollar in KI-Forschung investieren. Sie sollen ein Safety Framework veröffentlichen, System Cards bereitstellen, alle sechs Monate einen Risk Report vorlegen und schwere Sicherheitsvorfälle binnen 15 Tagen melden.2
Konkrete Maßnahmen im Economic Policy Framework- Amodei räumt ein, dass KI zu dauerhaften Jobverlusten führen könne, und plädiert für langfristige Hilfen wie ein Grundeinkommen. Das Framework skizziert Maßnahmen für drei Arbeitslosigkeits-Szenarien und kündigt eigene Investitionen von 350 Millionen Dollar an.1
- Bei rund fünf Prozent Arbeitslosigkeit schlägt Anthropic Kapitalkonten und Lohnversicherung vor, bei rund zehn Prozent Grundbedarfshilfen, bei historischen Höchstständen ein bedingungsloses Grundeinkommen. Das Unternehmen gibt an, einen fairen Anteil zu zahlen, falls KI-Unternehmen transformative Gewinne erzielten.2
Geopolitische Dimension- Amodei argumentiert, dass Transparenz allein nicht mehr ausreiche, da KI inzwischen ein strategisches Sicherheitswerkzeug sei.1
- Amodei warnt vor KI als geopolitischer Waffe und plädiert für eine demokratische Koalition, die Gegnern den Zugang zu Technologie verwehrt.2