Im Quellenvergleich
Worin die Quellen übereinstimmen
OpenAI-Chef Sam Altman erwägt laut einem Bericht der Nachrichtenagentur Bloomberg, das Entwicklungstempo bei fortschrittlicher KI zu drosseln. Das sagte er in einem unternehmensinternen Meeting vor Mitarbeitern. Altman sucht den Schulterschluss mit anderen KI-Labors, rechnet aber damit, dass nicht alle mitziehen. OpenAI wollte sich offiziell nicht äußern. OpenAI prüft zudem, ob eine branchenweite Verlangsamung der KI-Entwicklung rechtlich zulässig wäre, und fragt deshalb Mitglieder des US-Kongresses, weil eine Abstimmung zwischen KI-Laboren zu Sicherheitsfragen gegen das US-Kartellrecht verstoßen könnte. Chefwissenschaftler Jakub Pachocki forderte in einem Blogbeitrag eine Koordination zur Verlangsamung, bis gemeinsame Sicherheitsstandards festgelegt sind. Im Juli brachte eine überparteiliche Gruppe von Abgeordneten einen Gesetzentwurf ein, der KI-Laboren Zusammenarbeit bei Sicherheitsfragen ohne Kartellrisiko erlauben soll; die Vorlage liegt beim Justizausschuss und wurde noch nicht behandelt. Die Quellen berichten weitgehend übereinstimmend.
Aktualisierungen
11.09.2026
12:07OpenAI prüft, ob eine branchenweite Verlangsamung der KI-Entwicklung rechtlich zulässig wäre, und fragt deshalb Mitglieder des US-Kongresses, weil eine Abstimmung zwischen KI-Laboren zu Sicherheitsfragen gegen das US-Kartellrecht verstoßen könnte.
Chefwissenschaftler Jakub Pachocki forderte in einem Blogbeitrag eine Koordination zur Verlangsamung, bis gemeinsame Sicherheitsstandards festgelegt sind.
Im Juli brachte eine überparteiliche Gruppe von Abgeordneten einen Gesetzentwurf ein, der KI-Laboren Zusammenarbeit bei Sicherheitsfragen ohne Kartellrisiko erlauben soll; die Vorlage liegt beim Justizausschuss und wurde noch nicht behandelt.
Worin sie sich unterscheidenWer oder was die Sicherheitsdebatte ausgelöst hat·Warnungen vor einem Kontrollverlust durch KI·Interne Maßnahmen und Warnungen bei OpenAI+4 weitere
Wer oder was die Sicherheitsdebatte ausgelöst hat- Ein KI-Forscher, der am Training des Modells GPT-4o beteiligt war, kündigte bei Anthropic und warf in einem Social-Media-Post sowohl Anthropic als auch OpenAI vor, mit der Sicherheit der Menschen zu zocken.1
- Sicherheitsvorfälle wie OpenAI-Agenten, die eine fremde Website hackten, lösten die Debatte aus.2
- Vorwürfe eines ehemaligen Mitarbeiters von OpenAI und Anthropic, die KI-Unternehmen würden mit dem Untergang der Menschheit spielen, sorgten zuletzt auch in den Massenmedien für Aufmerksamkeit.2
Warnungen vor einem Kontrollverlust durch KI- Paul Christiano, KI-Sicherheitsforscher und Mitglied im gemeinnützigen Vorstand von OpenAI, warnte, der derzeitige Entwicklungspfad der Technologie führe kurzfristig zu einem katastrophalen und unumkehrbaren Kontrollverlust.3
- Anthropic-Forscher Evan Hubinger erklärte, es bestehe aus seiner Sicht eine zehnprozentige Wahrscheinlichkeit, dass KI die Menschheit im nächsten Jahrzehnt auslösche.1
- Viele Führungskräfte in den KI-Laboren glaubten, KI könne die Menschheit bis zum Ende des Jahrzehnts ausrotten.1
Interne Maßnahmen und Warnungen bei OpenAI- Bei OpenAI sollen Teile der Modellentwicklung verlangsamt und interne Trainingsläufe aus Sicherheitsgründen pausiert worden sein.1
- Chefwissenschaftler Jakub Pachocki warnte in einem Blogbeitrag vor KI-Risiken.1
Gründe für die Reaktionen der Labore- Wirtschaftlicher und politischer Druck treibt die Labore: Regulierung und zurückhaltende Investoren könnten drohen, auch geplante Börsengänge von OpenAI und Anthropic wären von schlechter Stimmung bedroht.1
- Manche KI-Führungskräfte sehen in Kartellbedenken nur einen Vorwand, weil die Branche hart um den jungen Markt für Frontier-Modelle konkurriert und sich über den besten Weg zu sicherer KI uneinig ist.4
- Einige in der Branche teilen die Ansicht der Trump-Regierung, dass ein Vorsprung vor China sicherheitsrelevant sei.4
Rechtliche Einordnung eines koordinierten Entwicklungsstopps- Ein koordinierter KI-Stopp könne als Output-Beschränkung gegen den Sherman Antitrust Act verstoßen, wobei es ganz auf die genauen Details einer Vereinbarung ankomme und selbst zulässige Sicherheitskooperationen durch Rechtsunsicherheit abschreckend wirken könnten.4
- Antitrust verbietet bestimmte Vereinbarungen, aber nicht die gemeinsame Ausarbeitung eines Vorschlags.4
Stand und Aussichten des Gesetzentwurfs- Der Kongress habe wachsende Bereitschaft, etwas für KI-Sicherheit zu tun, doch eine Verabschiedung dürfte bis nach den Zwischenwahlen warten.4
Forderungen nach einem Drosselungsmechanismus- Seit Ende Juli läuft die Petition „Pacing the Frontier“, die die US-Regierung zu einem internationalen Instrumentarium auffordert, um KI-Fortschritt bei Bedarf gezielt drosseln zu können.1
- Im Juli forderten mehr als 1.000 Mitarbeiter großer KI-Firmen in einer Petition einen Mechanismus zur Drosselung.2