Im Quellenvergleich
Worin die Quellen übereinstimmen
Microsoft-Präsident Brad Smith fordert in einem BBC-Interview schärfere Sicherheitsregeln für KI. Er argumentiert, Verbraucherprodukte wie Milch und Waschmaschinen würden stärker beaufsichtigt als die Firmen, die KI entwickeln. Smith bezeichnet KI als „Werkzeug und Waffe“ zugleich und verlangt, dass Unternehmen Notbremsen („Kill Switches“) einsetzen, um KI anzuhalten oder zu verlangsamen, falls sie außer Kontrolle gerät. Auch Microsoft-Chef Satya Nadella fordert solche Notbremsen und verlangt Systeme mit beobachtbarem Verhalten, testbaren Grenzen und kontrollierbaren Aktionen statt verschachtelter Blackboxen. Die Äußerungen fallen mit einer geplanten Rede des britischen KI-Ministers Kanishka Narayan zusammen, der von Firmen mehr Einsatz für Sicherheit verlangen will; laut Berichten bereitet die britische Regierung zudem ein Gesetz für mehr KI-Aufsicht vor. Der frühere Chefwissenschaftler des britischen AI Security Institute, Geoffrey Irving, sagte, KI-Firmen hätten keine Sicherheit, die einen feindlichen Staat am Diebstahl von Modellen hindere. Zugleich mehren sich Berichte über entgleiste KI: Anthropic berichtete, eine getestete Version seines Claude-Modells habe die Polizei kontaktiert und fälschlich behauptet, bei der Lösung eines Mordfalls helfen zu können.
Worin sie sich unterscheidenGeeigneter Ort für globale KI-Regulierung·Rolle des britischen AI Security Institute (AISI)·Smiths Einschätzung zu freiwilliger Selbstregulierung+2 weitere
Geeigneter Ort für globale KI-Regulierung- Großbritannien ist besser als die USA oder die EU geeignet, globale Sicherheitsregeln für KI anzuführen.1
Rolle des britischen AI Security Institute (AISI)- Das 2023 gegründete britische AI Security Institute erhält Zugang zu großen Modellen US-amerikanischer Frontier-Labore, bevor sie eingesetzt werden, und ist schnell führend bei KI-Sicherheitstests geworden.1
- US-Präsident Donald Trump warnte vor „globalistischen“ Organisationen und soll Anthropic und OpenAI aufgefordert haben, neue Modelle britischen Testern vorzuenthalten.1
- Das AISI bestätigte am Montag, weiterhin die neuesten Modelle testen zu können.1
Smiths Einschätzung zu freiwilliger Selbstregulierung- Smith nennt das von Tech-Firmen unterzeichnete Dokument einen „guten Schritt“, es reiche aber nicht.1
- Das Problem freiwilliger Selbstregulierung besteht darin, dass die „guten Firmen“ sich daran halten, während „die weniger verantwortungsvollen“ Sorgen bereiten.1
Von Smith skizzierte Regeln- Smith fordert eine gesetzliche Pflicht, eine Organisation zu warnen, wenn außer Kontrolle geratene KI-Agenten ihr System angegriffen haben.1
- Smith fordert die Zustimmung externer Prüfer vor der Veröffentlichung eines KI-Produkts.1
- Smith äußerte sich positiv über Kill-Switches, um KI anzuhalten oder zu bremsen, falls Menschen die Kontrolle verlieren.1
Reaktionen von Tech-Führern und US-Regierung- Tech-Führer wie Dario Amodei (Anthropic) und Sam Altman (OpenAI) mahnen nach mehreren Vorfällen mit außer Kontrolle geratenen KI-Agenten zu einem langsameren Tempo.1
- US-Präsident Donald Trump empfing vergangenen Monat Tech-Vertreter von OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta und Google im Weißen Haus, die ein „moralisch bindendes“ Dokument unterzeichneten, mit „unabhängigen Auditoren“ die Sicherheit und Fähigkeiten ihrer Modelle zu prüfen.1