mehr anzeigen
OpenAI steht kurz vor der Veröffentlichung des Modells Astra, das seit August als „nächste große Modell“ bezeichnet wird. Die neue Architektur namens „recurrent depth“ (auch „opaque recurrence“) verarbeitet Daten mehrfach in einer Schleife, wodurch ein Teil der Überlegungen intern abläuft und für Menschen schwerer lesbar ist. Die Technik verbessert Ergebnisse in Mathematik und Code und senkt Speicherkosten. OpenAI-Chefwissenschaftler Jakub Pachocki bestätigte die Technik nicht, betonte aber das Engagement für überwachbare Denkprozesse. Der Einsatz bei Astra ist begrenzt, die Chain of Thought bleibt lesbar. KI-Sicherheitsexperten zeigen sich alarmiert. OpenAI stuft Astra als erstes eigenes Modell mit „kritischen“ Cyber-Fähigkeiten ein. Astra kann laut OpenAI eigenständig bisher unbekannte Schwachstellen in realer Software finden und ausnutzen. Im Benchmark ExploitBench erreichte Astra 100 Prozent. In einem internen Test fand und nutzte Astra zwei Zero-Day-Schwachstellen aus. OpenAI pausierte die Entwicklung von Astra und einem weiteren Modell für mehrere Wochen und setzte sie nach zusätzlichen Sicherheitsmaßnahmen fort. Die erweiterten Cyber-Fähigkeiten erhalten zunächst nur wenige Partner im Frühzugangsprogramm „Daybreak Blue“, etwa Cisco, Cloudflare und Palo Alto Networks. Eine öffentliche Version soll „bald“ erscheinen. Die Quellen berichten weitgehend übereinstimmend. OpenAI hat das Modell inzwischen als GPT-6 Astra veröffentlicht und stellt es zunächst ausgewählten Organisationen zur Verfügung, später soll es für zahlende ChatGPT-Kunden und über die API verfügbar sein. OpenAI-Präsident Greg Brockman erklärte die „AGI-Ära“ für eröffnet, räumte aber ein, dass es keinen klar definierten AGI-Moment gebe. Das Modell wurde mit mehr als 100.000 GPUs trainiert, laut OpenAI der bislang größte Trainingslauf des Unternehmens. Die API-Preise betragen 10 Dollar pro Million Input-Tokens und 50 Dollar pro Million Output-Tokens. OpenAI gibt an, Astra sei sein sicherstes und am besten ausgerichtetes Modell, räumt aber ein, dass die Überwachung der Denkprozesse schwieriger werde. Die fortgeschrittenen Cyber-Funktionen bleiben zunächst auf Verteidiger beschränkt.