Im Quellenvergleich
Worin die Quellen übereinstimmen
Google hat das experimentelle Open-Source-Modell DiffusionGemma veröffentlicht. Es erzeugt Text nicht sequenziell Token für Token, sondern in Blöcken von 256 Tokens parallel mittels eines Diffusionsverfahrens. Das Modell hat 26 Milliarden Parameter, aktiviert während der Inferenz aber nur 3,8 Milliarden und passt mit Quantisierung in den 18-GB-VRAM einer High-End-Verbraucher-GPU. Google räumt ein, dass die Ausgabequalität niedriger ist als bei den regulären Gemma-4-Modellen. Das Modell eignet sich vor allem für lokale, geschwindigkeitskritische Anwendungen wie Inline-Editierung oder Code-Ergänzung. Die Modellgewichte stehen unter der Apache-2.0-Lizenz auf Hugging Face bereit. Auf einer Nvidia H100 erreicht das Modell über 1.000 Tokens pro Sekunde, auf einer GeForce RTX 5090 über 700 Tokens pro Sekunde. Nvidia hat das Modell für verschiedene Architekturen optimiert.
Aktualisierungen
06.07.2026
Auf einer Nvidia H100 erreicht das Modell über 1.000 Tokens pro Sekunde, auf einer GeForce RTX 5090 über 700 Tokens pro Sekunde.
Nvidia hat das Modell für verschiedene Architekturen optimiert.
Worin sie sich unterscheidenGeschwindigkeitsvorteil gegenüber anderen Modellen·Einschränkungen bei Cloud- und Mehrnutzer-Szenarien·Leistung auf Apple Silicon+1 weitere
Geschwindigkeitsvorteil gegenüber anderen ModellenDas Modell ist auf lokaler Hardware bis zu viermal schneller als herkömmliche autoregressive Modelle.- Das Modell erreicht auf einer NVIDIA H100-GPU über 1.000 Tokens pro Sekunde, was der zehnfachen Geschwindigkeit von GPT-5.4 mini entspreche.1
Einschränkungen bei Cloud- und Mehrnutzer-SzenarienIn der Cloud mit vielen gleichzeitigen Anfragen sind autoregressive Modelle oft effizienter.- Im Cloud-Serving mit vielen Anfragen kann das Modell sogar höhere Kosten verursachen.2
Leistung auf Apple Silicon- Auf Architekturen mit gemeinsam genutztem Speicher wie Apple Silicon fällt der Geschwindigkeitsvorsprung geringer aus.2
Trainingsdaten und Anwendungsbeispiele- Das Modell wurde unter anderem auf Sudoku-Rätsel trainiert, eine für autoregressive Modelle schwierige Aufgabe, da es sich selbst korrigieren kann.3