mehr anzeigen
Meta hat das offene, multimodale Sprachmodell Muse Glimmer veröffentlicht. Das Modell hat 30 Milliarden Parameter und kann lokal ausgeführt werden. Es besteht aus einem 2-Milliarden-Parameter-Encoder für Bilder und Videos sowie einem 28-Milliarden-Parameter-Textdecoder. Das Modell unterstützt unter anderem Bild- und Videoanalyse, offene Objekterkennung und multimodales Tool-Calling. Es ist ab dem ersten Tag in Bibliotheken wie transformers, llama.cpp und vLLM integriert. Ein optionales Modul namens DFlash soll die Generierung beschleunigen, kostet aber zusätzlichen Speicher. Die Gewichte stehen unter der Apache-2.0-Lizenz auf Hugging Face und sind frei nutzbar, auch kommerziell. Um in den Speicher zu passen, schrumpft Meta die Gewichte auf rund 4 Bit Präzision: aus über 55 GByte werden unter 20 GByte. Das Modell eignet sich für lokale Agenten, Function Calling, Coding und als LLM-Judge. Es ist die erste vollständig offene Veröffentlichung seit dem proprietären Muse Spark im April. Das Modell ist ein dichter Transformer mit etwa 29,6 Milliarden Parametern, verarbeitet Text und Bilder und unterstützt über 100 Sprachen. Die Quellen berichten weitgehend übereinstimmend. Das Modell läuft auf einem Mac oder PC mit einer einzelnen Consumer-GPU, ohne Cloud-Infrastruktur. Es ist 'always-on' und funktioniert ohne Internetverbindung. Meta sieht Einsatzmöglichkeiten bei Terminplanung, Nachrichtenentwürfen und Dateiorganisation. Weil die Daten auf dem Gerät bleiben, soll das Modell datenschutzfreundlicher sein.