Im Quellenvergleich

KI auf dem Smartphone

1 Quellen · 2 Meldungen · Stand 02.10.2026

Alle Inhalte werden von KI erstellt. Dieser Überblick fasst zusammen, worin sich mehrere Quellen einig sind und worin sie sich unterscheiden — die Bewertung bleibt dir überlassen.

Im Quellenvergleich

Worin die Quellen übereinstimmen

Cortiq Mobile ist eine Open-Source-App für Android und iOS, die Modelle im CMF-Format direkt auf dem Telefon ausführt. Die App kann offline im Chat antworten und Dokumente lesen, Nachrichten übersetzen und für Programme fertige Entscheidungen statt Text liefern. Das CMF-Format bündelt Gewichte, Architektur, Tokenizer, Aufgabenbeschreibung und Chat-Vorlage in einer Datei. Modelle lassen sich aus einem Katalog laden, aus safetensors auf dem Telefon konvertieren oder per Kommandozeilenwerkzeug aus GGUF umwandeln. Entscheidungsmodelle antworten mit strukturierten Feldern wie accepted, choice und confidence statt mit Fließtext. Bei geringer Sicherheit verweigert das Modell die Antwort. Der Dienst läuft lokal per HTTP, standardmäßig auf Port 8080, und lässt sich per curl oder Python ansprechen. Der Nutzer soll einen Bearer-Token setzen und das Telefon nur im vertrauenswürdigen Netz betreiben. Bei 16 parallelen Clients antwortet der Server überzähligen Anfragen mit Fehler 429; für Integrationen werden ein bis vier Clients empfohlen. Fehlercodes wie 400, 401 und 404 werden unterstützt. Optional lässt sich ein „Orakel“ aktivieren, das bei Unsicherheit Anfragen an einen externen Anbieter mit eigenem Schlüssel weiterleitet; es ist standardmäßig aus und erfordert pro Aufruf eine Bestätigung. Solange das Entscheidungsmodell geladen ist, antworten Chat-Routen mit Fehler 409. Die Quellen berichten weitgehend übereinstimmend.

Worin sie sich unterscheidenAntwortzeit der Entscheidungs-API·Verfügbare Skills für Entscheidungsmodelle·Messwerte für das Modell lfm2.5-230m-q4tp auf einem iPhone 16 (A18)+4 weitere
Antwortzeit der Entscheidungs-API
  • Auf einem realen Android-Gerät antwortet das Entscheidungsmodell in 13 bis 22 Millisekunden.1
  • Eine Vergleichslösung braucht bei guter Verbindung 350 bis 900 Millisekunden.2
Verfügbare Skills für Entscheidungsmodelle
  • Es gibt Skills wie banking77 mit 77 Bankanfragen, clinc150 mit 150 Alltagsabsichten und massive für Sprachassistenten-Befehle.2
Messwerte für das Modell lfm2.5-230m-q4tp auf einem iPhone 16 (A18)
  • Das Modell hat 230 Millionen Parameter, 14 Schichten und eine Dateigröße von 126 MiB und läuft auf der CPU mit fünf Threads.2
  • Es liefert 95 Tokens Antwort in 0,6 Sekunden bei 162,1 Tokens pro Sekunde.2
Übersetzungsleistung des Modells Hy-MT2
  • Das spezialisierte Modell Hy-MT2 hat 1,8 Milliarden Parameter.2
  • Sieben Übersetzungsaufgaben kamen vollständig zurück, kurze Sätze in 1–2 Sekunden, der Motor lieferte 14,4–21,8 Tokens pro Sekunde, im Mittel 17,75.2
Lasttest auf einem Xiaomi mit Android 14
  • Bei 16 Clients verarbeitete der Server 22 Anfragen und wies 106 weitere mit Fehler 429 ab.2
Netzmodi
  • Zwei Netzmodi sind standardmäßig aus und nur manuell aktivierbar.2
Nutzung des Telefons als lokaler Server für einen Laptop
  • Dasselbe Telefon kann als lokaler Server für einen Laptop dienen.2

Quellen (1)

Vollständige Übersicht mit allen Meldungen öffnen →