TurboLLM: Offline AI Chat

TurboLLM führt große Sprachmodelle direkt auf der CPU Ihres Android-Smartphones aus – ohne Cloud, ohne Konto, ohne Abo und ohne Internetverbindung nach dem Herunterladen eines Modells.

WARUM LOKALE KI?

Die meisten KI-Chat-Apps sind lediglich eine dünne Hülle um die Cloud-API eines Drittanbieters: Ihre Nachrichten verlassen Ihr Smartphone, Ihre Unterhaltungen werden auf einem Server gespeichert, über den Sie keine Kontrolle haben, und die App funktioniert nicht mehr, sobald Sie keine Verbindung mehr haben. TurboLLM ist anders. Das Modell läuft in einer echten, geräteinternen Inferenz-Engine (llama.cpp, kompiliert für Android), und Ihre Unterhaltung muss Ihr Smartphone nie verlassen.

WAS SIE TUN KÖNNEN

- Chatten Sie mit lokalen LLMs mit offenen Gewichtungen – Llama, Qwen, Gemma und jedem anderen GGUF-Modell – komplett offline, sogar im Flugmodus.

- Entdecken und laden Sie Modelle direkt von Hugging Face in der App mit nur einem Fingertipp herunter.

- Die Inferenz-Engine installiert sich beim ersten Mal automatisch – keine manuelle Einrichtung, kein Kompilieren, kein Terminal.

- Erstellen Sie individuelle KI-Agenten mit eigenen Systemanweisungen und Zugriff auf Fähigkeiten/Tools für verschiedene Aufgaben – Programmierhilfe, Schreiben, Recherche oder eine komplett leere Oberfläche ohne vorgegebene Anweisungen.

- Verfolgen Sie Ihre Nutzung im Zeitverlauf: Sitzungen, Nachrichten, generierte Tokens, Erfolgsserien und Ihr meistgenutztes Modell – alles lokal anhand Ihrer Historie berechnet.

- Optimieren Sie die Generierung mit Chat-spezifischen Steuerelementen: Denkbudget, Stichproben und Aufwand für die Argumentation (für Modelle, die diese Funktionen unterstützen).

- Dieselbe Benutzeroberfläche wie die Desktop-App von TurboLLM (Windows, Mac, Linux) – wenn Sie TurboLLM bereits auf einem Computer verwendet haben, funktioniert es auf Ihrem Smartphone genauso.

Datenschutz durch Design

- Kein Konto, kein Login, kein Cloud-Backend für Ihre Konversationen.

- Keine Telemetrie, keine Analysen, kein SDK zur Fehlerberichterstattung sendet in dieser Version Daten an den Server.

- Chats und heruntergeladene Modelle werden ausschließlich im privaten Speicher dieser App auf Ihrem Gerät gespeichert.

Ihre Eingabeaufforderungen, Dateien und Modellgewichte werden niemals an uns oder Dritte gesendet. Die einzigen Netzwerkanfragen dieser App sind die, die Sie selbst auslösen: das Herunterladen eines ausgewählten Modells, das erstmalige Abrufen der Inferenz-Engine oder ein von Ihnen explizit genehmigter Tool-Aufruf.

WICHTIG ZU WISSEN

Die Inferenz läuft auf der CPU Ihres Smartphones. Die Geschwindigkeit hängt daher von Ihrem Chipsatz und der gewählten Modellgröße ab. Kleinere Modelle (1–4 Milliarden Parameter) reagieren auf den meisten Smartphones am schnellsten, größere Modelle sind möglich, sofern Ihre Hardware dies zulässt. Die aktive Generierung ist rechenintensiv, daher ist mit einer normalen Akku- und Wärmebelastung zu rechnen, wie bei jeder KI-Aufgabe auf dem Gerät.

FÜR WEN IST DIE APP GEEIGNET?

Für datenschutzbewusste Nutzer, KI-Begeisterte, Entwickler, die TurboLLM oder llama.cpp bereits auf einem Computer verwenden, und alle, die neugierig sind, wie sich ein wirklich offline funktionierender LLM-Chat auf einem Smartphone anfühlt – unter Ihrer Kontrolle, auf Ihrer Hardware und ohne dass Daten Ihr Gerät verlassen.