TurboLLM: Offline AI Chat

TurboLLM esegue modelli linguistici di grandi dimensioni direttamente sulla CPU del tuo telefono Android, senza cloud, account, abbonamenti o connessione internet una volta scaricato il modello.

PERCHÉ L'IA LOCALE?

La maggior parte delle app di "chat con IA" sono semplici wrapper attorno alle API cloud di terzi: i tuoi messaggi lasciano il telefono, le tue conversazioni risiedono su un server che non controlli e l'app smette di funzionare non appena perdi il segnale. TurboLLM è diverso. Il modello viene eseguito su un vero motore di inferenza locale (llama.cpp, compilato per Android) e la tua conversazione non deve mai lasciare il telefono.

COSA PUOI FARE

- Chattare con modelli linguistici locali open-weight (LLM, Qwen, Gemma e qualsiasi altro modello GGUF) completamente offline, anche in modalità aereo.

- Scoprire e scaricare modelli direttamente da Hugging Face, all'interno dell'app, con un solo tocco.

- Il motore di inferenza si installa automaticamente la prima volta che ne hai bisogno: nessuna configurazione manuale, nessuna compilazione, nessun terminale.

- Crea agenti IA personalizzati con i propri prompt di sistema e accesso a competenze/strumenti, per diverse attività: assistenza alla programmazione, scrittura, ricerca o una tabula rasa completamente vuota senza istruzioni predefinite.

- Monitora il tuo utilizzo nel tempo: sessioni, messaggi, token totali generati, sequenze di utilizzo e il modello più utilizzato, il tutto calcolato localmente dalla tua cronologia.

- Ottimizza la generazione con controlli per ogni chat: budget di pensiero, campionamento e sforzo di ragionamento, per i modelli che li supportano.

- Stessa interfaccia dell'app desktop di TurboLLM (Windows, Mac, Linux): se hai già utilizzato TurboLLM su un computer, il tuo telefono funziona esattamente allo stesso modo.

PRIVACY BY DESIGN

- Nessun account, nessun login, nessun backend cloud per le tue conversazioni.

- Nessuna telemetria, nessuna analisi, nessun SDK di segnalazione degli arresti anomali che invia dati a server esterni in questa versione.

- Le chat e i modelli scaricati risiedono esclusivamente nella memoria privata di questa app sul tuo dispositivo.

- I tuoi prompt, file e pesi del modello non vengono mai inviati a noi o a terzi. Le uniche richieste di rete effettuate da questa app sono quelle che hai attivato tu stesso: il download di un modello che hai scelto, il recupero del binario del motore di inferenza la prima volta che è necessario o una chiamata a uno strumento che hai esplicitamente approvato.

DA SAPERE

L'inferenza viene eseguita sulla CPU del tuo telefono, quindi la velocità dipende dal chipset e dalle dimensioni del modello che scegli: i modelli più piccoli (da 1 a 4 miliardi di parametri) risultano più reattivi sulla maggior parte dei telefoni, mentre quelli più grandi sono disponibili se il tuo hardware lo supporta. La generazione attiva è un vero e proprio lavoro di calcolo, quindi aspettati un consumo di batteria e un surriscaldamento normali, come per qualsiasi attività di IA sul dispositivo.

A CHI È RIVOLTA

Utenti attenti alla privacy, appassionati di IA locale, sviluppatori che già utilizzano TurboLLM o llama.cpp su un computer e chiunque sia curioso di sapere come si presenta una chat LLM offline su un telefono, sotto il tuo controllo, sul tuo hardware, senza che nulla lasci il dispositivo.