L’intelligenza artificiale non deve necessariamente dipendere da grandi server remoti. Una nuova generazione di modelli più piccoli, progettati per funzionare su smartphone e altri dispositivi periferici, sta mettendo in discussione l’idea che per ottenere risultati utili servano sempre sistemi enormi e infrastrutture cloud. Il cambiamento è favorito da chip mobili dotati di acceleratori dedicati all’IA e da tecniche di addestramento che permettono ai modelli compatti di mantenere prestazioni significative con un numero molto inferiore di parametri.
Il tema riguarda aspetti pratici come la riservatezza dei dati, la rapidità delle risposte e la possibilità di usare alcune funzioni anche senza connessione. Si collega inoltre alla sostenibilità: l’UNESCO ha sostenuto un passaggio verso modelli meno dispendiosi in termini di risorse e ha invitato governi e industria a investire nella ricerca e nello sviluppo di un’IA più sostenibile. Secondo il rapporto citato, questa direzione potrebbe contribuire a ridurre il consumo energetico fino al 90%.
Che cosa significa eseguire l’IA sul dispositivo
Con l’IA on-device, le elaborazioni avvengono direttamente sul telefono o su un altro dispositivo, invece di essere inviate a un servizio remoto. Questo approccio può essere particolarmente utile quando un’applicazione deve analizzare immagini o rispondere a domande sull’ambiente circostante. Se il modello opera interamente sul dispositivo, immagini e richieste possono rimanere sul telefono: non è necessario caricarle su un server e la funzione può continuare a operare anche in assenza di Internet.
Il vantaggio non è soltanto legato alla privacy. Eliminare il passaggio verso il cloud può ridurre l’attesa tra l’invio di una richiesta e la ricezione della risposta. Questa attesa, chiamata latenza, è importante nelle interazioni quotidiane con chatbot e assistenti vocali, ma diventa ancora più rilevante per applicazioni in cui la risposta deve arrivare rapidamente. La rapidità, tuttavia, non è l’unico criterio: un modello deve anche offrire risultati sufficientemente affidabili per il compito a cui è destinato.
Modelli multimodali più piccoli per immagini e testo
Tra i sistemi pensati per l’esecuzione locale ci sono i modelli visione-linguaggio, o VLM. Un VLM combina un componente in grado di elaborare il testo con un codificatore di immagini. In questo modo può interpretare informazioni visive e collegarle a una richiesta formulata in linguaggio naturale, per esempio una domanda relativa a un documento, a un grafico o a una scena.
I principali fornitori di servizi cloud hanno sviluppato anche modelli compatti. Google, per esempio, ha evoluto la propria linea leggera e open-weight da PaliGemma, nel 2024, alle famiglie Gemma 3 e Gemma 4. Ma per funzionare direttamente su uno smartphone il problema è diverso: occorre restare entro i limiti di memoria e consumo energetico di un dispositivo comune. Per questo una fascia di modelli intorno ai 500 milioni di parametri è diventata un terreno attivo per lo sviluppo di sistemi aperti. Tra i modelli citati in questo ambito figurano le famiglie visive di Liquid AI e le serie SmolVLM e nanoVLM di Hugging Face.
VisionPsy-Nano: due versioni per esigenze diverse
Tether AI Research ha annunciato il rilascio open source di VisionPsy-Nano, un modello visione-linguaggio compatto progettato per l’esecuzione on-device e edge. La famiglia comprende VisionPsy-Nano 460M, orientato alla qualità, e VisionPsy-Nano-460M-Flash, ottimizzato per ridurre la latenza. La distinzione risponde a esigenze diverse: alcune applicazioni possono privilegiare la qualità dell’analisi, mentre altre richiedono soprattutto tempi di risposta contenuti.
Secondo i risultati presentati, VisionPsy-Nano si distingue in diverse categorie di valutazione, tra cui comprensione dei documenti, percezione visiva, ragionamento e conoscenza, rispetto delle istruzioni e affidabilità. Viene inoltre descritto come superiore a modelli comparabili per dimensione, tra cui Liquid AI LFM2.5-VL-450M e Hugging Face SmolVLM2-500M. Questi confronti riguardano la sua fascia di peso e non significano che un modello compatto possa sostituire ogni sistema di maggiori dimensioni o risolvere qualsiasi tipo di problema.
La variante Flash è presentata come destinata a un impiego rapido su smartphone comuni. Nei dati diffusi, su un Pixel 9 il tempo necessario per ottenere la prima risposta può ridursi fino a 23 volte, mantenendo circa il 99% della qualità del modello completo. Si tratta di valori riferiti alle prestazioni dichiarate per questa soluzione: non costituiscono una garanzia universale per ogni telefono, applicazione o situazione d’uso.
Perché la latenza conta nelle applicazioni in tempo reale
Per attività occasionali, qualche secondo di attesa può essere soltanto una seccatura. In altri contesti, invece, la tempestività può avere conseguenze più serie. La fonte indica come esempi la diagnosi medica, la risposta alle emergenze e la navigazione, ambiti nei quali un ritardo o un errore operativo può creare problemi. La velocità da sola non basta, ma una minore dipendenza dalla rete può aiutare i sistemi che devono reagire rapidamente e in modo continuativo.
La prospettiva si estende alla realtà aumentata in tempo reale, alla robotica e alle interfacce cervello-computer, indicate tra le aree in cui sono richieste risposte immediate. Un caso specifico è lo Scene Visual Question Answering, o Scene VQA: un agente deve osservare ripetutamente ciò che lo circonda e rispondere a domande di carattere spaziale. Elaborare queste informazioni direttamente sull’hardware edge può consentire a un sistema mobile di percepire e ragionare senza dipendere in ogni momento da una connessione cloud.
Il compromesso tra efficienza e capacità
Portare l’elaborazione sul dispositivo comporta anche dei compromessi. Nei sistemi destinati all’IA incarnata e ai dispositivi autonomi, gli sviluppatori possono accettare una riduzione marginale dell’accuratezza nel ragionamento generale in cambio di maggiore efficienza computazionale e latenza molto bassa. La scelta dipende quindi dal contesto: un modello compatto può essere adatto a un compito circoscritto e sensibile ai tempi, mentre altre richieste possono richiedere capacità più ampie.
Il progresso dell’IA on-device non rende superfluo il cloud, ma amplia le opzioni a disposizione di chi sviluppa prodotti e servizi. I modelli locali possono favorire la riservatezza, funzionare senza rete e offrire risposte rapide; i sistemi cloud restano parte del panorama dell’intelligenza artificiale. La crescita di modelli progettati per dispositivi mobili mostra dunque che la scala non è l’unico parametro da considerare: efficienza, qualità, consumo di risorse e necessità dell’applicazione sono altrettanto centrali.
VisionPsy-Nano si inserisce nella strategia dichiarata da Tether AI Research di rendere l’intelligenza artificiale accessibile attraverso l’esecuzione diretta sui dispositivi. È utile precisare che l’articolo da cui provengono queste informazioni era presentato come contenuto sponsorizzato e che la redazione editoriale di TechCrunch non aveva partecipato alla sua realizzazione. I risultati riportati vanno quindi letti nel contesto delle prestazioni comunicate sul modello, senza confondere le valutazioni descritte con una verifica indipendente.
Informazioni sull'autore
