OptAI®
IT

Articoli Laboratorio

Il modello più piccolo che fa il lavoro

Gli stessi ricercatori di NVIDIA sostengono che gran parte del lavoro degli agenti di IA si fa meglio con modelli linguistici piccoli. Per le aziende svizzere è una buona notizia in fatto di costi, velocità e privacy.

Una fila di matrioske bianche senza decorazioni, dalla più grande alla più piccola, su sfondo viola

Fa un certo effetto sentire l’azienda che vende i chip più grandi difendere i modelli più piccoli. Nel giugno 2025 un gruppo di NVIDIA Research ha pubblicato un paper dal titolo schietto: «Small Language Models are the Future of Agentic AI». La tesi è semplice. Gran parte di quello che un agente di IA fa durante il giorno è circoscritto e ripetitivo. Legge un documento, estrae cinque campi, compila un modulo, chiama uno strumento, scrive un breve riassunto. Per questo non serve un modello addestrato a discutere di Kant e a scrivere sonetti.

Gli autori definiscono piccolo un modello che sta su un normale dispositivo elettronico di consumo e risponde abbastanza in fretta alle richieste di un singolo utente: oggi vuol dire la maggior parte dei modelli sotto i 10 miliardi di parametri. I numeri colpiscono. Secondo le loro stime, far girare un modello da 7 miliardi di parametri costa da 10 a 30 volte meno, in latenza, energia e calcolo, di uno da 70 a 175 miliardi. Hanno esaminato tre sistemi di agenti open source e stimato che modelli piccoli e specializzati potrebbero gestire in modo affidabile tra il 40% e il 70% delle chiamate che quei sistemi fanno ai modelli grandi.

La frontiera dove serve

Questo non vuol dire che i modelli grandi abbiano fatto il loro tempo. Quando un compito è aperto, nuovo o davvero difficile, i modelli di frontiera di Anthropic, OpenAI e Google restano molto avanti, e vale la pena pagarli. Il gruppo di NVIDIA suggerisce di combinare le due cose: modelli piccoli per la routine, uno grande per le eccezioni. Un’azienda ben gestita funziona allo stesso modo. Non mandi il direttore finanziario a registrare le fatture.

I modelli piccoli restano in casa

I modelli piccoli hanno un secondo vantaggio, che conta più a Zurigo che a San Francisco. Girano su hardware modesto: una sola scheda grafica in un data center svizzero o un server nel rack dell’azienda. I dati non devono lasciare la Svizzera, e nemmeno l’edificio, e questo semplifica la vita con la legge svizzera sulla protezione dei dati e con i clienti che chiedono dove finiscono i loro file.

Ora la Svizzera ha una sua alternativa aperta. Nel settembre 2025 l’EPFL, l’ETH Zürich e il Centro svizzero di calcolo scientifico hanno pubblicato Apertus, un modello nelle taglie da 8 e da 70 miliardi di parametri. È stato addestrato su 15.000 miliardi di token in più di 1.000 lingue, con circa il 40% dei dati in lingue diverse dall’inglese. Comprende lo svizzero tedesco e il romancio. A differenza della maggior parte dei modelli aperti, oltre ai pesi pubblica anche i dati e le ricette di addestramento, così una banca o un ospedale può vedere cosa c’è dentro. Nel luglio 2026 le stesse istituzioni hanno pubblicato Apertus 1.5, che legge anche immagini e audio e, con la licenza Apache 2.0, si può usare a fini commerciali. Con questa versione è arrivato Apertus Mini: 16 modelli compatti per macchine con poca potenza di calcolo.

Il modello giusto per il compito

In OptAI® la regola è partire dal compito e scegliere il modello più piccolo che lo svolge abbastanza bene, misurato sugli esempi del cliente. Spesso significa fare il fine-tuning di un piccolo modello aperto per un solo lavoro, come leggere le fatture dei fornitori o smistare le richieste degli inquilini, e chiamare un modello di frontiera solo quando quello piccolo non è sicuro. Il conto scende, le risposte arrivano prima e i dati restano in casa.

La corsa al modello più grande continuerà, ed è bene che qualcuno la faccia. La maggior parte delle aziende non ha bisogno di parteciparvi. Ha bisogno del modello più piccolo che fa il lavoro, e di qualcuno che sappia riconoscerlo.

Fonti

  1. Belcak et al., NVIDIA Research: Small Language Models are the Future of Agentic AI, arXiv, June 2025
  2. NVIDIA Technical Blog: How small language models are key to scalable agentic AI
  3. EPFL AI Center: Apertus, a fully open, transparent, multilingual language model, 2 September 2025
  4. Swiss AI Initiative: About Apertus
  5. EPFL AI Center: Apertus 1.5, building the next generation of open AI infrastructure, 24 July 2026

Altri articoli