Chi porta un modello linguistico (LLM) in azienda arriva presto a un bivio: usare i servizi in cloud dei grandi fornitori, come OpenAI, Claude di Anthropic o Gemini di Google, oppure scaricare un modello a pesi aperti e farlo girare sui propri server.
Non esiste una risposta valida per tutti, e diffidiamo di chi la offre. Esistono però criteri chiari per decidere caso per caso, e spesso la soluzione più solida combina le due strade. In questo articolo li mettiamo in fila: riservatezza, qualità, costi, tempi di risposta, manutenzione e dipendenza dal fornitore.
Le due strade
Modelli in cloud. Si usano tramite API, cioè un’interfaccia che le tue applicazioni chiamano via internet, e si pagano a consumo. Hardware, aggiornamenti e capacità sono a carico del fornitore. Si acquistano direttamente dai produttori e, per molti modelli, anche attraverso le grandi piattaforme cloud come AWS, Azure e Google Cloud.
Modelli a pesi aperti (open-weight). I pesi, cioè i parametri che costituiscono il modello addestrato, si possono scaricare ed eseguire dove si vuole. Ne sono esempi Llama di Meta e i tanti modelli pubblicati su Hugging Face; nell’agosto 2025 anche OpenAI ha rilasciato modelli a pesi aperti, gpt-oss, con licenza Apache 2.0. “Pesi aperti” però non significa sempre open source: la licenza di Llama, per esempio, pone condizioni proprie e va letta prima di un uso commerciale. Per provarli su un computer o un server di test basta uno strumento come Ollama; in produzione si usano motori pensati per servire molti utenti in parallelo, come vLLM.
Riservatezza e conformità
Spesso è il criterio che decide. Con un modello in casa i dati non lasciano la tua infrastruttura: è la scelta naturale per dati sanitari, legali o segreti industriali, o quando un contratto o una policy interna vieta di inviarli a terzi.
Il cloud però non è escluso per principio. Con un accordo sul trattamento dei dati (DPA, articolo 28 del GDPR), l’impegno del fornitore a non usare i dati per l’addestramento e l’elaborazione in regioni europee, molti casi d’uso si gestiscono nel rispetto delle regole. Due esempi: Anthropic dichiara di non addestrare i modelli sui dati dei suoi prodotti commerciali, API compresa, e OpenAI dal febbraio 2025 offre ai clienti API idonei la residenza dei dati in Europa. Le condizioni vanno comunque lette e verificate caso per caso, insieme a chi in azienda segue la privacy.
Qualità, tempi di risposta e manutenzione
- Qualità sul tuo compito: i modelli più grandi tendono a dare il meglio su compiti complessi come ragionamenti lunghi, codice o documenti estesi; per compiti circoscritti (classificare, estrarre campi, riassumere) un modello aperto di dimensioni medie può bastare. Le classifiche pubbliche cambiano ogni pochi mesi: il test che conta è quello sui tuoi dati e sulle tue domande.
- Tempi di risposta (latenza): in cloud dipendono dalla rete e dal carico del servizio, in casa dall’hardware. Un modello piccolo su un server vicino può essere molto rapido, uno grande su hardware sottodimensionato no.
- Manutenzione: in cloud aggiornamenti e capacità sono del fornitore, ma i modelli vengono ritirati con un preavviso e il sostituto va ritestato. In casa tocca tutto a te: aggiornamenti, sicurezza, monitoraggio, gestione delle GPU e dei picchi di carico.
Costi e dipendenza dal fornitore
La struttura dei costi è opposta. Il cloud si paga a consumo, in base ai token (parole o pezzi di parola) elaborati: nessun investimento iniziale e una spesa proporzionale all’uso, comoda per partire e per volumi bassi o variabili. In casa il costo è soprattutto fisso: server con GPU, acquistati o noleggiati, energia e persone che li gestiscono. Conviene quando i volumi sono alti e costanti, o quando la riservatezza lo impone in ogni caso. Non indichiamo cifre: dipendono da modello, volumi e hardware, e cambiano spesso. Il confronto serio si fa sui numeri misurati in un pilota.
Poi c’è la dipendenza dal fornitore (vendor lock-in): un’applicazione costruita attorno alle funzioni specifiche di un solo servizio diventa costosa da spostare. Con i modelli aperti il rischio si riduce, ma non sparisce.
I servizi gestiti in cloud restano la scelta più semplice quando fanno esattamente ciò che serve. Per Artika, la piattaforma di streaming teatrale che abbiamo progettato e sviluppato su AWS, nella regione Irlanda, abbiamo usato servizi AI gestiti: Amazon Transcribe riconosce la lingua parlata e scrive i sottotitoli, Amazon Rekognition controlla i video prima della pubblicazione, anche con un modello Custom Labels addestrato su misura. Non sono modelli linguistici, ma la logica della scelta è la stessa: nessuna infrastruttura AI da gestire e dati in una regione europea.
L’approccio ibrido
Nella pratica, la strada che consigliamo di valutare per prima usa entrambe le opzioni, ciascuna dove rende di più:
- i dati sensibili restano su un modello eseguito in casa;
- il resto va al modello in cloud più adatto per qualità o costo;
- un livello di astrazione, cioè un gateway interno o una libreria come LangChain, offre alle applicazioni un’unica interfaccia e decide dove instradare ogni richiesta;
- le regole di instradamento sono esplicite (per tipo di dato, reparto, costo) e ogni chiamata viene registrata.
Questo strato rende anche più semplice cambiare modello o fornitore. Molti strumenti, Ollama compreso, offrono un’interfaccia compatibile con quella di OpenAI: spesso basta cambiare indirizzo e nome del modello nella configurazione, anche se la compatibilità non è mai totale e va sempre provata.
Se stai decidendo dove far girare i tuoi modelli, possiamo aiutarti a confrontare le opzioni sui tuoi dati e sui tuoi volumi, e a costruire lo strato che ti lascia libero di cambiare. Scrivici per parlarne.
