Un modello AI serio ora gira in ufficio: cosa cambia per le PMI

L'annuncio è passato in mezza riga su X, fra due lanci di modelli molto più rumorosi: il 4 agosto Unsloth ha fatto sapere che Qwen3.8-27B, il nuovo modello della famiglia Qwen di Alibaba, girerà in locale su configurazioni con 17 GB fra memoria di sistema e memoria video. Nessun benchmark, nessun grafico. Solo una soglia.

Ed è la soglia che conta, perché è il punto in cui un modello linguistico smette di essere un servizio che si affitta a consumo e diventa un programma che si installa su una macchina che possiedi. Per una PMI italiana questa distinzione non è tecnica: è contrattuale, contabile e — dal 2 agosto — anche normativa.

Perché 17 gigabyte sono una notizia e 2,4 trilioni di parametri no

Nella stessa settimana Alibaba ha presentato Qwen3.8-Max, un modello da 2,4 trilioni di parametri. È una macchina impressionante e per la quasi totalità delle imprese italiane è irrilevante: gira solo nei data center di chi l'ha costruita, si usa via API, si paga a token. La versione da 27 miliardi di parametri fa il contrario. Sta in un file, il file sta su un disco, il disco sta in azienda.

La generazione precedente dà la misura di dove siamo arrivati. Qwen3.6-27B, uscito ad aprile, pesa 55,6 GB nella versione completa e 16,8 GB nella quantizzazione Q4_K_M: la stessa che gira su hardware di consumo a circa 25 token al secondo con una finestra di contesto da 65.536 token. La documentazione di Unsloth indica 18 GB di memoria totale per la versione a 4 bit e 15 GB per quella a 3 bit. Sono numeri da computer da ufficio, non da sala macchine.

Cosa cambia davvero per una PMI italiana?

Cambia dove finiscono i dati. Un modello che gira in sede elabora anagrafiche clienti, contratti, listini e conversazioni senza che un solo byte esca dalla rete aziendale. Sparisce il trasferimento verso paesi terzi, sparisce la valutazione del fornitore, sparisce la domanda che ogni consulente privacy fa per prima: dove vengono trattati questi dati?

Non è un dettaglio di forma. Nel lavoro quotidiano di uno studio o di un'officina, la ragione per cui l'AI resta ferma non è quasi mai il costo: è che nessuno se la sente di caricare l'archivio dei clienti su un servizio americano senza sapere cosa succede dopo. Un modello locale toglie quella domanda dal tavolo. Chi ha già fatto l'inventario degli strumenti AI in azienda sa esattamente quali trattamenti si guadagnerebbero questo salto.

Quanto costa un modello in casa rispetto a uno a consumo?

Cambia la natura della spesa, più che l'importo. Un servizio via API è un costo variabile che segue l'uso: cresce quando l'azienda inizia davvero a usarlo, ed è esattamente nel momento in cui il progetto funziona che la fattura diventa un problema. Un modello locale è un costo fisso di hardware più l'energia, e a quel punto il consumo marginale è zero.

Il conto conviene quando i volumi sono alti e ripetitivi: classificare centinaia di email al giorno, estrarre campi da fatture, riscrivere descrizioni prodotto in blocco. Non conviene per l'uso occasionale: se in azienda si fanno venti domande al giorno a un assistente, comprare una macchina dedicata è una spesa che non rientra. Vale la pena ricordare che i modelli via API come Claude, Mistral o DeepSeek hanno abbassato i prezzi a ritmo costante: il confronto va rifatto ogni sei mesi, non deciso una volta per tutte.

Dove un modello locale non regge?

Nei tre punti che i comunicati non citano mai.

Il primo è la qualità in italiano. I modelli aperti di origine cinese sono addestrati soprattutto su inglese e cinese: reggono bene i compiti strutturati — estrarre, classificare, riassumere — e cedono sulla scrittura che deve arrivare a un cliente, dove il registro suona tradotto. Vanno bene dietro le quinte, meno davanti.

Il secondo è la velocità sotto carico. Venticinque token al secondo per un utente sono comodi; cinque persone che lavorano insieme sulla stessa macchina significano attese visibili. Il modello locale è ottimo per l'elaborazione a lotti nella notte, meno per un centralino che risponde in tempo reale.

Il terzo è la manutenzione. Un servizio in abbonamento si aggiorna da solo. Un modello installato in sede ha bisogno di qualcuno che aggiorni i pesi, controlli i backup, gestisca il guasto del disco un venerdì pomeriggio. Se in azienda non c'è quel qualcuno, il costo fisso dell'hardware va sommato a un contratto di assistenza.

L'AI Act cambia qualcosa se il modello è mio?

Sì, ma non nella direzione che si spera. Far girare il modello in sede riduce il rischio sui trasferimenti di dati e semplifica il rapporto con i fornitori, ma non toglie nessuno degli obblighi che riguardano l'uso: un cliente che parla con un sistema automatico va comunque informato, il personale che lo usa va comunque formato, e il registro degli strumenti va tenuto lo stesso.

Anzi, con un modello locale l'impresa diventa più direttamente responsabile di quello che il sistema produce, perché non c'è più un fornitore a cui girare la domanda. È un vantaggio di controllo che si paga in documentazione.

Da dove si comincia, senza comprare niente

Il modo sbagliato è ordinare la macchina e poi cercare cosa farci fare. Il modo che funziona è l'opposto, in tre passaggi.

Primo: prendere un processo che oggi si fa a mano e si ripete decine di volte al giorno. Estrazione dati dalle fatture fornitori, smistamento delle email in arrivo, prima classificazione dei ticket. Deve essere un compito noioso e misurabile, non creativo.

Secondo: farlo funzionare per due settimane con un servizio a consumo, tenendo il conto esatto di quanto costa. Serve a due cose: capire se il processo regge davvero l'automazione, e avere il numero da confrontare. Senza quel numero la decisione sull'hardware si prende a sensazione.

Terzo: se la spesa mensile a consumo si avvicina al costo di una macchina ammortizzata su due anni, e se i dati trattati sono di quelli che è meglio non far uscire, allora la valutazione locale ha senso. Prima no.

La notizia del 4 agosto non è che tutti dovremmo installare un modello in ufficio. È che l'opzione esiste, ha smesso di essere sperimentale, e in una PMI italiana la scelta fra affittare e possedere l'intelligenza artificiale è tornata a essere una decisione di impresa come tutte le altre.