L’inferenza AI torna in casa: nel 2026 la produzione sceglie il cloud privato, e in Italia è una questione di sovranità

Per due anni la narrazione è stata univoca: l’intelligenza artificiale nasce, cresce e vive nel cloud pubblico degli hyperscaler. Nel 2026 quella narrazione si è incrinata proprio dove conta, cioè nei numeri di chi l’AI la mette davvero in produzione. Il baricentro dell’inferenza — la fase in cui un modello, ormai addestrato, risponde alle richieste degli utenti giorno dopo giorno — sta scivolando fuori dal cloud pubblico e torna dentro l’infrastruttura controllata dall’azienda. Per un’impresa italiana non è una curiosità da addetti ai lavori: è una decisione di architettura, di costi e di conformità che va presa adesso.

Il «punto di svolta»: dove gira davvero l’AI in produzione

Il dato che segna il cambio di fase arriva dal Private Cloud Outlook 2026 di Broadcom: il 56% delle organizzazioni esegue — o prevede di eseguire — l’inferenza AI in produzione su cloud privato, contro il 41% che sceglie il cloud pubblico. L’anno prima i due mondi erano quasi in parità; nel giro di dodici mesi il cloud pubblico ha perso quindici punti percentuali sulla quota dei carichi AI di produzione. La ricerca, condotta con Radius Tech su 1.800 decisori IT di grandi aziende (oltre mille dipendenti) in otto Paesi tra Nord America, Europa e Asia-Pacifico, non parla di sperimentazioni: parla di ciò che gira in produzione.

Nella stessa indagine l’intenzione di spesa sul cloud privato cresce a un ritmo doppio rispetto al pubblico, e il 58% dei responsabili IT indica ora la costruzione di nuovi workload su cloud privato come priorità, in salita dal 53% dell’anno precedente. È il segnale che non si tratta di un rimbalzo momentaneo, ma di una scelta strutturale su dove far vivere i carichi che contano.

Perché l’inferenza torna vicino ai dati

La distinzione tecnica che spiega tutto è quella tra addestramento e inferenza. L’addestramento è un evento intenso e sporadico: consuma enormi quantità di GPU per settimane e poi si ferma — un profilo perfetto per l’elasticità del cloud pubblico, dove si accende ciò che serve e si spegne quando è finito. L’inferenza è l’esatto contrario: un carico continuo, prevedibile, che gira ventiquattr’ore su ventiquattro perché ogni chiamata di un utente o di un processo la attiva di nuovo. È qui che l’economia si rovescia.

Su un carico costante, l’affitto a consumo del cloud pubblico diventa la voce che non smette mai di correre, mentre un’infrastruttura di proprietà — o in colocation — ammortizza l’hardware e riporta il costo sotto controllo. A questo si aggiungono due fattori che pesano quanto la bolletta:

• Prestazioni e latenza. Tenere il modello accanto ai dati che deve elaborare taglia i tempi di risposta ed evita di spostare avanti e indietro grandi volumi verso una region remota.
• Sovranità e controllo. Sapere esattamente su quale hardware, in quale giurisdizione e sotto quali mani gira l’inferenza non è più un dettaglio: è un prerequisito per potersi sedere davanti a un’autorità e dimostrare il controllo.

Non è la fine del cloud pubblico, ma la fine del cloud pubblico come risposta unica. Il modello che si sta affermando è ibrido e stratificato: cloud pubblico per l’elasticità e per i modelli di frontiera, infrastruttura privata o colocation per l’inferenza continua e per i dati sensibili.

In Italia la sovranità non è un tema astratto

Sul mercato italiano il fattore che accelera il rientro dei carichi non è solo economico. Dal 2 agosto 2026 diventano applicabili gli obblighi dell’AI Act europeo sui sistemi ad alto rischio — valutazione di conformità, marcatura, governance dei dati e tracciabilità — anche se il pacchetto Digital Omnibus in discussione a Bruxelles ne propone un rinvio: finché quel differimento non è formalmente adottato e pubblicato, la scadenza resta quella. Sommato al GDPR e alle normative nazionali che spingono verso il mantenimento del dato sotto controllo diretto, il quadro è chiaro: scegliere il fornitore sbagliato per i carichi AI non è più un rischio operativo, è una potenziale responsabilità di conformità.

Il vero vincolo dell’AI enterprise non è più il modello: è poter dimostrare, a un’autorità, dove gira l’inferenza e chi tocca il dato.

Non a caso l’attenzione italiana alla sovranità digitale è marcata, con una spinta verso soluzioni on-premise o di colocation locale che tengono l’elaborazione — e non solo l’archiviazione — dentro confini noti. Per un’azienda regolata, la domanda non è più «quale modello uso», ma «dove lo faccio girare, e riesco a provarlo».

Il nostro punto di vista

Il rientro dell’inferenza vicino all’infrastruttura è esattamente il terreno in cui un operatore come ITCARMAT porta valore: non fornire un modello, ma fornire il luogo affidabile in cui farlo lavorare in produzione, giorno dopo giorno, con costi prevedibili e piena tracciabilità. Con il Cloud SUNDATA i carichi vivono in un’infrastruttura sovrana, gestita in Italia, dove la residenza del dato e la giurisdizione non sono un’opzione contrattuale ma il punto di partenza.

Portare l’AI «in casa», però, sposta anche la responsabilità della continuità: un’inferenza che serve un processo di business è un sistema critico a tutti gli effetti, e va progettato con la stessa disciplina degli altri — alimentazione, ridondanza e un piano di disaster recovery che ne garantisca il ripristino. È la differenza tra ospitare un modello e gestire un servizio: la prima è facile, la seconda è ciò che tiene in piedi l’azienda quando qualcosa va storto. Chi sta valutando dove far girare la propria AI di produzione dovrebbe partire da questa domanda, prima ancora che dalla scelta del modello.