Un sistema più veloce nei test può costare di più sul lavoro che devi davvero svolgere. Per leggere i chip AI non basta confrontare la potenza dichiarata: occorre capire quale modello eseguano, con quale software, quante risposte utili producano e quanto della capacità disponibile venga utilizzato.
Questa guida collega le parole delle schede tecniche a una decisione economica. Distingue CPU, GPU, NPU e TPU e costruisce un esempio originale con due configurazioni immaginarie. Le cifre non sono prezzi di mercato o risultati di prodotti reali. L’obiettivo è riconoscere confronti incompleti, non scegliere un titolo azionario o proclamare il processore migliore.
Che cosa significa “chip per l’intelligenza artificiale”
È un’etichetta che può comprendere componenti diversi, impiegati per accelerare alcune operazioni dei modelli. Non identifica un unico oggetto equivalente in ogni dispositivo. Una funzione può essere integrata nello stesso sistema con altre unità; un acceleratore può anche essere una risorsa di una configurazione più ampia.
Intel descrive l’hardware IA come un insieme di processori, acceleratori e memoria, con ruoli differenti. [1] Google definisce le proprie TPU come circuiti specializzati per carichi di machine learning e operazioni su matrici. [2] Le sigle aiutano a orientarsi, ma non ordinano automaticamente le prestazioni.
| Unità | Ruolo da riconoscere | Che cosa verificare |
|---|---|---|
| CPU | Elaborazione generale, controllo e organizzazione del lavoro | Quali parti dell’applicazione esegue e con quali altre risorse |
| GPU | Molte elaborazioni in parallelo, anche oltre la grafica | Carico, memoria e software realmente utilizzati |
| NPU | Unità specializzata per operazioni di reti neurali | Modelli e operazioni supportati nella specifica implementazione |
| TPU di Google | Acceleratore specializzato con unità per operazioni su matrici | Versione e configurazione del sistema, disponibilità nel servizio scelto |
Su smartphone scorri la tabella orizzontalmente. CPU e acceleratori possono cooperare: la presenza di una sigla non esclude le altre.
Addestramento e inferenza rispondono a domande diverse
Nell’addestramento si aggiornano i parametri del modello attraverso un procedimento di apprendimento. Nell’inferenza si usa il modello per elaborare un input e produrre un risultato. Un annuncio sull’accelerazione di una fase non dimostra un identico vantaggio nell’altra.
Anche “inferenza” comprende lavori differenti: una classificazione breve e una risposta testuale lunga non sono la stessa unità di servizio. Prima di leggere un rapporto fra due velocità, identifica il compito e l’output. Se una prova conta immagini e un’altra token generati, non puoi trattare i numeri come punteggi della stessa gara.
Nel caso delle risposte testuali, chiedi anche quanto si attenda prima del primo risultato e come proceda la generazione successiva. Una sola media può nascondere tempi di attesa importanti. La domanda economica deve restare legata al servizio venduto o utilizzato, non soltanto alla quantità di operazioni interne.
Memoria, velocità e software: il chip non lavora da solo
La capacità di memoria indica quanto può esservi contenuto; la banda indica quanti dati possono essere trasferiti per unità di tempo. Le grandezze hanno unità diverse: gigabyte e gigabyte al secondo non sono intercambiabili. Avere spazio sufficiente non prova che il trasferimento sia abbastanza rapido per il carico considerato.
Un articolo tecnico NVIDIA del 31 luglio 2026 analizza l’attenzione nei modelli linguistici e mostra come le fasi di elaborazione del contesto e generazione possano incontrare limiti differenti di calcolo e accesso alla memoria. Riporta anche condizioni che modificano questa distinzione. [4] È un caso tecnico specifico: non ne ricaviamo la regola che ogni inferenza sia sempre limitata dalla memoria.
Il software fa parte del confronto. CUDA, per esempio, è una piattaforma e un modello di programmazione per eseguire calcoli sulle GPU NVIDIA, non una seconda misura di potenza. [3] Prima di trasferire un risultato a un’applicazione reale verifica framework, librerie, versioni e compatibilità: una caratteristica dell’hardware non garantisce che il programma la utilizzi.
Quando una scheda presenta una potenza di picco, annota unità, formato numerico e condizioni del valore. Non equiparare un numero di operazioni interne al numero di risposte complete. Un sistema comprende anche il percorso dei dati e il lavoro fuori dall’acceleratore; il tempo del solo componente non ricostruisce automaticamente quello dell’intero servizio.
Come leggere un benchmark senza trasformarlo in una promessa
Un benchmark è una prova definita. MLCommons descrive il sistema sotto test come l’insieme di risorse hardware e software misurate; le regole MLPerf Inference associano le esecuzioni a scenari, requisiti di qualità e latenza. [5] Un risultato va quindi letto insieme alla sua configurazione, non come una certificazione universale di convenienza.
Per il tuo confronto scrivi prima la domanda: «quante richieste di questo tipo completano entrambe le alternative entro il limite scelto?». Mantieni confrontabili modello, input, output e criterio di accettazione. Se cambiano, descrivi la differenza anziché attribuire tutto al chip. Per una prova pubblicata conserva collegamento, versione, data e configurazione completa.
Distingui inoltre numero di acceleratori e numero di sistemi. Il risultato di una configurazione con più risorse non è la velocità del singolo componente. Dividere meccanicamente il totale per il numero dei chip non dimostra come funzioni una macchina più piccola, perché il lavoro potrebbe non ridursi in proporzione.
Due configurazioni immaginarie: il costo a pieno utilizzo
Consideriamo due sistemi completi, A e B, non due chip isolati. Assumiamo che eseguano lo stesso modello sullo stesso tipo di richieste e raggiungano lo stesso criterio di qualità e gli stessi limiti di risposta. Le prestazioni indicate sono ipotesi dell’intero servizio, compreso il lavoro fuori dall’acceleratore.
A completa 80 richieste valide al minuto e costa 6 euro per un’ora; B ne completa 120 e costa 8 euro. L’importo orario inventato riguarda la sola risorsa di calcolo ed è fisso nell’esercizio. Escludiamo avvio, archiviazione, trasferimenti, licenze, personale, migrazione e IVA. Una richiesta ha lo stesso contenuto di lavoro nelle due alternative.
Al massimo ritmo ipotizzato, A produce 80 × 60 = 4.800 richieste nell’ora e B ne produce 7.200. Il costo per mille richieste si ottiene dividendo l’esborso per il numero completato e moltiplicando per mille: 1,25 euro per A e circa 1,11 euro per B. In questo caso B distribuisce il costo orario su più lavoro utile.
| Voce del modello | Sistema A | Sistema B |
|---|---|---|
| Capacità ipotetica per minuto | 80 richieste valide | 120 richieste valide |
| Capacità ipotetica nell’ora | 4.800 richieste | 7.200 richieste |
| Costo fisso dell’ora | 6 euro | 8 euro |
| Costo per mille a capacità piena | 1,25 euro | 1,11 euro circa |
| Richieste effettive nel secondo scenario | 4.000 | 4.000 |
| Costo per mille nel secondo scenario | 1,50 euro | 2 euro |
Su smartphone scorri la tabella orizzontalmente. Gli scenari sono separati: non sommare capacità e richieste effettive. Non sono risultati MLPerf, preventivi cloud o previsioni.
Con meno domanda il risultato si ribalta
Nel secondo scenario arrivano 4.000 richieste nell’ora. Assumiamo un profilo di arrivo con cui entrambe le configurazioni mantengano i requisiti dichiarati. Non riduciamo le risorse e non interrompiamo la fatturazione nei momenti vuoti: ciascun sistema rimane disponibile per l’intera ora, al medesimo costo fisso.
Ora il denominatore è 4.000 per entrambi. A costa 6 / 4.000 × 1.000 = 1,50 euro per mille; B costa 2 euro per mille. Il sistema con capacità maggiore è più caro del 33,33% per lo stesso lavoro effettivo. L’eventuale capacità residua non è una risposta venduta.
Il rapporto fra richieste effettive e capacità del modello è 83,33% per A e 55,56% per B. Queste quote non misurano l’utilizzo fisico del processore: descrivono soltanto la relazione fra due quantità dell’esercizio. Servono a mostrare perché un costo unitario calcolato sulla capacità massima possa essere fuorviante per una domanda inferiore.
Il verdetto dipende dalle ipotesi. Con prezzi a consumo, risorse ridimensionabili, altri carichi contemporanei o domanda maggiore il conto va rifatto. Non deduciamo che convenga sempre il sistema più piccolo: abbiamo isolato un errore di denominatore in una specifica decisione.
Dal costo di calcolo alla scelta economica completa
Il prezzo della risorsa è una parte del confronto. Per una scelta reale ricostruisci anche gli elementi esclusi: adattamento del software, verifiche sul risultato, gestione, supporto, trasferimenti e continuità del servizio. Non aggiungere un costo già compreso nel contratto una seconda volta e non presumere che tutte le alternative includano le stesse voci.
Raccogli nello stesso prospetto unità, periodo, volume previsto e condizioni economiche. Poi prova un volume inferiore e uno superiore, dichiarando come cambino risorse ed esborso. Questa sensibilità vale più di una percentuale di risparmio costruita sul solo carico ideale. Per l’energia serve un perimetro di misura coerente del sistema e del lavoro completato: un numero di potenza del componente non è già il consumo dell’intero servizio.
Che cosa può ricavarne chi investe
Una buona prestazione tecnica può essere rilevante per un’impresa, ma non determina ricavi, margini, prezzo dell’azione o ritorno dell’investimento. Identifica prima il prodotto e il ruolo della società, poi cerca contratti e dati economici. Il nostro modello non stima quante risorse compreranno i clienti o quale quota del vantaggio possa trattenere il fornitore.
Il costo per richiesta non sostituisce il ROIC e il rendimento del capitale investito. Non misura neppure la cassa dopo gli investimenti, trattata nella guida al free cash flow. Sono domande finanziarie ulteriori, da sviluppare sui conti dell’impresa con definizioni e periodi coerenti.
Domande frequenti sui chip AI
GPU, NPU e TPU sono nomi diversi dello stesso componente?
No. Descrivono unità e implementazioni differenti. Anche all’interno della stessa sigla servono versione, configurazione e software per un confronto utile.
Più operazioni al secondo significano sempre meno costo?
No. Il costo del servizio dipende dalle richieste effettivamente completate e dalle condizioni economiche. Nel secondo scenario B ha più capacità ma costa di più per mille richieste.
Il rapporto fra domanda e capacità indica l’utilizzo del chip?
No. Nell’esempio è solo un rapporto fra quantità del servizio. Non misura occupazione delle unità di calcolo, memoria o consumo energetico.
Un benchmark può dire quale azione comprare?
No. Descrive una prova tecnica con un perimetro. Valutare una società richiede informazioni economiche e finanziarie ulteriori.
Fonti e nota metodologica
- Intel — Artificial Intelligence Hardware: ruoli di processori, acceleratori e memoria.
- Google Cloud — TPU architecture: TPU, operazioni su matrici e distinzione fra componente e sistema.
- NVIDIA — CUDA Programming Guide, introduzione: piattaforma e modello di programmazione.
- NVIDIA — Co-Designing AI Model Attention, 31 luglio 2026: analisi dei vincoli di calcolo e memoria nelle condizioni descritte dagli autori.
- MLCommons — MLPerf Inference Rules: definizione del sistema sotto test, scenari, qualità e latenza.
Fonti originali verificate il 10 novembre 2026 nelle sezioni citate; non dichiariamo letto l’intero manuale CUDA né tutte le regole e i risultati MLPerf. Le fonti dei produttori sono usate per definizioni e meccanismi attribuiti, non per decretare un vincitore. Sistemi A e B, prezzi, capacità e domanda sono ipotesi didattiche originali. I calcoli riguardano la sola risorsa di calcolo per un’ora pagata integralmente, con qualità e limiti di risposta uguali per ipotesi, senza avvio, archiviazione, trasferimenti, licenze, personale, migrazione o IVA. Gli arrotondamenti si applicano alla presentazione finale. Illustrazione editoriale originale generata con IA: involucro elettronico generico senza marchio su fondo verde smeraldo; composizione simbolica, non fotografia documentaria di un prodotto, micrografia o schema tecnico reale.