Il chip AI Onyx sviluppato a Stanford ha consumato in media un settantesimo dell’energia di una CPU e completato i calcoli otto volte più in fretta, secondo i dati pubblicati da IEEE Spectrum il 28 aprile 2026. Il risultato non riguarda un nuovo modello linguistico, ma qualcosa di più profondo: il modo in cui il silicio può smettere di sprecare energia moltiplicando zeri.
Nel panorama AI attuale, dominato da modelli sempre più grandi e data center sempre più energivori, la notizia conta perché sposta l’attenzione dal solo scaling alla fisica del calcolo. Se Meta può parlare di modelli Llama con centinaia di miliardi o trilioni di parametri e l’IEA prevede che i data center globali arrivino a circa 945 TWh di consumo elettrico entro il 2030, allora ogni miglioramento serio nell’efficienza hardware diventa una variabile industriale, non un dettaglio da laboratorio.
Perché il chip AI sparse arriva ora
Il punto tecnico si chiama sparsità: in molte reti neurali, una parte rilevante dei pesi e delle attivazioni, cioè i numeri che determinano il comportamento del modello e i valori temporanei prodotti durante l’inferenza, è zero o abbastanza vicina allo zero da poter essere trattata come tale. Se un valore è zero, moltiplicarlo o sommarlo non cambia il risultato. In teoria, quindi, il calcolo potrebbe saltare quell’operazione.
Il problema è che CPU e GPU sono nate per lavorare in modo regolare e parallelo. Una GPU eccelle quando deve eseguire la stessa operazione su grandi blocchi ordinati di dati; soffre di più quando deve inseguire valori sparsi in memoria, con accessi indiretti e imprevedibili. NVIDIA ha già introdotto supporto alla structured sparsity, in particolare il pattern 2:4 in cui due valori su quattro sono zero, e il suo Technical Blog indica guadagni superiori al 30% in performance per watt con TensorRT 8.0 su reti compatibili. Ma il vincolo è proprio lì: il modello deve rispettare una struttura ordinata.
Cerebras, dall’altra parte, ha mostrato con Neural Magic una Llama 7B ridotta fino al 70% dei parametri senza perdita di accuratezza dichiarata, con accelerazione fino a 8x in training sul sistema CS-3. Sono segnali convergenti: il settore cerca meno calcolo inutile. Onyx entra in questo spazio con una promessa diversa, non solo comprimere un modello, ma costruire un acceleratore programmabile per lavorare su dati sparse e densi nello stesso chip.
Come funziona il chip AI Onyx
Onyx è basato su una CGRA, una coarse-grained reconfigurable array: un’architettura riconfigurabile a blocchi, meno generica di una CPU ma più flessibile di un acceleratore fisso. Nel paper presentato al VLSI 2024, il chip è descritto come un system-on-chip a 12 nm con 384 tile di elaborazione, 128 tile di memoria e un buffer globale da 4 MB. Non è un mostro da data center: è un prototipo di architettura.
“Il chip ha consumato un settantesimo dell’energia di una CPU.” — IEEE Spectrum / Stanford, 2026
La differenza rispetto a un approccio GPU tradizionale è nel trattamento dei dati compressi. Onyx non si limita a ricevere una matrice già ordinata: usa primitive di memoria e calcolo per rappresentare tensori sparse, inseguire coordinate non nulle, trovare intersezioni tra valori utili e scartare il resto. In altre parole, il chip non finge che gli zeri siano lavoro: li elimina dal percorso computazionale.
Il dato più forte del paper è l’energy-delay product, o EDP, una metrica che combina energia consumata e tempo di esecuzione. Misurare solo l’energia favorirebbe chip lentissimi; misurare solo la velocità favorirebbe hardware affamato di watt. Onyx dichiara fino a 565 volte di EDP migliore rispetto a CPU con librerie sparse, e riduzioni di EDP fino all’85% su workload di machine learning densi rispetto al precedente CGRA Amber.
“Onyx è il primo acceleratore completamente programmabile per kernel arbitrari di algebra tensoriale sparse.” — paper VLSI 2024
Questa programmabilità è il dettaglio strategico. Se un acceleratore funziona solo per moltiplicazioni di matrici, rischia di essere potente ma rigido. I modelli reali includono normalizzazioni, softmax, layer non lineari, embedding, trasformazioni dense e sparse. La sfida non è accelerare un’operazione perfetta in isolamento, ma evitare continui passaggi tra formati diversi.
I limiti del chip AI sparse
Chi segue il settore sa che ogni annuncio hardware va letto su tre livelli: benchmark, programmabilità e filiera. Onyx impressiona sul primo e interessa sul secondo, ma resta lontano dal terzo. Il paper confronta un prototipo con CPU e CGRA precedenti su kernel selezionati; non dimostra ancora una piattaforma pronta per addestrare o servire modelli generativi commerciali su larga scala.
Il primo limite è la memoria. La sparsità riduce dati e operazioni, ma introduce metadati: coordinate, segmenti, puntatori, strutture che servono a dire dove stanno i valori non nulli. Quando gli accessi diventano troppo casuali, il vantaggio può essere eroso dal costo di cercare i dati. È lo stesso nodo che frena le CPU e che rende difficile sfruttare sparsità non strutturata sulle GPU.
Il secondo limite è software. L’hardware sparse richiede compilatori, runtime, librerie, strumenti di profiling e modelli addestrati o adattati per sfruttarlo. Senza una catena software matura, anche un chip elegante resta un risultato accademico. Meta, nel suo annuncio MTIA 2026, insiste infatti su PyTorch, vLLM, Triton e Open Compute Project come parte essenziale della strategia: il silicio da solo non basta.
Il terzo limite è economico. La storia recente dell’AI hardware è piena di architetture tecnicamente brillanti finite ai margini perché non avevano volumi, ecosistema o compatibilità. NVIDIA non domina solo perché ha GPU veloci; domina perché CUDA, librerie, sviluppatori e cloud formano una piattaforma. Onyx indica una direzione, ma non sposta ancora il mercato.
Cosa cambia per aziende e professionisti italiani
Per le aziende italiane, il messaggio immediato non è comprare un chip che non esiste ancora come prodotto. È cambiare il modo in cui si valuta un progetto AI. In molte applicazioni AI aziendali — raccomandazione, ricerca documentale, manutenzione predittiva, analisi di grafi, modelli edge — la domanda giusta non è più solo “quale modello è più accurato?”, ma “quanto calcolo produce valore e quanto calcolo scalda aria?”.
Questo vale soprattutto per PMI industriali, sanità privata, utilities, banche territoriali e software house che stanno portando inferenza AI dentro processi ripetitivi. Se la sparsità diventa più accessibile, il vantaggio potrebbe arrivare prima nei workload verticali che nei chatbot generalisti: modelli più piccoli, dati più strutturati, vincoli energetici più chiari, latenza importante.
Per i professionisti tecnici, Onyx suggerisce una competenza destinata a pesare: progettare modelli e pipeline pensando insieme algoritmo, memoria e hardware. Non basta chiamare un’API o scegliere una GPU. Servirà capire quando un modello è denso, quando può essere potato, quando la quantizzazione basta e quando la sparsità introduce più complessità che beneficio. Per una lettura di base dei termini, il riferimento naturale resta il glossario AI, ma la decisione sarà sempre più architetturale.
La lezione a lungo termine è sobria: l’AI non diventerà sostenibile solo perché i modelli saranno più intelligenti, ma perché ogni livello dello stack sprecherà meno lavoro. Onyx non è ancora una piattaforma commerciale, ma mostra perché il prossimo vantaggio competitivo potrebbe essere misurato in token per watt; l’IEA stima 945 TWh di consumo elettrico globale dei data center entro il 2030.