Overthinking LLM: i modelli AI pensano troppo?

Overthinking LLM: studio misura fino al 93% di ragionamento ridondante nei modelli AI e spiega perché pensare di più può peggiorare costi e decisioni.

C. Petrolillo Redazione
13 min di lettura
26 Maggio 2026
Overthinking LLM con catena di ragionamento AI lunga e passaggi ridondanti evidenziati
illustrazione generata da AI che rappresenta l’overthinking LLM attraverso una lunga catena di ragionamento artificiale, con alcuni passaggi evidenziati come ridondanti rispetto alla risposta finale.

Lo studio arXiv 2605.23926, pubblicato il 21 aprile 2026, misura tra il 61% e il 93% di ragionamento ridondante in 1.880 tracce corrette generate da quattro modelli AI, trasformando l’overthinking LLM da impressione qualitativa a problema misurabile. Il paper, firmato da Zhiyuan Zhai, Xinkai You, Wenjing Yan e Xin Wang, analizza DeepSeek-R1, QwQ-32B, R1-Distill-Qwen-7B e Qwen3-30B-A3B-Thinking su GSM8K e MATH-500, due benchmark matematici usati per valutare il ragionamento multi-step. Il dato più scomodo è che in sei condizioni su otto il modello può arrivare alla risposta corretta dopo un solo passaggio segmentato, anche quando la traccia completa contiene decine di passaggi.

La tensione è più economica che filosofica. I reasoning model sono stati venduti al mercato come sistemi capaci di “pensare” più a lungo per risolvere problemi complessi; il nuovo studio mostra che una parte rilevante di quel pensiero può essere riformulazione, verifica circolare o auto-correzione senza valore aggiuntivo. Per aziende, sviluppatori e professionisti italiani, la domanda non è più se questi modelli ragionino meglio dei chatbot tradizionali, ma quanta inferenza convenga pagare quando il modello aveva già abbastanza informazioni per rispondere.

Overthinking LLM con catena di ragionamento AI lunga e passaggi ridondanti evidenziati
Curve difficoltà–ridondanza, quattro modelli. A sinistra: ρ(d) con bande di intervallo di confidenza bootstrap al 95%. Tutti e quattro i modelli diminuiscono monotonamente all’aumentare della difficoltà. A destra: lunghezza media della traccia N̄ (linea tratteggiata) e prefisso critico medio k̄⋆ (linea continua), in scala logaritmica. k̄⋆ cresce in modo super-lineare con la difficoltà in tutti e quattro i modelli.

Come funziona l’overthinking LLM nei reasoning model

Per capire perché l’overthinking LLM conta, bisogna partire dalla differenza tra un modello linguistico standard e un modello di ragionamento. Un modello standard genera token in sequenza e produce direttamente una risposta. Un reasoning model introduce invece una chain of thought, cioè una sequenza di passaggi intermedi con cui il sistema esplora il problema, prova strategie, controlla errori e solo dopo formula l’output finale. Nelle interfacce commerciali questa catena è spesso nascosta o sintetizzata, ma durante l’inferenza esiste e consuma token, tempo GPU ed energia.

Il paper “How Much Thinking is Enough?” propone una definizione precisa di ridondanza: una traccia corretta è ridondante nella misura in cui può essere tagliata nella parte finale e il modello, costretto a fermare il pensiero e produrre la risposta, continua a dare l’esito corretto. Non è una valutazione estetica della verbosità. Gli autori non chiedono se un passaggio “sembra inutile”; misurano il punto minimo, chiamato critical prefix, dopo cui il modello possiede già ciò che gli serve.

La metrica principale è la step-level redundancy. Se una traccia ha 40 passaggi e il modello risponde correttamente dopo i primi 4, il 90% dei passaggi successivi è ridondante rispetto al modello stesso. La scoperta è che la ridondanza resta alta in tutte le otto combinazioni testate: 77,8% per DeepSeek-R1 su GSM8K, 69,0% su MATH-500, 92,5% per QwQ-32B su GSM8K, 91,0% su MATH-500, 67,5% e 61,3% per R1-Distill-7B, 90,6% e 90,9% per Qwen3-30B-Thinking.

“not a bug to be patched in individual models” — Zhai et al., arXiv:2605.23926

Il passaggio teorico è altrettanto importante. Gli autori sostengono che l’eccesso di ragionamento derivi da ricompense che valutano il risultato finale, non la lunghezza del percorso. Questo reward length-agnostic premia la risposta corretta senza penalizzare il tempo impiegato per arrivarci. In un sistema così costruito, continuare a ragionare non ha un costo interno, quindi il comportamento ottimale tende a non fermarsi presto.

Il paper aggiunge un dettaglio utile per chi costruisce prodotti: la ridondanza a livello di passaggi e quella a livello di parole coincidono quasi perfettamente. Gli otto punti analizzati si dispongono vicino alla diagonale; la correlazione di rango è 1,0. Tradotto: ridurre passaggi ridondanti significa ridurre in modo simile i token di output. Per chi progetta applicazioni, questo collega direttamente il tema tecnico al costo operativo. Per chi ha bisogno di orientarsi tra token, inferenza e modelli, il Glossario AI è il punto naturale da cui partire.

I limiti dell’overthinking LLM: costi, latenza e falsi tagli

La scoperta della ridondanza non autorizza una conclusione semplicistica: tagliare testo non equivale sempre a conservare qualità. Gli autori testano una regola ingenua su DeepSeek-R1: fermare il modello quando due passaggi consecutivi menzionano lo stesso numero finale. Il risultato è un avvertimento operativo. Le parole generate calano del 68%, da 1.369 a 432, ma l’accuratezza viene più che dimezzata, dal 72,5% al 32,5%. Il modello spesso ripete un numero intermedio prima di completare il calcolo, quindi una regola sintattica scambia un segnale superficiale per convergenza reale.

È qui che il problema diventa delicato. L’overthinking LLM è una ridondanza informativa, non una ridondanza tipografica. Un passaggio breve può contenere l’intuizione essenziale; un passaggio lungo può essere solo controllo ridondante; una ripetizione può essere inutile oppure preparare la verifica finale. Per questo la riduzione del ragionamento richiede budget adattivi, segnali di confidenza o ricompense di training che includano il costo della lunghezza. Non basta fissare un limite arbitrario di token.

Il secondo limite riguarda la latenza. I reasoning model non generano solo una risposta più lunga: spesso ritardano il primo token visibile perché spendono tempo nella fase interna di ragionamento. Su compiti batch, come analisi contrattuale notturna o revisione massiva di documenti, la latenza può essere accettabile. In un assistente operativo usato durante una chiamata, in un help desk o in una dashboard industriale, aspettare decine di secondi può rendere il sistema inutilizzabile anche se la risposta finale è migliore.

Il terzo limite è energetico. L’International Energy Agency, nel report “Key Questions on Energy and AI”, segnala che nel 2025 la domanda elettrica globale dei data center è cresciuta del 17%, mentre il consumo dei data center focalizzati sull’AI è salito del 50%. Non tutto questo consumo dipende dai reasoning model, ma ogni token di ragionamento non necessario contribuisce alla stessa traiettoria: più inferenza, più infrastruttura, più pressione su energia e capitale.

“There is no AI without energy” — International Energy Agency

C’è infine un limite metodologico. GSM8K e MATH-500 sono benchmark verificabili: hanno risposte corrette o sbagliate. Molti task aziendali non funzionano così. Un parere legale, una sintesi di rischio, una raccomandazione per il procurement o una diagnosi tecnica hanno zone grigie. Il 61%-93% non va quindi applicato come coefficiente universale. Va letto come segnale: se la ridondanza è così alta dove la correttezza è misurabile, nei domini aperti serve ancora più disciplina nel misurare costi, benefici e responsabilità.

La domanda che nessun comunicato commerciale formula è questa: quante aziende stanno pagando reasoning token su attività in cui il modello aveva già raggiunto l’informazione sufficiente dopo il primo 10% della risposta?

Overthinking LLM e ridondanza dei passaggi nei benchmark matematici
Ridondanza a livello di passaggio vs. ridondanza a livello di parola. Ogni punto rappresenta una cella (modello, benchmark) della Tabella 1. La forma del marker indica il benchmark; il colore indica il modello. Tutti gli otto punti si trovano sulla linea y = x entro un margine di ±5 punti.

Perché l’overthinking LLM cambia la strategia di mercato

Chi segue il settore da vicino riconosce il pattern: nella prima fase il mercato premia i modelli che mostrano più ragionamento, nella seconda impara che il vantaggio competitivo passa dal ragionare di più al ragionare quanto serve. È la stessa transizione vista in altre infrastrutture digitali: prima capacità abbondante, poi ottimizzazione, poi governance dei costi. Nel caso dei reasoning model, questa transizione è più rapida perché ogni token è contabilizzato e ogni ritardo si vede nell’esperienza utente.

La strategia dei fornitori si è costruita sulla promessa del test-time compute. OpenAI, nel post “Learning to reason with LLMs”, spiegava che o1 migliora con più calcolo in training e con più tempo speso a pensare durante il test. DeepSeek-R1 ha mostrato che il reinforcement learning può far emergere auto-riflessione, verifica e adattamento strategico senza dipendere solo da esempi umani annotati. Qwen, con QwQ-32B, ha insistito sull’efficacia del reinforcement learning applicato a modelli più piccoli ma robusti.

Queste mosse hanno reso il ragionamento lungo una feature di prodotto. Il nuovo paper sposta il terreno: se più pensiero produce anche più spreco, il valore non è più solo nel modello, ma nel sistema che decide quando usarlo. Entra qui il model routing, cioè la capacità di indirizzare ogni richiesta verso il modello più adatto in base a difficoltà, rischio, costo e latenza. Una richiesta banale può andare a un modello veloce; una revisione tecnica ad alto rischio può giustificare un reasoning model più lento.

Per il mercato enterprise, questo cambia procurement e architettura. Comprare accesso al “modello migliore” diventa meno razionale che costruire uno stack con modelli multipli, soglie di complessità, logging dei token e valutazioni periodiche. I team che misurano solo l’accuratezza finale rischiano di non vedere il problema. I team che misurano accuratezza marginale per token generato iniziano invece a scoprire dove il ragionamento lungo crea valore e dove brucia margine.

La distinzione conta nei settori AI. Nel legale, nella sanità, nella finanza regolata e nella progettazione ingegneristica, un ragionamento più lungo può essere accettabile se riduce errori costosi. Nel marketing, nel customer care o nella produttività individuale, spesso la velocità e il costo unitario pesano di più. Il punto non è demonizzare i reasoning model, ma smettere di trattarli come default universale.

La conseguenza strategica a lungo termine è chiara: l’efficienza del ragionamento diventa una nuova frontiera competitiva. Non basterà dichiarare benchmark migliori; serviranno metriche di ridondanza, controlli di budget, modelli capaci di fermarsi e sistemi di valutazione che distinguano tra pensiero utile e rumore elegante.

Dal chain-of-thought ai reasoning model: storia dell’overthinking LLM

La storia dell’overthinking LLM inizia prima del 2026. Nel 2022, la tecnica del chain-of-thought prompting aveva mostrato che chiedere ai modelli di ragionare passo per passo migliorava le prestazioni su problemi matematici e simbolici. In quella fase, il ragionamento era soprattutto una strategia di prompt: il modello non era necessariamente addestrato a pensare più a lungo, ma veniva sollecitato a esplicitare passaggi intermedi.

La svolta arriva nel 2024 con OpenAI o1. Il messaggio industriale è potente: non basta completare frasi, bisogna imparare a deliberare. OpenAI mostra risultati su AIME, Codeforces e GPQA, e collega il miglioramento a un uso più intenso del compute durante l’inferenza. Il paradigma cambia: la capacità non dipende solo dalla dimensione del modello o dai dati di training, ma anche da quanto lavoro il modello svolge mentre risponde.

Nel 2025 DeepSeek-R1 rende la dinamica ancora più importante. Il paper “DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning” sostiene che capacità di ragionamento possano emergere tramite reinforcement learning su compiti verificabili. Il lavoro di DeepSeek contribuisce anche a normalizzare la distillazione: modelli più piccoli che apprendono stili di ragionamento da modelli più grandi. QwQ-32B e Qwen3 portano questa traiettoria nell’ecosistema open e semi-open, con modalità thinking sempre più visibili agli sviluppatori.

In questa storia, l’overthinking non è un incidente laterale. È una conseguenza del modo in cui il settore ha premiato i modelli. Se il benchmark valuta la risposta corretta e non penalizza il percorso, il modello impara che verificare ancora, riformulare ancora, provare ancora è meno rischioso che fermarsi. La prudenza diventa verbosity. La verifica diventa loop. Il ragionamento diventa, in parte, una polizza assicurativa contro l’errore.

Il merito del nuovo paper è mettere un contatore su questo processo. Mostra che la ridondanza scende con la difficoltà, ma non scompare: sui problemi MATH-500 di livello 5 resta tra il 46,1% e l’84,7%, a seconda del modello. Questo dato impedisce due letture opposte: non è vero che tutto il ragionamento lungo sia inutile, ma non è vero nemmeno che i problemi difficili eliminino automaticamente lo spreco.

La fase storica che si apre ora è diversa. La prima generazione dei reasoning model ha dimostrato che pensare di più può migliorare le risposte. La prossima dovrà dimostrare che i modelli sanno fermarsi, o che l’infrastruttura attorno a loro sa fermarli senza distruggere l’accuratezza.

Cosa cambia per l’Italia con l’overthinking LLM

Per l’Italia, il tema è concreto perché l’adozione AI sta entrando nella fase operativa. Secondo l’Osservatorio Artificial Intelligence del Politecnico di Milano, nel 2025 il mercato italiano dell’AI ha raggiunto 1,8 miliardi di euro, in crescita del 50% rispetto al 2024. Il 46% del mercato riguarda soluzioni di Generative AI o progetti ibridi, mentre il 77% resta composto da progetti custom sviluppati per singoli clienti.

Questa struttura rende l’overthinking LLM particolarmente rilevante. Nei progetti custom, ogni scelta architetturale resta dentro il conto economico del cliente: modello usato, token generati, latenza accettata, numero di chiamate, logging, fallback e responsabilità dell’output. Una grande azienda può assorbire sperimentazioni costose; una PMI no. Se il ragionamento ridondante entra in produzione senza misurazione, il rischio è pagare complessità senza ottenere qualità proporzionale.

“Questo entusiasmo, però, impone di fermarsi a ragionare.” — Alessandro Piva, Osservatorio Artificial Intelligence Politecnico di Milano

Il dato del Politecnico va letto insieme a quello ISTAT. Nel 2025 il 16,4% delle imprese italiane con almeno 10 addetti usa almeno una tecnologia di AI, il doppio dell’8,2% del 2024 e oltre il triplo del 5,0% del 2023. Tra le imprese che adottano AI, il 70,8% usa tecnologie per estrarre conoscenza da documenti di testo e il 59,1% usa AI generativa per linguaggio, immagini, video o audio. È esattamente il terreno in cui i reasoning model possono sembrare più attraenti: documenti lunghi, decisioni complesse, sintesi e raccomandazioni.

Ma non tutti questi casi richiedono ragionamento lungo. Estrarre clausole da un contratto, classificare ticket o riassumere verbali può spesso essere gestito con modelli più economici, soprattutto se il workflow include verifica umana. Al contrario, confrontare clausole contraddittorie, valutare impatti normativi o simulare scenari tecnici può giustificare più inferenza. Per le aziende italiane, la competenza chiave diventa distinguere tra automazione documentale e ragionamento ad alto rischio.

Il quadro normativo spinge nella stessa direzione. Le regole europee sui modelli GPAI previste dall’AI Act sono entrate in applicazione il 2 agosto 2025 per i nuovi modelli general-purpose: documentazione tecnica, policy sul copyright e sintesi del contenuto di training, con obblighi aggiuntivi per i modelli a rischio sistemico. La Strategia Italiana per l’Intelligenza Artificiale 2024-2026, pubblicata dal Dipartimento per la trasformazione digitale, organizza le priorità nazionali intorno a ricerca, Pubblica Amministrazione, imprese e formazione. In tutte e quattro le aree, sapere quanto un modello ragiona e quanto spreca diventa parte della governance.

Per i professionisti, il cambiamento è pratico. Avvocati, commercialisti, consulenti tecnici, responsabili compliance e sviluppatori non devono chiedersi solo se un modello “risponde meglio”, ma se produce valore nel punto giusto del processo. Le applicazioni AI più mature saranno quelle che combinano modelli veloci, reasoning model, validazione umana e metriche di costo. Non quelle che delegano ogni passaggio al modello più potente disponibile.

Overthinking LLM nelle imprese italiane tra costi AI, documenti e governance
Tassonomia dei passaggi, quattro modelli × cinque livelli di difficoltà MATH-500. Rosso = critico (la rimozione fa cambiare la risposta del valutatore); verde = ridondante. Il verde domina ogni pannello: > 90% dei singoli passaggi segmentati è eliminabile a ogni livello di difficoltà e per ogni modello. Le piccole sezioni rosse in alcune combinazioni (modello, livello) indicano dove si concentrano i pochi passaggi di intuizione individualmente critici.

La raccomandazione operativa è semplice: prima di adottare un reasoning model in produzione, ogni organizzazione dovrebbe costruire un campione di task reali, misurare accuratezza, token, latenza, costo per esito utile e impatto della revisione umana. Solo dopo dovrebbe decidere dove attivare il ragionamento lungo. Nel 2025, secondo ISTAT, l’83,6% delle imprese italiane con almeno 10 addetti non utilizza ancora alcuna tecnologia di AI.

Fonti citate

  1. How Much Thinking is Enough? Quantifying and Understanding Redundancy in LLM Reasoning , arXiv, 21 aprile 2026.
  2. Key Questions on Energy and AI , International Energy Agency, 16 aprile 2026.
  3. Il mercato dell’AI in Italia cresce del 50% nel 2025, 1,8 mld di euro , Osservatorio Artificial Intelligence del Politecnico di Milano, febbraio 2026.
  4. Imprese e ICT – Anno 2025 , ISTAT, 15 dicembre 2025.