SubQ AI: il test che sfida i transformer

SubQ AI promette contesti da 12 milioni di token e test indipendenti al 98%. Ma l'architettura sparse attention regge fuori dai benchmark?

C. Petrolillo Redazione
4 min di lettura
20 Giugno 2026
Schema tecnico di SubQ AI con attenzione sparsa e contesto fino a 12 milioni di token

SubQ AI ha ottenuto il 98% nel recupero di informazioni fino a 12 milioni di token in una valutazione indipendente di Appen, dando peso alla tesi di Subquadratic: il collo di bottiglia dei grandi modelli linguistici (LLM) potrebbe non essere la dimensione, ma il modo in cui gestiscono il contesto.

Per chi usa modelli AI su codice, contratti, dossier finanziari o archivi aziendali, il punto è pratico. Se questi risultati reggono fuori dai benchmark, una parte del lavoro oggi affidata a pipeline di ricerca, segmentazione dei documenti e orchestrazione tra agenti può diventare più semplice, più veloce e meno costosa. SubQ resta in accesso limitato, ma il segnale tecnico merita attenzione.

SubQ AI e il nodo dell’attenzione sparsa

Subquadratic, startup AI di Miami uscita dallo stealth a maggio, sostiene di aver costruito il primo LLM con architettura pienamente subquadratica. Nei transformer tradizionali, il meccanismo centrale è l’attenzione densa: ogni token confronta la propria rappresentazione con quella di ogni altro token nel testo. Questo permette al modello di collegare elementi lontani, ma fa crescere il costo in modo quadratico. Raddoppiare il contesto non raddoppia il lavoro: lo porta, in prima approssimazione, a quattro volte tanto.

La soluzione proposta da Subquadratic si chiama Subquadratic Sparse Attention (SSA). Invece di calcolare tutte le relazioni possibili, il modello sceglie sul momento quali collegamenti contano. Non è la prima volta che il settore tenta l’attenzione sparsa: Longformer, Mamba, varianti sparse e architetture ibride provano da anni a ridurre il costo dell’attenzione. Il problema storico è tagliare calcolo senza perdere la capacità di recuperare informazioni precise in testi lunghi.

Nel technical report, Subquadratic sostiene che SSA riduce i FLOP dell’attenzione di 64,5 volte su una finestra da 1 milione di token. Appen, che ha eseguito una valutazione terza commissionata dalla startup, riassume così il risultato sul test needle-in-a-haystack:

“sustaining near-perfect long-context retrieval at scales few models are tested at.”

La domanda che nessun materiale promozionale può chiudere da solo è precisa: SubQ ha davvero risolto il limite quadratico dei transformer o ha trovato un equilibrio promettente tra architettura, pesi esistenti e benchmark favorevoli?

I numeri forti e i limiti da tenere aperti

I dati pubblicati sono interessanti. Nel test Needle-in-a-Haystack, Appen ha usato 50 campioni per livello di contesto: SubQ ha restituito il valore richiesto con il 100% di accuratezza a 1 e 2 milioni di token, e con il 98% a 6 e 12 milioni. Su RULER 128K, benchmark pensato per misurare ragionamento e recupero su contesti lunghi, Subquadratic riporta il 99,12%.

Il dato più leggibile per sviluppatori e team tecnici arriva da LiveCodeBench v6. Appen ha valutato 1.055 problemi con quattro completamenti ciascuno, per 4.220 tentativi totali: SubQ 1.1 Small ha raggiunto l’89,7% pass@4. Il numero lo colloca vicino ai modelli di frontiera citati dalla startup, con una cautela: benchmark diversi, setup diversi e concorrenti non sempre valutati dagli stessi soggetti.

Il limite più importante è l’accesso. SubQ non è ancora un prodotto provabile liberamente e Subquadratic parla di design partner, waitlist e rollout progressivo. C’è poi un punto architetturale: il modello non nasce interamente da zero. Nel report, l’azienda scrive di essere partita da un modello open-weight già esistente, sostituendo l’attenzione densa con SSA e proseguendo il pretraining su circa un trilione di token. Questa scelta è legittima, ma ridimensiona la lettura più assoluta del messaggio “abbiamo reinventato gli LLM”.

Perché può cambiare il panorama AI

Se SubQ confermasse questi risultati in uso reale, il cambiamento non sarebbe solo una finestra di contesto più grande. Sarebbe un diverso rapporto tra costo, latenza e quantità di informazione che un modello può tenere in vista. Oggi molte applicazioni aziendali usano RAG, cioè sistemi che recuperano porzioni rilevanti da un archivio prima di passare il testo al modello. Funzionano, ma impongono scelte delicate: come spezzare i documenti, quali parti recuperare, quanta memoria comprimere, quando chiamare più agenti.

Un modello capace di ragionare su interi repository, contratti lunghi o collezioni di documenti riduce alcune di queste impalcature. Non elimina la ricerca: gli archivi aziendali superano comunque qualsiasi finestra plausibile, e i dati cambiano di continuo. Ma rende meno necessario frammentare l’oggetto quando il problema nasce dalle relazioni tra parti lontane.

È qui che il claim di Subquadratic tocca OpenAI, Anthropic, Google DeepMind e gli altri laboratori: il prossimo salto potrebbe non arrivare solo da più parametri o più dati, ma da un’architettura che spende meno calcolo per leggere più contesto utile. Se la curva dei costi cambia, cambiano anche i prodotti che conviene costruire.

Fonti citate

  1. A startup claims it broke through a bottleneck that’s holding back LLMs , MIT Technology Review, 19 giugno 2026.
  2. Introducing SubQ 1.1 Small , Subquadratic, 16 giugno 2026.
  3. Putting SubQ 1.1 Small Preview to the Test on Long-Context Retrieval & LiveCodeBench , Appen, 16 giugno 2026.