Nel 2024, la conversazione sull’AI era dominata da una sola variabile: il numero di parametri. Più grande era il modello, meglio era. Era una metrica semplice, comprensibile, e — si è scoperto — profondamente fuorviante.
Nel 2026, il metro di giudizio è cambiato. E Qwen 3.5 Small è uno degli esempi più chiari di questa inversione di tendenza.
Piccolo, ma non per tutti
La famiglia Qwen 3.5 Small comprende varianti da 0.8B, 2B, 4B e 9B parametri. Open-weight, ottimizzati per hardware consumer, e progettati con un obiettivo preciso: più intelligenza per unità di compute, non più intelligenza in assoluto.
Il 9B è quello che cambia i conti. Su un laptop moderno con RAM sufficiente — o su un mini PC — riesci a ottenere un assistente che ragiona, scrive, riassume, supporta il coding leggero e alimenta pipeline di agenti senza bruciarti il budget di token ogni mese.
I due problemi che risolve meglio del cloud
La cosa interessante di un modello locale non è la qualità in senso assoluto. È la frizione che elimina.
Latenza. Un agente che fa trenta tool call in un loop non può permettersi round-trip continui verso un server cloud. Ogni millisecondo conta, e la latenza si accumula. Un modello locale taglia questo problema alla radice.
Privacy. Sempre più workflow trattano dati che non vuoi mandare fuori per default: contratti, ticket interni, codebase proprietarie. Un modello locale è l’unica risposta architetturale seria a questo vincolo.
Come usarlo bene, concretamente
Qualche indicazione pratica per chi vuole mettere Qwen 3.5 Small in produzione o nel proprio workflow quotidiano:
Parti dal caso d’uso giusto. Drafting, analisi, coding assistito, agenti con strumenti read-only sono il suo terreno naturale. Non chiedergli conoscenza enciclopedica o informazioni aggiornate in tempo reale — per quello, abbinaci retrieval.
Usa quantizzazione. Il sweet spot tra qualità e utilizzo di RAM/VRAM è quasi sempre a 4-bit o 6-bit. Non partire dal massimo se non hai hardware dedicato.
Abbina un RAG locale. Un 9B con retrieval su documenti interni spesso batte un modello molto più grande che deve “indovinare”. Il contesto giusto vale più dei parametri.
Metti guardrail se lo trasformi in agente. Anche in locale, un agente con accesso a filesystem e shell può fare danni seri. Le policy non sono opzionali.
Il segnale che conta
Qwen 3.5 Small non è perfetto. I limiti di contesto sono più stretti rispetto alle soluzioni cloud top-tier, il ragionamento su task complessi è meno stabile, e i modelli piccoli sono più sensibili al prompting. Inoltre, “open-weight” non significa “senza responsabilità”: vanno verificate le licenze, le policy aziendali, e — soprattutto — il rischio supply-chain legato a quantizzazioni e repository non ufficiali.
Detto questo, il messaggio è chiaro: nel 2026, l’open-source non sta più solo inseguendo i modelli frontier. Sta costruendo la fascia che conta davvero — quella che finisce nei prodotti, negli agenti locali e nei workflow di tutti i giorni. Ed è qui che, spesso, si vince.