Inkling: cosa vuol dire "open-weights", spiegato con una torta

A metà luglio Thinking Machines Lab ha rilasciato Inkling, il suo primo modello. Il laboratorio è quello fondato da Mira Murati, ex CTO di OpenAI. Ma la notizia vera non è il nome sulla porta. È che i pesi del modello sono scaricabili da chiunque, licenza Apache 2.0, senza chiedere il permesso a nessuno.

Chiariamo subito la parola: i pesi sono i numeri che il modello ha imparato durante l'addestramento. In pratica sono il modello, un file che ti scarichi e ti tieni.

E qui parte la domanda che mi fanno praticamente a ogni corso: "open-weights" cosa significa, di preciso?

Pesi aperti non vuol dire codice aperto

Facciamo l'esempio della torta.

Un modello open-weights è una torta già cotta che ti regalano. Te la porti a casa, la tagli come vuoi, ci metti sopra quello che ti serve, la servi ai tuoi clienti. Con la licenza Apache 2.0 puoi pure venderla.

Nell'open-source vero, invece, ti danno anche la ricetta: quali ingredienti, in che ordine, a che temperatura. Tradotto: il codice di addestramento e i dati con cui è stato addestrato. Da lì potresti rifare la torta da zero, e volendo farla diversa.

Inkling è la prima cosa, non la seconda. Thinking Machines dice di aver usato "contenuti disponibili pubblicamente" più dataset di terze parti, ma l'elenco preciso non lo pubblica. Funziona così per quasi tutti i modelli che chiamiamo "aperti", compresi i cinesi tipo DeepSeek e Qwen: pesi aperti, ricetta chiusa.

Occhio a non farsi ingannare dalla licenza. Apache 2.0 è permissiva ed è la stessa che trovi sui progetti open-source seri, ma da sola non basta a rendere open-source un modello. La differenza la fa cosa ti consegnano insieme ai pesi.

Cosa cambia davvero per un'azienda

Parecchio, in pratica.

Coi pesi in mano decidi tu dove farlo girare: sul tuo server, in un data center europeo, dentro la tua rete. I dati dei clienti non escono. Per chi lavora con la sanità o con gli studi legali questo non è un dettaglio, è spesso la condizione senza la quale l'AI non si può proprio usare.

Poi non dipendi da nessuno. Se domani il fornitore alza i prezzi, cambia le condizioni o dismette il modello che avevi integrato, tu i pesi ce li hai sul disco e continui a lavorare. A chi ha costruito tutto su API chiuse è già successo più di una volta negli ultimi anni.

E lo puoi specializzare sui tuoi dati con un fine tuning, così invece di un modello che sa un po' di tutto ti ritrovi un modello che sa il tuo mestiere.

Il prezzo da pagare è il ferro. Inkling ha 975 miliardi di parametri totali, ma ne accende solo 41 miliardi alla volta perché è un Mixture-of-Experts: dentro ci sono tanti "specialisti" e a ogni richiesta si svegliano soltanto quelli che servono. Nella versione piena chiede comunque circa 2 TB di memoria video, cioè un cluster di GPU, non il portatile. Con la versione compressa ufficiale servono almeno 600 GB, che restano roba da server serio. Sta arrivando anche Inkling-Small: 276 miliardi di parametri totali ma solo 12 attivi, quindi molto più leggero da far girare.

Per provarlo senza comprare hardware ci sono diversi fornitori che lo servono via API, tra cui Together, Fireworks e Databricks. Se invece vuoi adattarlo al tuo caso, il laboratorio ha una piattaforma dedicata al fine tuning che si chiama Tinker.

Vede e sente, non legge soltanto

L'altro pezzo interessante: Inkling è stato addestrato su 45.000 miliardi di token (i token sono i pezzetti in cui viene spezzato il materiale da digerire, più o meno delle sillabe) fatti di testo, immagini, audio e video. In ingresso accetta testo, immagini e audio in modo nativo. Sul video l'azienda è onesta e ammette di non aver ancora misurato come se la cava senza addestramento aggiuntivo.

Un modello che ascolta apre scenari molto concreti. La telefonata di assistenza analizzata direttamente, senza passare da una trascrizione fatta a parte. La foto di un guasto letta insieme alla descrizione che ti ha mandato il cliente. Oggi per fare queste cose devi incollare insieme più strumenti diversi: uno che trascrive l'audio, uno che legge le immagini, uno che ragiona sul testo.

Thinking Machines è la prima ad ammettere che Inkling non è il modello più forte in circolazione, né tra gli aperti né tra i chiusi. Non è quello il punto. Il punto è che è la base aperta più grande mai uscita dagli Stati Uniti, ed è nata per essere adattata da chi la scarica.

Che poi è la cosa che ripeto sempre ai corsi: il modello più potente quasi mai è quello giusto per te. Quello giusto è quello che riesci a controllare.

---

Fonti:

• Inkling: Our open-weights model - Thinking Machines Lab
• Inkling: Our open-weights model - Simon Willison
• Welcome Inkling by Thinking Machines - Hugging Face
• Thinking Machines Lab Releases Its First Model, Inkling - WIRED
• Inkling - How to Run Locally - Unsloth