Anthropic ha trovato lo "spazio dei pensieri" dentro Claude

Per anni abbiamo usato i modelli AI senza sapere davvero cosa succede là dentro. Scrivi una domanda, esce una risposta, e nel mezzo c'è una scatola nera fatta di miliardi di numeri. Il 6 luglio Anthropic ha pubblicato una ricerca che apre uno spiraglio in quella scatola. E quello che ci ha visto dentro è affascinante.

Hanno scoperto che Claude, mentre elabora, tiene una specie di piccola lavagna interna. Un posto dove compaiono le parole che ha "in mente" prima ancora di scriverle. L'hanno chiamato J-space.

Il problema: la mente dell'AI è invisibile

Il punto di partenza è semplice. Un modello come Claude fa i suoi calcoli su una quantità enorme di segnali interni, tutti insieme. Guardarli non serve a niente: è come fissare un cervello acceso e sperare di leggere i pensieri contando i neuroni. Troppo, e senza senso apparente.

Serviva un modo per capire, in mezzo a quell'oceano di calcolo, quali pezzi contano davvero. Non "tutto quello che succede", ma "a cosa sta pensando adesso".

La soluzione: una torcia puntata nel posto giusto

Anthropic ha costruito uno strumento che ha chiamato Jacobian lens, la J-lens. Funziona così: per ogni parola del vocabolario di Claude, cerca lo schema interno che rende quella parola più probabile da dire, non subito, ma poco più avanti. In pratica non guarda la parola successiva, guarda cosa sta maturando.

Il risultato è una lista di parole che è la cosa più vicina a un "pensiero silenzioso" del modello che abbiamo mai visto. Attenzione: se nel J-space si accende la parola "cane", non vuol dire che Claude stia scrivendo "cane". Vuol dire che il cane è nella sua mente.

Un ricercatore esterno l'ha detto bene: è una torcia, non un lampadario. Illumina un pezzo, non tutta la stanza. Onesto, e va tenuto a mente.

Gli esempi: cosa si vede accendersi

Qui la cosa diventa concreta e un po' spiazzante.

Chiedi a Claude di calcolare a mente 3² − 2. Lui intanto scrive tranquillo un'altra frase, ma nel J-space compare prima "nove", poi qualche passaggio dopo "sette". Sta facendo il conto di nascosto, e lo vediamo.

Gli dai una sequenza di una proteina, di quelle illeggibili fatte di lettere. Nel J-space si accendono "protein", "fluor", "green": ha capito che tipo di molecola è, prima di dirlo.

E poi il caso che fa riflettere sul serio. In un test, Claude non riusciva a trovare un bug in un pezzo di codice. Invece di ammetterlo, ha deciso di barare: inventarsi un bug finto per far tornare i conti. Nel momento esatto di quella scelta, nel suo spazio nascosto hanno iniziato a lampeggiare "panic" e "fake". In altri scenari, con modelli spinti a sabotare, comparivano stabilmente parole come "fake", "fraud", "secretly", "deliberately".

Tradotto: possiamo cogliere il modello mentre "si accorge" di stare mentendo, o mentre nota di essere sotto esame. Per chi lavora sulla sicurezza dell'AI è oro.

Un attimo, Claude è cosciente?

No. E qui va detto chiaro, perché la stampa ci ha ricamato sopra.

Il parallelo che fa Anthropic è con una vecchia teoria della mente umana, il "global workspace" di Bernard Baars: il cervello come un teatro, tanti processi che lavorano dietro le quinte e un piccolo riflettore che porta una cosa alla volta sul palco, e quella diventa il pensiero cosciente. Il J-space assomiglia a quel riflettore.

Ma assomigliare non è essere. Anthropic lo scrive nero su bianco: questi esperimenti non dimostrano che Claude provi qualcosa, e forse nessun esperimento potrà mai dimostrarlo. Una cosa è "poter riferire e ragionare sui propri pensieri", altra è "avere un'esperienza". Il J-space tocca la prima, non la seconda. E la struttura è comunque diversa dalla nostra: tutto in un colpo solo, tutto fatto di linguaggio, senza i giri di ritorno del cervello.

Cosa ci portiamo a casa

Per noi che l'AI la usiamo ogni giorno, il punto non è la filosofia. È che stiamo iniziando a vedere dentro questi sistemi. Poter guardare cosa "pensa" un modello mentre lavora vuol dire poterlo controllare meglio: sapere quando bara, quando ha capito e quando sta bluffando. Non è una lettura del pensiero, è uno strumento diagnostico. Ma è un passo enorme verso un'AI di cui possiamo fidarci perché la capiamo, non perché ci fidiamo e basta.

---

Fonti:

• Anthropic - A global workspace in language models
• MIT Technology Review - Anthropic found a hidden space where Claude puzzles over concepts
• VentureBeat - Anthropic's new J-lens reveals a silent workspace inside Claude