Come fa l'AI a sapere le cose? Non le ricorda, le comprime

C'è una domanda che quasi nessuno si fa, ma che apre la testa quando trovi la risposta. Come fa un'intelligenza artificiale a "sapere" tutto quello che sa? La risposta istintiva è che avrà memorizzato mezzo internet, come una fotocopiatrice gigante. E invece no, ed è qui la cosa affascinante: non ha memorizzato quasi niente, ha compresso. Vi spiego cosa vuol dire, perché è più semplice e più elegante di quanto sembri.

Comprimere vuol dire tenere solo l'essenza

Partiamo da una cosa che tutti conosciamo, il file zippato. Quando comprimi un documento, il computer lo fa diventare più piccolo trovando gli schemi che si ripetono e buttando via il superfluo, tenendo solo quello che serve per ricostruirlo. Meno spazio, stessa sostanza.

Ora pensate a voi quando leggete un libro. Finito il libro, non ricordate ogni singola parola, sarebbe impossibile. Ricordate il senso, la trama, le idee. In pratica avete compresso trecento pagine in pochi concetti. E qui c'è il punto geniale: per riuscire a farlo, dovete aver capito. Se hai afferrato il senso di una cosa, la sai dire in due righe. E se la sai dire in due righe, vuol dire che l'hai capita. Comprimere e capire, alla fine, sono la stessa cosa.

L'AI impara comprimendo

Ecco cosa succede dentro un modello come ChatGPT. Durante l'addestramento fa una cosa sola, ripetuta miliardi di volte: prova a indovinare la parola successiva in un testo. Sembra stupido, ma per riuscirci bene non basta ricordare, devi trovare le regole, gli schemi, il significato di come è fatto il linguaggio e il mondo che descrive.

Già nel 1948 il padre della teoria dell'informazione, Claude Shannon, aveva mostrato che prevedere e comprimere sono due facce della stessa medaglia: più sai prevedere cosa viene dopo, meno spazio ti serve per descriverlo. Quindi un modello che diventa bravissimo a prevedere la parola giusta ha, senza che nessuno glielo dica, costruito dentro di sé una versione compressa di come il sapere umano è scritto. Non ha immagazzinato i libri, ne ha distillato l'essenza, come una persona che ne ha letti mille e ha tenuto la saggezza, non le pagine.

E qui entrano i soldi

Adesso la parte che ci piace, quella che di solito nessuno collega. Comprimere due pagine è gratis. Comprimere l'intero sapere dell'umanità, e farlo così bene da sembrare intelligente, richiede una quantità mostruosa di dati e di potenza di calcolo. Costa miliardi, come raccontavamo giusto l'altro giorno parlando di OpenAI che ne brucia a valanga.

Ed ecco la conseguenza scomoda. Se l'intelligenza di questi modelli è, in fondo, la capacità di comprimere il mondo, allora chi ha i soldi per comprimerlo meglio controlla l'intelligenza migliore. Non è una gara di genio astratto, è una gara di capitale. Dietro la magia dell'AI che "capisce" c'è un conto salatissimo, e chi lo paga tiene in mano il potere. Come sempre, se vuoi capire chi comanda davvero, guarda chi può permettersi la bolletta.

In due righe

Quindi no, l'AI non è un enorme archivio che ricorda tutto. È un campione di compressione, che ha schiacciato una montagna di testo fino a tenerne solo l'ossatura, e più comprime bene più sembra capire. È un'idea che toglie un po' di mistero e aggiunge un po' di lucidità. E ci ricorda, ancora una volta, che dietro la parola "intelligenza" oggi c'è anche, e soprattutto, una questione di risorse.