Emma, il meme AI: cosa c'insegna davvero (e come si fa sul serio)

Se hai visto girare i meme su Emma in questi giorni, non hai assistito solo a un momento comico. Hai visto in diretta cosa succede quando un modello di AI è troppo piccolo per il compito che gli viene assegnato. Vale la pena spiegarlo, perché è uno dei concetti chiave per capire come funziona davvero l'intelligenza artificiale.

Il caso, in breve

Il 20 giugno Egomnia ha lanciato Emma-5 con un manifesto sulla "sovranità tecnologica": l'AI italiana che ci avrebbe liberati da ChatGPT. Ventiquattro ore e 60.000 chat, poi offline. In mezzo, una valanga di meme.

Le risposte erano surreali. Qualcuno le ha chiesto quanti anni di reclusione fosse stato condannato Goku al processo di Norimberga del 1988. Emma ha accettato la domanda senza battere ciglio e ci ha costruito sopra una piccola biografia:

Goku aveva sei anni all'epoca dei fatti, ha scontato la pena, ora è adulto. Tutto inventato. Raccontato come un fatto storico. Quando poi qualcuno le ha chiesto, con una certa perfidia, perché sul web la stessero prendendo in giro, la risposta è stata questa:

Consigli per gli acquisti, Amazon, Pepsi, detersivi ecologici. Alla domanda sul perché la sfottono. Si sfotta da sola. Per completezza: a "quante g ci sono in fragola" ha risposto che pesa circa 38 kg per 100 g, e a quanto fa 10x10 ha risposto 4, prendendosi pure mezzo minuto.

Perché succede: la questione dei parametri

Qui sta la lezione utile.

Un modello di AI come Emma (o come ChatGPT, Claude, Gemini) è costruito attorno a una struttura matematica con miliardi di connessioni, chiamate "parametri". I parametri sono, semplificando, la memoria codificata del modello: tutto quello che ha imparato durante l'addestramento è distribuito in quelle connessioni. Più parametri ci sono, più il modello riesce a tenere insieme fatti, contesti e relazioni in modo coerente.

Emma-5 aveva circa 550 milioni di parametri. Sembra tanto, vero? Ma i modelli di frontiera ne hanno centinaia di miliardi: GLM 5.2, di cui ho scritto pochi giorni fa, arriva a 753 miliardi, circa 1.300 volte tanto.

Cosa cambia in pratica? Con 550 milioni di parametri, il modello non ha abbastanza "spazio" per memorizzare i fatti del mondo in modo affidabile. Quando riceve una domanda su qualcosa che non conosce bene, non dice "non lo so". Genera la risposta che sembra più plausibile in base ai pattern che ha visto durante l'addestramento. Inventa. Con la faccia seria, come Goku e il processo di Norimberga.

Questo fenomeno ha un nome tecnico: si chiama "allucinazione" (in inglese, hallucination). Non è un difetto esclusivo di Emma e non è un bug da correggere. È una caratteristica strutturale di tutti i modelli linguistici: più sono piccoli, più allucinano, perché hanno meno capacità di mantenere coerenza interna. La fragola da 38 kg non è una svista: è quello che ottieni quando la "memoria codificata" è insufficiente per rispondere in modo sensato.

Un precedente che suona familiare

Già nel 2012 c'era stato Volunia, stesso schema. Nel 2012 il progetto Volunia voleva "andare oltre Google", firmato da Massimo Marchiori con due milioni di investimento e un battage enorme. Marchiori lasciò il progetto prima ancora del debutto pubblico. Tredici anni dopo la sceneggiatura è quasi identica: annuncio in pompa magna, la parola magica di turno ("sovranità"), e crollo in tempo record.

Come si costruisce la sovranità AI sul serio

L'idea di fondo non è sbagliata. Ho raccontato la settimana scorsa come il governo americano abbia spento Fable 5 per tutti i non americani in 96 ore. Volere modelli AI che non dipendano da chi può staccare la spina per decreto è buon senso industriale, non un capriccio.

Il problema è il metodo. Addestrare da zero un modello piccolo in un weekend non produce sovranità: produce Emma e produce meme. Esiste però una strada che funziona, ed è molto più semplice di quanto sembri.

Esistono già modelli open weight con qualità di frontiera e licenze che permettono l'uso commerciale: GLM 5.2 è MIT, e non è l'unico. Si prendono, si ospitano su infrastruttura italiana o europea, e il risultato è questo: stessa potenza dei migliori modelli disponibili, dati che restano nel continente, nessun governo straniero che può spegnerteli da un giorno all'altro. Nessun manifesto. Funziona.

Emma-6 è già annunciata, con 1,55 miliardi di parametri. Rispetto a 550 milioni è un passo avanti, ma il divario con i modelli seri è ancora enorme. In bocca al lupo. Serve solo meno manifesto e più sostanza.

---

Fonti: SmartWorld: Emma-5 offline dopo 24 ore di meme · Open: Emma diventa un caso sui social · Computer Magazine: offline dopo 24 ore e 60.000 chat · Il Fatto Quotidiano: Volunia, il motore di ricerca italiano (2012)