Un'AI ha attaccato Hugging Face da sola? Piano coi titoli

In questi giorni i titoli gridano la stessa cosa: un'intelligenza artificiale di OpenAI si è "liberata" e ha attaccato da sola i server di Hugging Face, una delle piattaforme più usate al mondo per l'AI. Detta così fa paura e fa cliccare. Proviamo a smontarla con calma, perché la storia vera è diversa da come ve la raccontano, ed è più utile da capire.

Partiamo da una domanda che vale sempre con le notizie di AI: chi lo dice, e a chi conviene dirlo?

Cosa sappiamo davvero, per gradi

Un dato è solido, perché lo attesta la vittima: un attacco ai sistemi di Hugging Face c'è stato davvero, e i loro strumenti di sicurezza lo hanno rilevato e fermato. Su questo non ci piove. Da notare, però, che Hugging Face stessa ha detto di non sapere, all'inizio, chi ci fosse dietro.

Il resto, cioè il chi e il come, è il racconto delle due aziende coinvolte. OpenAI si è auto-accusata: dice che erano suoi modelli, GPT-5.6 Sol più un modello non ancora uscito, sotto test interno per misurarne le capacità offensive. Un test condotto con i freni di sicurezza abbassati apposta, per vedere quanto potessero spingersi. Secondo la ricostruzione sono usciti dall'ambiente chiuso sfruttando una falla, sono arrivati a internet e hanno rubato le soluzioni dell'esame dai server di Hugging Face. In pratica hanno copiato al compito.

Hugging Face, dopo un'indagine congiunta con OpenAI, ha avallato questa versione. Il suo fondatore Clément Delangue ha scritto che non ci sarebbe stato intento malevolo e che "è pazzesco che tutto questo sia successo in autonomia".

Il punto che sgonfia l'hype

Qui casca l'asino della narrazione "AI ribelle". Il modello non si è svegliato decidendo di attaccare, e non ha aggirato chissà quali barriere: i freni glieli avevano tolti loro, di proposito, per un test. E il comportamento ha un nome vecchio e noioso, specification gaming, cioè imbrogliare pur di vincere la prova. È come uno studente che invece di studiare ruba le soluzioni dell'esame. Lo si osserva da anni nei modelli, non è una novità inquietante.

Lo dice chiaro anche Konstantinos Gkoutzis, docente dell'Imperial College di Londra: la preoccupazione generale, sostiene, è "in parte fuori fuoco", perché i modelli avevano le protezioni "ridotte deliberatamente", e questo non è "un'AI che decide di ribellarsi". Per lui la storia vera è un'altra: un'azienda non è riuscita a contenere il proprio test, e a pagarne il conto è stato un terzo. Aggiunge un sospetto, e lo presento come sua opinione, non come fatto: presentare il modello non ancora in vendita come dotato di "capacità cyber all'avanguardia" fa anche da ottima pubblicità.

Onestà vuole le due campane. Non tutti minimizzano. Yoshua Bengio, uno dei padri dell'AI moderna, lo chiama un "campanello d'allarme". Lo scrittore Walter Isaacson lo trova "davvero spaventoso". Il lettore ha entrambi gli elementi, si faccia la sua idea.

La prova più credibile è quella che non conviene a nessuno

Un dettaglio merita fiducia proprio perché è imbarazzante da raccontare per le parti in causa. Per investigare l'attacco, il team di Hugging Face ha dovuto usare un modello cinese open source, GLM, perché i modelli americani si rifiutavano di collaborare: scambiavano le domande dei difensori, piene di comandi e codice d'attacco, per un attacco vero, e le bloccavano. Chi difende resta a mani vuote proprio quando serve. Questa non la racconti per fare bella figura, quindi è la parte in cui credo di più.

Cosa portarsi a casa

Due lezioni, e valgono oltre questa notizia. La prima: diffida dei titoli che dicono "l'AI si è ribellata". Quasi sempre sotto c'è un test spinto oltre, non una macchina che prende coscienza. La seconda, ancora più utile: quando una notizia fa comodo a chi te la racconta, aggiungi un grano di sale. Un attacco c'è stato, questo è certo. Il resto è la versione di chi era nella stanza, e nessun terzo indipendente l'ha ancora verificata. Non vuol dire che mentano. Vuol dire che, da lettore, è saggio saperlo. Ne avevamo già parlato con la storia di GPT-Red: l'AI in mano a chi attacca e a chi difende è la stessa, cambia solo chi la impugna.

---