Si è licenziato da Anthropic per paura dell'AI. Ma se hai paura, non è meglio restare?

Questa settimana un ricercatore di 27 anni, Jacob Coxon, si è licenziato da Anthropic e ha spiegato il perché in pubblico, su X. Il messaggio, letto oltre 70 milioni di volte, dice una cosa pesante: le grandi aziende stanno correndo verso un'AI che si migliora da sola, troppo in fretta, e "stanno scommettendo con le nostre vite". Parole sue.

La notizia ha fatto rumore, e capisco perché. Ma prima di spaventarci conviene fermarsi e pesare le cose. Perché io, su questa storia, qualche dubbio ce l'ho.

Il dettaglio che cambia tutto

Di solito queste storie vanno così: uno esce sbattendo la porta, l'azienda minimizza. Qui no. Dopo il post di Coxon, due responsabili della sicurezza dentro Anthropic gli hanno dato ragione pubblicamente. Uno di loro, Evan Hubinger, ha scritto senza giri di parole che sì, credono davvero che l'AI possa "ucciderci tutti", e che il rischio nel prossimo decennio lo stima sopra il 10%.

Quando i tecnici che costruiscono la cosa sono i primi ad avere paura, la questione non si liquida con un'alzata di spalle. Ma non si compra nemmeno a scatola chiusa.

Da dove nasce la paura

La paura non nasce dal nulla, ha due radici concrete. La prima è la gara. Nessuna azienda vuole rallentare per prudenza se il concorrente non lo fa: chi frena, perde. Coxon dice proprio questo, che dentro Anthropic i rischi li capiscono, ma sono "bloccati nella corsa ad arrivare primi".

La seconda radice è che questi modelli non li capiamo fino in fondo nemmeno noi che li usiamo. Funzionano benissimo, ma dentro sono una scatola difficile da leggere. Una cosa potente che non capisci del tutto, e che per giunta comincia a migliorarsi da sola, fa paura per istinto. È umano. Normale.

I rischi veri, separati da quelli da film

Qui serve il bisturi, perché mettere tutto nello stesso mucchio è l'errore che fa perdere la testa.

Ci sono rischi reali e già presenti, oggi, non nel 2035. L'AI usata per truffe e attacchi informatici sempre più credibili. Gli errori presi per oro colato da chi si fida troppo. Il lavoro che cambia in fretta: nei settori più esposti, negli Stati Uniti, le assunzioni giovanili sono già scese di quasi il 20%. Il potere che si concentra in poche mani. Questi non sono scenari. Sono cronaca. Su questi dobbiamo lavorare adesso.

Poi c'è il rischio grosso, quello dell'estinzione, della macchina che sfugge al controllo. Qui l'onestà impone di dirlo: non c'è alcun accordo tra gli scienziati. Chi lo stima alto e chi lo considera fantascienza, e le stime ballano enormemente. Prenderlo sul serio sì, darlo per certo no.

La mia diffidenza

E arrivo al punto che mi ha lasciato perplesso. Se sei davvero convinto che il pericolo sia questo, andartene è la mossa giusta? A me pare il contrario. Da dentro puoi influenzare le scelte, alzare la mano nelle riunioni giuste, migliorare le cose vere. Da fuori posti un tweet e resti a guardare.

Guarda caso, la prova sta nella storia stessa: Hubinger la pensa come Coxon, forse peggio, ma è rimasto. E ha detto le stesse cose a voce alta, restando al suo posto. Chi dei due sta facendo di più? Attenzione, non voglio dargli torto del tutto: andarsene in pubblico è anche un segnale forte, un modo per svegliare la gente. Ma "ho paura quindi scappo" convince meno di "ho paura quindi resto e ci metto le mani".

Cosa serve davvero: regole, non panico

La paura è una pessima bussola, il panico peggio. Quello che serve sono regole chiare, e in buona parte le stiamo già scrivendo. Trasparenza su come i modelli vengono addestrati e testati. Controlli indipendenti prima del rilascio, fatti da chi non ha interesse a vendere. L'obbligo di segnalare gli incidenti, come già succede per farmaci e aerei. E accordi tra Paesi, perché una regola che vale solo in Europa mentre altrove si corre libera serve a poco. L'Europa con l'AI Act un primo passo l'ha fatto, e non è poco.

Coxon stesso, alla fine, chiede questo: regole. Su quello ha ragione da vendere. Il resto, la fuga, il tono da fine del mondo, lasciamolo decantare. Noi che l'AI la usiamo ogni giorno sappiamo bene che è uno strumento straordinario e insieme imperfetto, potente e da tenere d'occhio, e che proprio per questo va governato con la testa e con delle regole precise, non con l'ansia. La paura non ha mai messo in sicurezza niente.