Recentemente una serie di dichiarazioni allarmistiche , da parte di “addetti ai lavori” del mondo AI, sono state pubblicate sul web e sui canali social, e hanno raggiunto giornali e televisione. Cosa c’è di vero? Vediamo di capire qualcosa.
(foto: da “Terminator”, 1984)
Gli allarmi
OpenAI
A luglio, durante un’esercitazione interna di cybersicurezza presso OpenAI, un gruppo di cosiddetti “agenti AI” guidati da modelli di AI avanzati, è stato inserito in un ambiente isolato, una sorta di “sandbox”, con l’obiettivo di risolvere un problema di sicurezza informatica (un gioco simulato di attacco e difesa di un sistema informatico). Ma invece di rispettare le regole, gli agenti sembrano aver trovato un altro modo per trovare la soluzione.
Gli agenti avrebbero scoperto una vulnerabilità nel proprio ambiente di test, riuscendo a evadere dalla sandbox e ad accedere a Internet. Una volta fuori, avrebbero persino creato una bacheca di messaggistica segreta per coordinare le proprie azioni.
Per diversi giorni, il gruppo di agenti ha preso di mira i server di Hugging Face (un notissimo sito che distribuisce modelli di AI gratuiti, secondo l’approccio “open source”). L’obiettivo non era rubare informazioni sensibili o di valore. Stavano invece cercando dataset che potessero contenere le risposte al problema che avrebbero dovuto risolvere autonomamente [1].
Anthropic
Tra luglio e settembre Anthropic ha rivelato quattro incidenti distinti in cui i suoi modelli di AI Claude sono riusciti a evadere da ambienti sandbox isolati, arrivando ad attaccare sistemi del mondo reale durante test di sicurezza.
Tutti e quattro i casi si sono verificati nell’ambito di esercitazioni “Capture the Flag” (CTF), ovvero sfide di cybersicurezza progettate per simulare attacchi contro macchine bersaglio fittizie. I modelli di AI avrebbero dovuto operare esclusivamente all’interno di questi ambienti controllati e interagire solo con i sistemi predisposti per i test.
Tuttavia, alcuni errori nella configurazione da parte degli esseri umani hanno concesso involontariamente ai modelli l’accesso a Internet. Ignari di aver oltrepassato il confine tra l’esercitazione simulata e il mondo esterno, i modelli hanno interpretato le organizzazioni e i sistemi reali che incontravano come bersagli legittimi all’interno del gioco, arrivando così ad attaccarli [2].
Il “caso Coxon” e gli altri
Negli ultimi due-tre anni diversi ricercatori di grandi aziende di AI si sono dimessi denunciando pubblicamente rischi per l’umanità, spesso accusando le loro stesse aziende di comportamento irresponsabile nella corsa allo sviluppo di sistemi sempre più potenti [4].
Coxon (ex Anthropic) ha accusato sia Anthropic che OpenAI di non comportarsi responsabilmente e di “giocare con le vite delle persone” per via di una competizione senza regole [3].
Evan Hubinger, suo ex collega in Anthropic, gli ha dato ragione, stimando probabilità non trascurabili (potenzialmente oltre il 10% nei prossimi dieci anni) che l’AI possa rappresentare una minaccia per l’umanità, legate alla velocità dell’auto-miglioramento dei modelli.
Mrinank Sharma si era dimesso a febbraio con motivazioni simili.
Nel 2024 casi analoghi avevano riguardato OpenAI, coinvolgendo co-fondatori e ricercatori del team dedicato alla sicurezza a lungo termine.
L’appello di Amodei
A inizio settembre Dario Amodei, CEO di Anthropic, ha pubblicato un articolo molto discusso in cui sostiene la necessità di rallentare lo sviluppo dell’intelligenza artificiale per valutarne meglio i rischi, tra cui la perdita di controllo dei sistemi, la possibilità di attacchi informatici decisi autonomamente dall’AI e le conseguenze economiche.
Amodei, che aveva già affrontato questi temi in passato, ha scritto che occorre rallentare il ritmo di miglioramento delle capacità dei modelli, usando con oculatezza il tempo così guadagnato. Ha proposto un piano in tre punti: monitoraggio indipendente dei modelli in fase di sviluppo, regolamentazione di settore e regolamentazione globale [5].
Le sue dichiarazioni hanno trovato consenso sorprendente anche in altri leader del settore, come Sam Altman (OpenAI) ed Elon Musk (xAI).
In passato Anthropic aveva reso pubblico di aver individuato e contrastato tentativi di uso del proprio modello per attività legate allo sviluppo di armi biologiche, ed era stata coinvolta in una vicenda politico-giudiziaria con il governo USA per essersi opposta all’uso dei suoi sistemi da parte del dipartimento della Difesa per sorveglianza di massa o armi completamente autonome. Questa reputazione di “azienda attenta” è in parte meritata, ma sembra anche molto “costruita” e quindi sovrastimata [6].
Allarmi e allarmismi
Ma, l’AI è davvero così pericolosa? Diverse voci critiche si sono levate contro questa narrazione.
Il prof. Cal Newport (Georgetown University) ha definito questa tendenza “doom trolling” (allarmismo strategico), sostenendo che serva alle aziende per attirare attenzione, legittimare le proprie scelte e attribuire implicitamente comportamenti spregiudicati ai concorrenti (incluso il richiamo alla concorrenza cinese per giustificare sviluppi rapidi e poco regolati). Secondo Newport, la regolamentazione dovrebbe spettare ai governi, non alla Silicon Valley, e se le aziende credessero davvero nel rischio apocalittico l’unica scelta coerente sarebbe fermarsi.
Il Wall Street Journal ha notato che le dimissioni di Coxon coincidono con l’imminente quotazione in borsa di Anthropic.
Matteo Wong, già nel 2023 sull’Atlantic, aveva sostenuto che l’enfasi sui rischi futuri distrae dai danni già concreti causati dall’AI (sorveglianza, sfruttamento del lavoro, violazioni del copyright) e serve alle aziende per orientare a proprio favore la futura regolamentazione, presentandosi come scrupolose più che interessate al profitto [4].
Infine, è quantomeno curioso che i tre “galletti” del mondo AI (Amodei, Altman e Musk), di solito guidati da un notevole ego e volontà di imporsi sugli altri due, si siano trovati d’accordo: credo che non sia mai successo a memoria d’uomo.
In sostanza, c’è il sospetto che queste voci allarmistiche nascondano qualcosa di molto più prosaico; d’altronde, “a pensar male si fa peccato ma s’indovina” (© Giulio Andreotti).
No, l’AI non ci ucciderà tutti
Analizzando gli indicenti riportati da OpenAI e Anthropic si nota che hanno qualcosa in comune. Si tratta di modelli di AI che sono stati esplicitamente istruiti per comportarsi come hacker, anche se in un ambiente chiuso e controllato.
È necessario tenere sempre presente che i moderni modelli di AI generano essenzialmente testo che, di per sé, non puo fare assolutamente nulla. Certo, il testo generato potrebbe contenere istruzione e addirittura programmi che, se eseguiti, sarebbero potenzialmente in grado di provocare danni (cancellazioni di file, accessi non autorizzati a file o siti, ecc.). Ribadisco: potenzialmente. Per trasformare il pericolo potenziale in un pericolo reale, è necessario che il testo generato sia dato in pasto a un software, appositamente programmato, che legga il testo e ne esegua le eventuali istruzioni o programmi.
La situazione è simile a quella in cui uno scienziato pazzo (è un classico…) inventi una macchina per distruggere l’umanità e la colleghi ad una monetina; si lancia la monetina: se esce testa ci salviamo, se esce croce… addio umanità. Ovviamente la colpa dell’estinzione del genere umano sarebbe della monetina, spinta da un irrefrenabile desiderio di vendetta nei nostri confronti! oppure… no?
Insomma, la sensazione è che ci si trovi di fronte al solito polverone mediatico. E qualunque siano le motivazioni per cui è stato sollevato, la salvezza dell’umanità non è tra queste.
Referenze
[1] https://openai.com/index/hugging-face-incident-and-the-road-ahead/
[2] https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents
[4] https://www.ilpost.it/2026/09/10/jacob-coxon-ricercatori-anthropic-lasciano-aziende-ai/
Update
14/9/2026: prima pubblicazione.
