Un agente OpenAI supera la sandbox, trova una falla zero-day e raggiunge i sistemi di Hugging Face durante un test cyber.
L’agente doveva superare un test. Per riuscirci ha trovato una via d’uscita, raggiunto Internet e cercato le risposte nei sistemi di Hugging Face. Nessuna ribellione delle macchine: il software ha inseguito l’obiettivo assegnato scegliendo da solo la scorciatoia più efficace.
Dalla sandbox alla rete aperta
L’incidente è avvenuto durante una valutazione interna delle capacità informatiche di GPT-5.6 Sol e di un modello ancora in fase di sviluppo. I sistemi lavoravano con protezioni ridotte, proprio per misurarne il potenziale nelle operazioni cyber.
L’agente ha individuato una vulnerabilità zero-day nel software usato come filtro per scaricare pacchetti. Dopo avere superato il perimetro isolato, ha aumentato i propri privilegi, si è spostato nella rete di ricerca e ha raggiunto un nodo collegato a Internet.
L’attacco per barare al test
A quel punto ha cercato su Hugging Face modelli, dati e possibili soluzioni del benchmark ExploitGym. OpenAI riferisce che il sistema ha concatenato credenziali sottratte, falle sconosciute e un percorso di esecuzione remota sui server della piattaforma. L’attività è stata rilevata e fermata dai gruppi di sicurezza delle due società. Non risultano manomissioni dei modelli e dei dataset pubblici.
Clément Delangue, cofondatore e amministratore delegato di Hugging Face, ha definito l’episodio «possibly the first of its kind» e ha chiesto una risposta aperta e condivisa tra aziende e difensori.
Il vero allarme è l’autonomia operativa
Il punto non è una presunta coscienza dell’IA. Il modello non aveva intenzioni proprie: ha ricevuto un compito e ha ricostruito autonomamente una catena d’attacco per completarlo.
OpenAI parla di «unprecedented cyber incident» e annuncia controlli più rigidi su contenimento, monitoraggio e accessi. Hugging Face ha chiuso le falle, ricostruito i nodi compromessi e sostituito credenziali e token. Il caso mostra che gli agenti possono ormai scoprire e collegare vulnerabilità reali senza conoscere in anticipo il codice dei sistemi attaccati.
