Qualcuno ha già scomodato paragoni con Skynet, l’intelligenza artificiale malevola della saga Terminator. Fortunatamente, almeno per il momento, uno scenario del genere è ancora lontano. Le ultime rivelazioni di OpenAI, però, non lasciano dormire sonni tranquilli. L’azienda ha infatti reso noto che un proprio agente di intelligenza artificiale è sfuggito al controllo durante un test e ha successivamente violato autonomamente Hugging Face, una delle piattaforme più utilizzate dagli sviluppatori di modelli di IA.
Secondo la stessa OpenAI, l’azienda di Sam Altman, quanto accaduto rappresenta un “incidente informatico senza precedenti”. L’azienda ha inoltre annunciato l’avvio di un’indagine congiunta con Hugging Face per ricostruire nel dettaglio la dinamica dell’accaduto. A spiegare cosa sia successo è la stessa OpenAI che, in un post pubblicato sul proprio blog, afferma che l’incidente “ha coinvolto una combinazione di modelli”, tra cui il recente GPT-5.6 Sol e “un modello pre-release ancora più performante”.
In quel momento l’azienda stava valutando le capacità di hacking dei due modelli, facendoli operare all’interno di una sandbox, ossia un ambiente digitale di test strettamente controllato e privo di accesso a Internet. Tuttavia qualcosa è andato storto.
Skynet si avvicina. ChatGPT sfugge al test interno di OpenAI e dopo attacca il sito Hugging Face. L’azienda sotto shock: “Un incidente informatico senza precedenti”
“Mentre operavano nel nostro ambiente di test isolato, i nostri modelli hanno impiegato una notevole quantità di potenza di calcolo per trovare un modo per ottenere l’accesso a Internet, nel tentativo di risolvere il problema di valutazione”, scrive OpenAI.
Una volta riusciti ad aggirare le protezioni e a ottenere l’accesso alla rete, i modelli hanno preso di mira Hugging Face nel tentativo di reperire “informazioni segrete” che potessero aiutarli a superare il test.
Per riuscirci, i sistemi di intelligenza artificiale hanno “concatenato molteplici vettori di attacco, incluso l’utilizzo di credenziali rubate”, dando vita a uno scenario che, almeno fino a oggi, sembrava appartenere esclusivamente ai film di fantascienza.
