OpenAI, il New York Times rivela gli allarmi ignorati prima dell’attacco a Hugging Face: ecco cos’è successo

I recenti casi di agenti di intelligenza artificiale (IA) fuori controllo e i conseguenti dubbi espressi pubblicamente da esperti del settore, non ultimo Bill Gates, sono soltanto la punta dell’iceberg. Come racconta l’inchiesta pubblicata questa mattina dal New York Times, gli allarmi sui rischi di sicurezza dei modelli di IA vanno avanti da molto più tempo di quanto si creda.

Secondo il quotidiano statunitense, OpenAI, l’azienda fondata da Sam Altman, avrebbe ignorato gli allarmi interni lanciati da diversi suoi dipendenti. Gli avvisi risalirebbero ad alcuni mesi prima dell’incidente nel quale un sistema in fase di sviluppo dell’azienda riuscì ad aggirare i controlli di sicurezza e a compromettere sistemi informatici di Hugging Face, rendendo evidente la necessità di rafforzare le misure di sicurezza attorno ai modelli più avanzati.

Lo stesso New York Times rivela che due dipendenti avevano rilevato carenze nella supervisione durante i test destinati a valutare capacità e sicurezza dei modelli e avevano espresso le proprie preoccupazioni alla dirigenza attraverso un’e-mail. I vertici dell’azienda avrebbero tuttavia risposto che era necessario completare i test il più rapidamente possibile per rispettare il calendario previsto per lo sviluppo dei modelli, senza introdurre ulteriori misure di sicurezza. Insomma, la tesi del quotidiano americano è che OpenAI avrebbe minimizzato i rischi.

Quell’e-mail, nel volgere di poco tempo, sarebbe diventata quasi “profetica”. A luglio scorso, infatti, si è verificato l’incidente durante una fase di valutazione di modelli in sviluppo. Gli agenti sono riusciti ad aggirare i controlli predisposti per isolarli da Internet e hanno compromesso parti dell’infrastruttura interna di OpenAI e dei sistemi di Hugging Face. OpenAI ha riconosciuto l’accaduto, pubblicando un rapporto dettagliato sul proprio blog: secondo la ricostruzione dell’azienda, i modelli hanno sfruttato vulnerabilità nell’infrastruttura condivisa per ottenere accesso a Internet e raggiungere sistemi di terze parti.