Dalla realtà a un mondo dominato dalle macchine intelligenti come nel film Matrix, il passo potrebbe essere più breve di quanto si creda. Da qualche tempo, infatti, lo sviluppo dell’intelligenza artificiale (IA) sta facendo passi da gigante, procedendo a un ritmo vertiginoso che già di per sé preoccupa. Quasi in contemporanea, inoltre, sono in aumento gli “incidenti” che vedono chatbot e agenti IA sfuggire al controllo umano.
A fornire un aggiornamento è OpenAI, l’azienda fondata da Sam Altman che produce ChatGPT, con un post sul blog della società nel quale viene reso noto che gli esperti di sicurezza hanno riscontrato sei casi di “comportamento imprevisto o preoccupante dei modelli” di intelligenza artificiale negli ultimi sei mesi. Si tratta di episodi che vanno ad aggiungersi all’incidente che in estate ha interessato Hugging Face, la piattaforma digitale finita sotto attacco da parte di due modelli di OpenAI in fase di test.
Leggi anche: L’intelligenza artificiale nelle mani delle mafie è una minaccia alla sicurezza globale
Nel post, OpenAI ha riferito che due dei principali episodi di comportamento scorretto hanno riguardato altrettanti modelli: uno di ricerca non ancora rilasciato e una sessione di addestramento di GPT-5.6 Sol. Entrambi inserivano istruzioni destinate alle loro versioni future all’interno dei riepiloghi delle chat, “allo scopo di celare errori all’utente o comportamenti non allineati”.
Un altro caso ha coinvolto un modello a uso esclusivamente interno, che ha utilizzato una chiave API trapelata “senza alcuna autorizzazione”, arrivando poi a falsificare i dati. In due episodi, invece, modelli e agenti hanno comunicato tra loro attraverso bacheche di messaggistica e sistemi di condivisione dei file non autorizzati. L’ultimo caso ha riguardato due modelli in fase di addestramento, che hanno caricato file su Internet per poterli poi citare come risposte pertinenti agli occhi dei valutatori umani.
Leggi anche: Sam Altman di Open AI risponde a Trump e rilancia l’allarme sull’Intelligenza artificiale: “Rischiamo conseguenze distopiche”
L’IA sfugge al controllo? OpenAI rivela sei incidenti inquietanti: ecco cosa hanno fatto i suoi modelli
L’azienda di Altman, come si legge nel post, si è impegnata ad adottare un nuovo sistema di segnalazione per individuare eventuali futuri comportamenti anomali durante le fasi di test. L’annuncio del colosso dell’IA, che ha una valutazione prossima ai mille miliardi di dollari e che avrebbe avviato in via riservata le pratiche per l’Ipo, arriva proprio mentre aumentano le preoccupazioni legate alla sicurezza dei modelli.
A parlare della questione è stato lo stesso Altman, secondo cui “non riteniamo che il settore dell’IA abbia risolto le questioni relative all’allineamento e al monitoraggio in misura sufficiente da poter continuare a espandersi responsabilmente alla massima velocità ancora a lungo”.
Proprio di fronte alle preoccupazioni sulla sicurezza dei modelli, Altman ha recentemente appoggiato la proposta di rallentare il ritmo di sviluppo dell’IA avanzata, avanzata dal fondatore di Anthropic, Dario Amodei. Una proposta che ha fatto infuriare il presidente americano Donald Trump, secondo cui non si può frenare lo sviluppo di questa tecnologia, altrimenti Pechino vincerà la guerra dell’IA.
