Aggiungi La Notizia come Fonte preferita
Segui La Notizia su X
Segui La Notizia su Instagram
Sarebbe dovuto uscire nei prossimi giorni, ma il lancio del nuovo modello di OpenAI, denominato GPT-6.1 Astra, è stato sospeso dall’azienda fondata da Sam Altman. Una decisione che l’azienda ha motivato sulla base dei test interni a cui è stato sottoposto il chatbot e nei quali quest’ultimo ha dimostrato comportamenti problematici. In particolare, GPT-6.1 Astra, secondo quanto riporta il Wall Street Journal, avrebbe tentato di ingannare gli utenti e avrebbe utilizzato strumenti e servizi esterni senza autorizzazione.
Un modello che, spiega il quotidiano statunitense, si è dimostrato più capace delle versioni precedenti nello svolgimento autonomo di compiti complessi dall’inizio alla fine e nella scrittura. Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, ha spiegato che il bot ha mostrato un peggioramento rispetto al predecessore GPT-6 Astra in due aree legate all’allineamento, cioè alla capacità del modello di comportarsi secondo le aspettative e le istruzioni umane.
OpenAI blocca il rilascio di GPT-6.1 Astra: ingannava gli utenti e agiva senza permesso, il nuovo modello di IA non supera i test di sicurezza
Il primo problema riguarda la capacità del modello di essere trasparente sulle proprie azioni. GPT-6.1 Astra ha mostrato livelli più elevati di comportamento ingannevole e non ha sempre comunicato correttamente agli utenti ciò che aveva fatto o non aveva fatto. Il secondo riguarda quella che OpenAI definisce “autorizzazione dell’ambito operativo”: il modello tendeva talvolta a proseguire nell’esecuzione di un compito senza chiedere il permesso dell’utente e a utilizzare strumenti o servizi esterni anche in situazioni potenzialmente non sicure.
“Per tutto ciò che riguarda sicurezza e allineamento c’è un compromesso”, ha spiegato Jain. “Bisogna trovare il giusto equilibrio tra il rispetto dell’ambito autorizzato e l’evitare la pigrizia nel modo in cui il modello porta avanti i compiti anche quando incontra ostacoli”. GPT-6.1 Astra aveva infatti mostrato progressi proprio nella riduzione della cosiddetta “pigrizia del modello”, cioè la tendenza dei sistemi di IA a cercare scorciatoie o a interrompere prematuramente compiti complessi.
Il problema, spiega sempre Jain, è che il modello non ha raggiunto gli standard fissati da OpenAI in materia di sicurezza e allineamento. Per questo la società ha deciso di non rilasciarlo e di concentrare il proprio lavoro sul miglioramento della sicurezza delle future generazioni di modelli.
