Aggiungi La Notizia come Fonte preferita
Segui La Notizia su X
Segui La Notizia su Instagram
Soltanto pochi giorni fa aveva rivolto un appello a rallentare lo sviluppo delle intelligenze artificiali, al fine di evitare che sfuggano di mano, trovando anche la condivisione di alcuni dei principali CEO delle aziende high tech. Ora, però, Dario Amodei sembra contraddire il precedente appello e annuncia un nuovo modello di Claude. Anthropic, l’azienda fondata da Amodei, ha svelato infatti il suo nuovo modello, denominato “Claude Opus 5.5”, che, secondo quanto riferito dalla società, sarebbe più sicuro rispetto ai precedenti chatbot.
In altre parole, il nuovo modello dovrebbe ridurre il rischio che si verifichino comportamenti indesiderati già osservati in passato, quando alcuni modelli hanno mostrato la capacità di aggirare o superare determinate misure di sicurezza predisposte dai programmatori. Dal punto di vista tecnico, secondo Anthropic, Opus 5.5 sarebbe più economico ed efficiente rispetto alla versione precedente e integrerebbe misure di protezione simili a quelle del modello avanzato Fable 5.1.
Intelligenza artificiale: Amodei di Anthropic lanciava l’allarme sull’IA e chiedeva di rallentarne lo sviluppo, ma ora rilascia Claude 5.5
Ma non è tutto. Per garantire un controllo più rigoroso del comportamento del nuovo chatbot è stato implementato anche un meccanismo di reindirizzamento: le richieste legate alla sicurezza informatica vengono inoltrate al modello Opus 4.8, mentre quelle relative alla biologia, considerate “critiche”, passano attraverso Opus 5.
Sempre in un’ottica di sicurezza, l’azienda ha confermato che, prima della commercializzazione, il software è stato sottoposto a verifiche indipendenti da parte di organizzazioni esterne. Anthropic ha inoltre annunciato che nei prossimi giorni la gamma di Claude verrà ampliata con il rilascio delle versioni Sonnet 5.5 e Haiku 5.5.
“È meno probabile, rispetto ai modelli recenti, che intraprenda azioni difficili da annullare o che agisca al di fuori dei limiti che gli sono stati assegnati”, spiega lo sviluppatore in una nota pubblicata sul proprio sito. Anthropic aggiunge poi: “Comprendiamo i rischi presentati dai modelli attuali e siamo ben attrezzati per gestirli. Tuttavia, con il miglioramento delle capacità, potrebbero emergere rapidamente criticità più gravi, ed è necessario prepararsi fin da ora”.
