Secondo molti esperti informatici, nello sviluppo dell’intelligenza artificiale c’è una linea rossa che non dovrebbe essere superata: l’auto-miglioramento dei modelli. Proprio per questo, nel tempo, sono stati lanciati numerosi appelli a non dare il via a questa pratica che, però, sembrano essere caduti nel vuoto.
Come riporta il Washington Post, in Anthropic, l’azienda guidata da Dario Amodei, “più di un quarto delle attività di ricerca e sviluppo” dell’IA “è ormai guidato dal chatbot Claude”.
Leggi anche: Intelligenza artificiale, l’allarme di Amodei. Negato da Trump nel silenzio del governo italiano
Sempre secondo il prestigioso quotidiano, “la quota è salita da zero in pochi mesi e segnala i progressi verso sistemi di IA capaci di contribuire al proprio stesso sviluppo”. Secondo Anthropic, una revisione interna delle attività di ricerca e sviluppo ha rilevato che Claude è in grado di “guidare” il lavoro nel 26% dei casi, con gli esseri umani limitati soprattutto alla supervisione e alle indicazioni generali.
Tanto per capire la velocità di questo sviluppo, a febbraio la quota era pari a zero. La società ha precisato che, al momento, Claude non opera “in piena autonomia”, ossia senza intervento umano, anche perché esistono “rischi legati al cosiddetto auto-miglioramento ricorsivo, uno scenario nel quale sistemi di IA diventano abbastanza avanzati da accelerare autonomamente il proprio sviluppo”.
Leggi anche: L’IA sfugge al controllo? OpenAI rivela sei incidenti inquietanti: ecco cosa hanno fatto i suoi modelli
Anthropic ammette: Claude guida già oltre un quarto della ricerca sull’IA
“Modelli che accelerano il proprio sviluppo potrebbero rendere più difficile per gli esseri umani comprendere o controllare questi sistemi”, ha affermato la società. Anthropic ha inoltre reso noto di utilizzare circa 30.000 “agenti” di IA in attività di ricerca e ingegneria e di destinare circa il 6% della capacità di calcolo impiegata nella ricerca e sviluppo ad attività legate alla sicurezza.
La società ha invitato anche gli altri sviluppatori di sistemi avanzati di IA a pubblicare dati analoghi, sostenendo che queste misurazioni possono offrire al pubblico, ai governi e ai soggetti indipendenti una maggiore visibilità sulla velocità dello sviluppo tecnologico.
Le dichiarazioni arrivano dopo che l’amministratore delegato Amodei ha chiesto alle principali aziende del settore di coordinare un rallentamento nello sviluppo dell’IA, così da avere più tempo per rafforzare le misure di sicurezza. La proposta ha ricevuto il sostegno di alcuni importanti esponenti del settore, mentre il presidente degli Stati Uniti Donald Trump ha espresso opposizione a un rallentamento.
