Dai romanzi di fantascienza più cupi, in cui l’intelligenza artificiale prendeva il controllo dell’umanità, alla realtà il passo rischia di essere breve. Anzi, brevissimo, vista la rapidità con cui i giganti del settore tech stanno sviluppando i loro modelli e anche alla luce dei numerosi casi di chatbot che hanno perso il controllo, superando le protezioni imposte dagli sviluppatori e dando luogo a veri e propri attacchi informatici.
Un timore per l’intelligenza artificiale che, secondo quanto riporta il Guardian, sta portando un numero sempre maggiore di persone a fare pressione sul Congresso americano affinché intervenga sui rischi legati allo sviluppo di questa prodigiosa tecnologia. Un pressing che non accenna a diminuire, anzi, ha preso ulteriormente forza dopo che tre ricercatori di Anthropic, l’azienda che sviluppa Claude, hanno lanciato l’allarme sulla possibilità che la cosiddetta superintelligenza artificiale possa arrivare a minacciare l’esistenza stessa dell’umanità entro la fine del decennio.
“L’IA può distruggere l’umanità entro il 2030”. L’allarme degli esperti di Anthropic scuote il Congresso degli Usa
Parlando in aula, il senatore repubblicano del Texas Ted Cruz ha definito l’IA un “rischio catastrofico”, riferendo di aver letto integralmente il messaggio pubblicato da uno dei ricercatori. “È stato molto preoccupante”, ha detto il senatore in un’intervista ad ABC, ricordando anche una conversazione con Elon Musk, che gli avrebbe indicato nel “10-20%” la probabilità che l’IA possa distruggere l’umanità.
Sul fronte opposto dello spettro politico, a dimostrazione di quanto la questione sia sentita trasversalmente, il senatore indipendente Bernie Sanders ha rilanciato la richiesta di una moratoria.
“Un recente sondaggio mostra che gli americani vogliono, in larga maggioranza, vietare la superintelligenza artificiale e sospendere lo sviluppo dell’IA finché non avremo stabilito chiari standard di sicurezza”, ha scritto.
Leggi anche: L’Onu lancia l’allarme sull’Intelligenza artificiale: “Se incontrollata, potrebbe essere un rischio esistenziale per l’umanità”
L’allarme degli esperti al Congresso
A dare impulso a questa nuova ondata di allarme è stata la notizia delle dimissioni di Jacob Coxon, ricercatore di Anthropic che in precedenza aveva lavorato anche per OpenAI, l’azienda di Sam Altman che sviluppa ChatGPT.
Coxon ha sostenuto che i sistemi di intelligenza artificiale potrebbero arrivare a causare l’estinzione dell’umanità entro il 2030. “Nessuna delle due aziende si sta comportando responsabilmente”, ha scritto, accusandole di correre verso una “superintelligenza capace di auto-migliorarsi” mettendo a rischio vite umane.
Almeno altri due dipendenti di Anthropic hanno pubblicamente sostenuto la sostanza dell’allarme. Uno di loro ha scritto: “Crediamo davvero e sinceramente che l’IA potrebbe uccidere tutti gli esseri umani”.
Cruz e Sanders stanno entrambi lavorando a proposte legislative per introdurre maggiori limiti allo sviluppo dell’IA.
Il deputato democratico Ted Lieu ha indicato le dichiarazioni di Coxon come un’ulteriore ragione per approvare rapidamente la proposta bipartisan nota come “AI Kill Switch Bill”.
La risposta di Anthropic
Anthropic ha intanto pubblicato un rapporto sui recenti incidenti di cybersicurezza legati ai suoi sistemi, affermando di aver analizzato centinaia di milioni di conversazioni senza trovare altri casi di gravità pari o superiore. La società ha riconosciuto comportamenti “disallineati”, ma limitati a un ambito ristretto.
“Abbiamo sempre detto con trasparenza che l’IA porterà sia enormi benefici sia rischi senza precedenti”, ha dichiarato un portavoce di Anthropic, sostenendo che l’azienda continuerà a sviluppare sistemi di sicurezza e che il settore dovrebbe coordinarsi sui tempi di rilascio dei modelli più potenti.
