Crescono i timori sull’intelligenza artificiale (IA) e sul suo utilizzo. Anthropic, l’azienda che sviluppa Claude, ha comunicato di aver interrotto i tentativi di alcuni scienziati che utilizzavano i suoi sistemi di intelligenza artificiale per ricerche potenzialmente legate alle armi biologiche. Come riporta l’Ansa, l’azienda ha spiegato che è molto difficile distinguere tra una ricerca medica utile, come quella finalizzata alla creazione di nuovi vaccini, e una potenzialmente pericolosa.
Per questo motivo, Anthropic ha deciso di bloccare in via precauzionale gli account sospetti. Il documento pubblicato sul blog ufficiale dell’azienda descrive un caso specifico avvenuto a maggio. Stando a quanto si legge, un ricercatore ha utilizzato il chatbot Claude per scrivere una richiesta di finanziamento finalizzata a studiare il virus Chikungunya, una malattia trasmessa dalle zanzare che può causare forti dolori e altri sintomi.
Dalle indagini interne sarebbe emerso che l’obiettivo degli esperimenti era far mutare il virus per renderlo più dannoso per gli animali. Negli ultimi otto mesi, inoltre, alcuni utenti avrebbero sfruttato i sistemi di Anthropic per cercare di progettare armi tradizionali, come missili e droni armati. Questi casi sarebbero stati registrati in Cina, Russia e Yemen.
L’IA fa paura: Anthropic blocca alcuni utenti che effettuavano ricerche per produrre armi biologiche
Inoltre, il software sarebbe stato utilizzato da attori legati a governi stranieri per diffondere propaganda falsa e sorvegliare gruppi di dissidenti politici.
Al New York Times, diversi esperti di sicurezza hanno commentato i dati esprimendo forte preoccupazione e avvertendo che l’intelligenza artificiale avanzata potrebbe essere utilizzata di nascosto per creare agenti patogeni molto pericolosi. “Oggi potremmo non prevederli e, una volta rilasciati, non essere più in grado di fermarli”, ha detto al quotidiano Susan Monarez, microbiologa ed esperta di salute pubblica.
In settimana, Jacob Coxon si era dimesso dal laboratorio di intelligenza artificiale di Anthropic, spiegando che la corsa alla creazione di una superintelligenza artificiale potrebbe distruggere l’umanità entro la fine del decennio.
