Quando l’amministratore delegato di Microsoft dice che un’intelligenza artificiale potrebbe «persino assumere il controllo del governo», viene istintivo fermarsi a riflettere. Satya Nadella lo ha detto al Chase Center di San Francisco, a margine della conferenza Microsoft Ignite, rispondendo a una domanda sulle mosse della concorrente Anthropic. Il suo avvertimento è netto: se il mercato dell’IA si concentrasse in un solo operatore, con lo sviluppo dell’intelligenza artificiale generale (AGI) capace di trasformare la struttura stessa dell’economia, a rischio ci sarebbero l’equilibrio economico e la tenuta della democrazia.
Il timore, leggendo queste parole, ha un nome preciso: dipendenza. Nadella ha ricordato che l’IA «non ha limiti» e che «potrebbe guidare un’azienda sanitaria o una di servizi finanziari». Il pensiero che funzioni tanto delicate possano finire per poggiare su un solo modello, su un solo fornitore, preoccupa. E non serve essere d’accordo su ogni passaggio per riconoscere che il rischio di concentrazione è una questione seria, che riguarda tutti, cittadini compresi.
Il capo di Microsoft Nadella avverte: “L’IA non ha limiti, potrebbe assumere il controllo del governo”. Il rischio a suo dire è “il monopolio”
C’è però una perplessità che non si può tacere: l’allarme arriva da un attore in causa. Nadella parlava rispondendo a una domanda su Anthropic, concorrente di Microsoft. E la ricetta che indica, offrire alle aziende modelli differenti per soddisfare esigenze diverse e migliorare il controllo dei dati, coincide con la strategia commerciale della sua azienda. Questo non rende l’avvertimento falso. Un rischio può essere reale anche quando a segnalarlo è chi ne trarrebbe vantaggio. Ma invita a chiedersi quanto sia difesa della democrazia e quanto sia, anche, difesa del proprio mercato.
La frase sul governo, poi, va maneggiata con cura. «Potrebbe essere qualsiasi cosa, se lo volesse, persino assumere il controllo del governo». Colpisce, ma è uno scenario limite, non una previsione anche se ci non è affatto rassicurante. Il punto più solido dell’intervento non è l’ipotesi di un’IA al potere: è il rischio che un unico operatore acquisisca una posizione monopolistica, concentrando nelle proprie mani il mercato e una quota crescente del lavoro umano. È lì che il timore si fa fondato, ed è lì che bisognerebbe discutere, senza lasciarsi distrarre dall’immagine più suggestiva.
Un’altra perplessità riguarda la coscienza. Nadella ha escluso che i modelli attuali, incluso Claude di Anthropic, siano dotati di coscienza, e ha detto di condividere la posizione di Mustafa Suleyman, responsabile di Microsoft AI: niente diritti ai modelli, nessuno status morale. Ha definito il tema un dibattito interessante, senza toni dogmatici. Resta però aperta una questione: mentre le capacità operative dell’intelligenza artificiale si ampliano e i modelli potrebbero arrivare a svolgere funzioni sempre più delicate, il dibattito sulla loro eventuale coscienza e sul riconoscimento di uno status morale rimane tutt’altro che risolto. Sono due questioni distinte, ma entrambe destinate ad accompagnare lo sviluppo di queste tecnologie.
Il rischio, alla fine, è che la pluralità dei modelli resti uno slogan. Nadella la indica come rimedio, ma è anche la sua proposta commerciale. Resta una domanda che l’intervento non risolve: chi garantisce la pluralità, se gli stessi attori che la invocano sono anche concorrenti interessati a conquistare quote di mercato?