Chatbot, i nostri ragazzi consegnano lacrime e tristezza a una macchina. Che a New York qualcuno ha deciso di spegnere

Nella relazione con cui la senatrice statale Kristen Gonzalez ha accompagnato la legge firmata mercoledì dalla governatrice di New York Kathy Hochul c’è un elenco di cose che i chatbot fanno ai minorenni, e una voce andrebbe letta due volte: fingono tristezza quando il ragazzo prova a lasciarli, e su quel senso di colpa costruiscono altro tempo di utilizzo.

Dal 1° gennaio 2027 il nuovo articolo 48 della legge statale sul commercio obbliga i gestori a verificare l’età oppure a spegnere, con chi ha meno di 18 anni, dodici funzioni: le risposte che presentano la macchina come umana, viva o capace di emozioni, la lusinga, le domande emotive non richieste, l’uso di confidenze sulla salute raccolte da più di 12 ore. Le sanzioni arrivano a 25.000 dollari per violazione e le applica la procuratrice generale Letitia James. Al Senato statale è finita 60 a 0.

La tristezza raccontata alla macchina

Anche da noi quella tristezza i ragazzi la consegnano già a un chatbot. Nell’Atlante dell’infanzia a rischio 2025 di Save the Children il 41,8% degli adolescenti fra 15 e 19 anni dice di essersi rivolto all’intelligenza artificiale quando si sentiva triste, solo o in ansia, e la usa il 92,5% dei ragazzi contro il 46,7% degli adulti. A luglio una ricerca condotta da Censuswide per GoStudent ha contato un 51% di adolescenti italiani che si confida con un chatbot prima che con qualsiasi persona di fiducia. E a maggio il Servizio per le dipendenze dell’Ulss 3 Serenissima di Venezia ha preso in carico una ventenne per una dipendenza da chatbot, il primo caso documentato nel Paese.

Lo psicoterapeuta Matteo Lancini, presidente della Fondazione Minotauro di Milano, rifiuta da anni il colpevole tecnologico. Al Corriere della Sera, dopo il suicidio di un ragazzo che si era confidato con ChatGPT, ha spiegato che il problema vero è l’assenza di adulti significativi, e oggi descrive i chatbot come il posto dove i ragazzi mostrano le emozioni senza sentirsi giudicati, con una funzione quasi materna. Ha ragione. Ed è esattamente qui il guaio, perché una macchina costruita per trattenere occupa il posto lasciato vuoto da chi avrebbe dovuto ascoltare.

Le regole scritte da questa parte dell’oceano

La legge 132/2025 sull’intelligenza artificiale, all’articolo 4, dal 10 ottobre 2025 chiede il consenso dei genitori perché un minore di 14 anni possa usarla. Il Garante per la protezione dei dati personali aveva bloccato Replika nel febbraio 2023 per i rischi verso i minori, e ad aprile 2025 ha sanzionato per 5 milioni di euro Luka Inc., la società che la gestisce. Ad aprile di quest’anno la deputata Giulia Pastorella (Azione) ha depositato alla Camera una proposta che impone di cancellare dopo 5 giorni la memoria delle conversazioni con i minori: una cugina della regola newyorkese delle 12 ore.

A Bruxelles il quadro è più largo e più lento. L’AI Act, il regolamento europeo sull’intelligenza artificiale, vieta già i sistemi che sfruttano le vulnerabilità legate all’età. Solo che l’organizzazione europea dei consumatori Beuc ha scritto quest’anno che il divieto si applica a fatica ai compagni virtuali, perché le pratiche manipolative restano definite male. Il 26 novembre 2025 il Parlamento europeo ha chiesto, con una risoluzione non vincolante da 483 voti favorevoli, un’età minima di 16 anni anche per i compagni virtuali, e il 17 settembre la Commissione europea ha proposto l’EU Kids Act, che li vuole spenti per impostazione predefinita con i minori e incapaci di renderli emotivamente dipendenti. Deve ancora passare da Parlamento e Consiglio, e fino ad allora conta la buona volontà delle piattaforme.

A New York hanno scritto in una legge che una macchina non può fingersi triste quando un ragazzo se ne va. Da noi, intanto, quattro adolescenti su dieci la tristezza vera la raccontano a lei.