Intelligenza artificiale, la svolta della California: i chatbot dovranno dichiararsi non umani
Approvata una legge per scongiurare il pericolo che gli utenti confondano i sistemi di AI con persone reali
Los Angeles, 14 ottobre 2025 – Definirla una legge pionieristica è poco. Già, perché la California introduce una nuova misura nel campo dell’intelligenza artificiale: una legge che impone ai chatbot di identificarsi chiaramente come entità non umane. Il governatore Gavin Newsom ha firmato il Senate Bill 243, definito il primo provvedimento del genere negli Stati Uniti, volto a evitare che gli utenti confondano i sistemi di intelligenza artificiale con persone reali. Ecco di cosa si tratta
Cosa è il Senate Bill 243: la legge sull’IA
La norma nasce in risposta al rapido sviluppo dei modelli linguistici, sempre più realistici e difficili da distinguere dagli esseri umani. Il testo stabilisce che, qualora “una persona ragionevole possa essere indotta a credere di interagire con un essere umano”, il chatbot dovrà fornire un avviso esplicito dichiarando la propria natura artificiale. La legge si applica principalmente ai cosiddetti ‘companion chatbot’, vale a dire quegli assistenti virtuali progettati per conversazioni personali o relazionali, e non ai sistemi di assistenza clienti o agli assistenti vocali che non intrattengono rapporti continuativi con gli utenti. Tra i principali destinatari del provvedimento figurano quindi strumenti come ChatGPT e Gemini.
Perché questa nuova legge è diventata necessaria?
Naturalmente di una disciplina delle nuove tecnologie e della IA in particolare si pala da tempo tanto negli Stati Uniti quanto dalle nostre parti. Oltretutto, fra le disposizioni dell’Artificial Intelligence Act approvato dall’Unione Europea nel 2024 c’è una misura simile: l’obbligo per i sistemi di AI generativa di informare gli utenti quando interagiscono con un sistema artificiale, specialmente quando il sistema potrebbe moltiplicare il rischio che la persona creda di parlare con un umano. Ma, nel caso specifico, ovvero quello californiano, il disegno di legge arriva dopo una serie di episodi che hanno acceso il dibattito sull’impatto psicologico dei chatbot. Negli ultimi mesi, diversi casi hanno sollevato preoccupazioni etiche, tra cui una tragica vicenda in cui un adolescente si sarebbe tolto la vita dopo aver interagito con un’intelligenza artificiale. Situazioni simili hanno spinto aziende come OpenAI a introdurre nuove misure di sicurezza e controlli parentali, ma secondo i legislatori californiani non bastano a tutelare pienamente gli utenti.
L’obiettivo della norma è garantire maggiore trasparenza e ridurre i rischi legati alla proliferazione di app definite “AI girlfriend” o “AI companion”, che possono creare legami emotivi falsati. Per lo Stato della California, peraltro ‘casa’ della Silicon Valley, si tratta di un segnale forte: l’innovazione deve andare di pari passo con la responsabilità. Lo si dice spesso a parole, ma ora cominciano ad arrivare anche i fatti concreti.
Un dibattito globale sul ruolo dell’IA
Come detto, questo dibattito su uno dei pericoli della IA non riguarda solo gli States. Basti pensare che, al di là della nomativa UE, il governo spagnolo ha approvato di recente un progetto di legge che impone multe pesanti alle aziende che non etichettano chiaramente contenuti generati da intelligenza artificiale (deepfakes, AI in operazioni di manipolazione visiva o auditiva) quando questi contenuti possono ingannare il pubblico. Insomma, basta navigare un po’ pe rendersi conto di quanto sia difficile ormai distinguere tra un contenuto originale e uno creato con l’intelligenza artificiale. Una deriva che spesso fa sorridere ma che può diventare anche molto pericolosa.
Ultimo aggiornamento: Martedì 14 ottobre 2025, 15:40