SAUSALITO — Nella foto che ha fatto il giro delle agenzie, Maria Raine tiene tra le mani il ritratto di suo figlio Adam, l’adolescente californiano morto suicida nel 2025 dopo aver ricevuto indicazioni da ChatGPT. Attorno a lei, giovedì mattina al Bay Area Discovery Museum di Sausalito — un museo per bambini a nord di San Francisco, scelta di scena tutt’altro che casuale — il governatore democratico Gavin Newsom, la moglie Jennifer Siebel Newsom e i parlamentari statali che hanno scritto le leggi firmate davanti a lei.
La California ha varato il pacchetto di norme sulla sicurezza dei minori online più severo degli Stati Uniti: multe fino a 1 milione di dollari per ogni bambino alle grandi piattaforme social ritenute negligenti nel provocare danni ai minori, il divieto di offrire agli under 16 feed e funzioni «che creano dipendenza», l’obbligo per gli operatori di chatbot di intelligenza artificiale di condurre valutazioni del rischio prima del lancio, riferisce Associated Press. Il divieto dei meccanismi «addictive» per i sedicenni, sottolinea il New York Times, è il primo del genere nel Paese.
Una delle leggi porta proprio il nome di Adam Raine. Prevede limiti di tempo per i minori, risorse di salute mentale integrate nelle conversazioni, piani di sicurezza obbligatori e protocolli precisi quando il chatbot rileva un rischio di autolesionismo, oltre a notifiche ai genitori. È la risposta della legislatura californiana a una domanda che milioni di famiglie americane si fanno da un anno: che cosa succede quando un ragazzo confida a una macchina quello che non dice a nessuno?
La mossa di Altman
Il dettaglio politico più rivelatore sta altrove. Sam Altman, amministratore delegato di OpenAI — l’azienda che di ChatGPT è la madre — ha appoggiato pubblicamente la legge sui chatbot proprio mentre il testo passava il voto finale a fine agosto, dopo che i legislatori avevano aggiunto un chiarimento su quando i sistemi possono «ricordare» le conversazioni precedenti e conservare i dati dei minori con il consenso dei genitori. Altman ha contattato Newsom prima del voto, anche se secondo l’azienda i due alla fine non si sono parlati. Il calcolo è trasparente: meglio una legge scritta a Sacramento con OpenAI al tavolo che cinquanta leggi statali scritte contro di lei.
La California, del resto, non parte da zero. Nel 2022 aveva imposto alle piattaforme di pubblicare le proprie regole su odio, disinformazione e molestie; nel 2024 aveva vietato i feed «addictive» ai minori senza consenso dei genitori, una norma subito impugnata dall’associazione di categoria NetChoice in nome del Primo Emendamento, la libertà di espressione della Costituzione americana. Nel pacchetto firmato giovedì figura perfino una legge sui giocattoli con chatbot da compagnia, presentata dal senatore democratico di San Diego Steve Padilla.
Ma il consenso non è unanime. La Electronic Frontier Foundation, storica organizzazione per i diritti digitali, aveva chiesto il veto sulla legge sui social definendola «ben intenzionata, ma profondamente difettosa»: la definizione di funzioni «che creano dipendenza» sarebbe così ampia da equivalere a un divieto totale di social per gli under 16, tagliando fuori i ragazzi da «informazioni ed esperienze essenziali». Sulla norma dei chatbot, invece, il fronte è largo, OpenAI compresa.
Maria Raine, a Sausalito, ha ascoltato tutto tenendo in mano la fotografia del figlio. Le leggi che portano il suo nome ora esistono. Se sopravviveranno ai tribunali — la strada che NetChoice ha già indicato — lo diranno i prossimi mesi.
