SAN FRANCISCO — L’uomo che guida una delle aziende più avanzate al mondo nell’intelligenza artificiale chiede di rallentare l’intelligenza artificiale. Dario Amodei, amministratore delegato di Anthropic — la società di San Francisco che sviluppa l’assistente Claude, uno dei principali concorrenti di ChatGPT — ha lanciato un appello al settore perché freni lo sviluppo dei modelli più potenti e li sottoponga a valutazioni indipendenti, affidate a soggetti terzi, prima e durante il rilascio. Il timore dichiarato è di quelli che non ammettono sfumature: che i sistemi diventino capaci di provocare danni su scala mondiale.

A rendere la mossa clamorosa è il tempismo, riferisce il Guardian. L’appello arriva a poche ore di distanza da un rapporto della stessa Anthropic che elenca i modi in cui Claude è stato sfruttato per guerra, spionaggio e repressione. Nello stesso giorno, dunque, l’azienda ha documentato gli abusi del proprio prodotto e il suo capo ha chiesto all’intero settore di frenare. Non un attivista, non un regolatore: il costruttore che denuncia la propria creatura.

Perché un’azienda dovrebbe raccontare al mondo che il suo prodotto viene usato per la guerra e lo spionaggio? Perché il messaggio non è rivolto ai clienti, ma ai concorrenti e ai governi: se nemmeno la società che ha fatto della sicurezza la propria bandiera riesce a impedire gli usi ostili dei suoi modelli, nessuno può farlo da solo — e allora servono regole valide per tutti. La proposta delle verifiche esterne va letta così: un controllo terzo, l’equivalente di un collaudo obbligatorio prima della messa su strada, che oggi in America semplicemente non esiste.

La partita vera, però, si gioca sul terreno della concorrenza. Chiedere valutazioni indipendenti costa poco a chi, come Anthropic, ha costruito la propria identità sulla prudenza, e molto a chi corre per arrivare primo. Amodei non chiede di fermare la ricerca: chiede di cambiare le regole della gara mentre la gara è in corso.

Il precedente del 2023

Non è la prima volta che dall’interno del settore arriva un allarme di questa portata. Nel 2023 centinaia di ricercatori e imprenditori firmarono una lettera aperta che chiedeva una moratoria di sei mesi sull’addestramento dei sistemi più potenti. Non se ne fece nulla: i laboratori continuarono a correre, i modelli diventarono più capaci, gli investimenti si moltiplicarono. Quell’appello, però, veniva in gran parte da osservatori esterni. Questo no.

Anthropic è nata nel 2021 da un gruppo di fuoriusciti di OpenAI, la casa madre di ChatGPT, proprio in dissenso sulla gestione dei rischi. Amodei era tra loro. Da allora la società si presenta come il laboratorio della sicurezza — ma nulla, in questo mercato, ferma la spinta a costruire modelli sempre più grandi, nemmeno per chi li teme. È la contraddizione che l’amministratore delegato porta ora allo scoperto, con una franchezza che la BBC, l’emittente pubblica britannica, registra come inedita per il vertice di un grande laboratorio americano.

Resta il quadro d’insieme, ed è quello che l’appello vuole illuminare: un’industria che si autoregola mentre i suoi prodotti vengono già piegati a guerra, sorveglianza e repressione. Amodei ha scelto di dirlo per primo, e di dirlo sul proprio prodotto. Ora la mossa passa agli altri: ai rivali, che dovranno dire se accettano i controlli esterni, e ai legislatori, a Washington come a Bruxelles, che finora hanno lasciato correre.