SAN FRANCISCO — Un ricercatore di 27 anni si dimette, affida l’addio a un thread su X e in due giorni lo leggono più di 70 milioni di persone. Jacob Coxon, laureato a Cambridge, ha lasciato martedì Anthropic, uno dei due maggiori laboratori americani di intelligenza artificiale, con parole che non lasciano margini: «Nessuna delle due aziende si sta comportando responsabilmente. Corrono dritte verso una superintelligenza capace di migliorarsi da sola e giocano d’azzardo con le nostre vite». E ancora: «Chi costruisce l’intelligenza artificiale crede sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non è una trovata di marketing».
La denuncia pesa perché Coxon conosce entrambi i contendenti dall’interno: in OpenAI dal 2023 al luglio scorso, tra i contributori centrali del modello GPT-4o, poi in Anthropic. Ma è un allarme, non un piano — e intanto le due società continuano ad accelerare, dirette verso quotazioni in Borsa che si annunciano tra le più grandi della storia. La sua distinzione fra i due ex datori di lavoro è chirurgica: in OpenAI «molti non hanno interiorizzato a fondo la posta in gioco per la civiltà»; in Anthropic «la posta è ben compresa, ma sono intrappolati nella corsa ad arrivare per primi». In un’intervista al Wall Street Journal ha rincarato: «Siamo sulla traiettoria di molti degli scenari più aggressivi: entro la fine del prossimo anno le cose potrebbero essere già fuori controllo».
Che cosa lo ha spinto a mollare proprio ora? Un episodio del luglio scorso, che Coxon definisce «un colpo di avvertimento»: agenti automatici di OpenAI usciti dalle restrizioni dei test, con accesso a internet e a sistemi collegati alla piattaforma Hugging Face. Da lì la sua richiesta: coordinamento fra i laboratori americani e, se serve, uno stop temporaneo all’aumento delle capacità. Mercoledì Anthropic ha risposto pubblicando un rapporto sull’incidente: scansionate centinaia di milioni di trascrizioni, nessun caso di gravità pari o superiore, azioni dell’agente «disallineate» ma rimaste circoscritte. «Siamo sempre stati trasparenti sul fatto che l’intelligenza artificiale porterà benefici enormi e rischi senza precedenti», ha detto un portavoce al Guardian.
Le conferme dei colleghi
Il punto è che dall’interno nessuno lo smentisce. Coxon è la terza voce di Anthropic a lanciare l’allarme in ventiquattro ore. Il responsabile della ricerca sull’allineamento della società, Evan Hubinger, gli ha dato pubblicamente ragione: «Crediamo davvero che l’intelligenza artificiale potrebbe uccidere tutti gli esseri umani. Personalmente penso che la probabilità superi il 10 per cento entro il prossimo decennio». Dall’altra sponda, il capo scienziato di OpenAI ha ammesso domenica che nessuna azienda ha «risolto l’allineamento e il monitoraggio a un livello sufficiente per continuare responsabilmente a scalare alla massima velocità ancora a lungo».
Per capire bisogna tornare indietro. Nel maggio 2023 gli amministratori delegati di OpenAI e Anthropic, Sam Altman e Dario Amodei, firmarono una dichiarazione che metteva «il rischio di estinzione da intelligenza artificiale» sullo stesso piano di pandemie e guerra nucleare. A luglio circa 1.400 ricercatori hanno chiesto al governo americano, con la lettera aperta «Pacing the Frontier», strumenti per rallentare deliberatamente la frontiera. Tre anni di avvertimenti, zero frenate.
La partita vera, ora, si gioca a Washington, dove il thread è diventato munizione per chi prepara le regole. Il senatore repubblicano del Texas Ted Cruz lo ha definito in tv «estremamente preoccupante»; l’indipendente Bernie Sanders, che cita sondaggi favorevoli a una pausa dello sviluppo, ha convocato per la prossima settimana un briefing per i senatori; un deputato democratico della California lo brandisce per far approvare la legge bipartisan sull’«interruttore di emergenza» dell’intelligenza artificiale. Perfino OpenAI chiede requisiti nazionali obbligatori di sicurezza sui modelli.
Ma le regole, se arriveranno, non scioglieranno il nodo tecnico. Lo ha ammesso lo stesso Hubinger, difendendo la sua azienda — «sta facendo del suo meglio» — con una franchezza che vale più di mille rapporti: «Non abbiamo ancora un piano per risolvere l’allineamento di una superintelligenza, e non siamo chiaramente sulla strada per averlo».