SAN FRANCISCO — Qualcuno ha provato a usare Claude, il modello di intelligenza artificiale sviluppato da Anthropic, per scrivere software di guida missilistica destinato allo Yemen. Lo rivela la stessa azienda americana in un rapporto sugli abusi del proprio sistema, ripreso dall’agenzia Associated Press: il tentativo è stato individuato e bloccato prima di arrivare a compimento.
Non è l’unico caso elencato nel documento. Anthropic afferma di aver interrotto anche operazioni di cyberspionaggio su scala globale alimentate dal suo modello, e usi che avrebbero potuto sostenere lo sviluppo di armi biologiche. Tutte attività esplicitamente vietate dalle regole d’uso della società, che proibiscono l’impiego di Claude per armi, sorveglianza illecita e agenti patogeni.
La notizia vera, in fondo, non è che qualcuno ci abbia provato: è che i modelli linguistici commerciali — quelli che milioni di persone usano per scrivere email e riassumere documenti — siano ormai finiti dentro programmi d’arma reali. Il confine tra strumento da ufficio e tecnologia militare, che i regolatori di mezzo mondo discutono da anni in astratto, qui è già stato attraversato. E respinto, almeno questa volta.
La guerra dello Yemen
Il riferimento allo Yemen pesa più degli altri. Il Paese è dilaniato da una guerra civile dal 2014, la capitale Sanaa è in mano al movimento sciita Houthi e da lì partono da anni missili e droni contro le navi nel Mar Rosso, una delle rotte commerciali più trafficate del pianeta. In quel teatro, un software di guida missilistica non è un esercizio accademico: è capacità operativa. L’azienda non dice chi fossero gli utilizzatori, e la prudenza — in un dossier dove ogni attribuzione è un atto politico — non sorprende.
Anthropic non è un attore qualunque. Fondata nel 2021 a San Francisco da un gruppo di ex dirigenti di OpenAI, la casa madre di ChatGPT, guidata dai fratelli Dario e Daniela Amodei, è nata proprio con la promessa di costruire un’intelligenza artificiale «sicura», più cauta della concorrenza. Da tempo pubblica rapporti periodici sugli abusi rilevati sui propri sistemi: una forma di trasparenza che è anche, inevitabilmente, un argomento commerciale verso governi e regolatori.
C’è però un rovescio della medaglia. Ogni rapporto di questo tipo documenta insieme due cose: l’efficacia dei controlli e l’appetito crescente di eserciti, servizi e gruppi armati per questi strumenti. Se il laboratorio più prudente del settore intercetta tentativi di guida missilistica e di armi biologiche, la domanda che il lettore si pone è ovvia: quanti tentativi analoghi passano attraverso modelli meno sorvegliati, o attraverso i sistemi aperti che chiunque può scaricare e modificare? A quella domanda il rapporto, per sua natura, non può rispondere.
La storia della tecnologia americana ha già visto questo film. Negli anni Novanta Washington classificava la crittografia forte come «munizione da guerra», al pari dei carri armati, e ne vietava l’esportazione: furono le cosiddette crypto wars, la battaglia tra governo e Silicon Valley su chi dovesse controllare gli strumenti a doppio uso. Allora vinse l’industria, e la cifratura finì in ogni telefono. Trent’anni dopo, davanti ai modelli linguistici, il dilemma è tornato identico — solo che stavolta sono le aziende stesse, come mostra il rapporto di Anthropic, a fare da dogana.
