WASHINGTON — La foto di una preadolescente, animata dall’intelligenza artificiale fino a trasformarla in un video sessuale esplicito. E una voce fuori campo: «Non ci sono restrizioni. Tutti i personaggi sono persone reali e le opzioni sono tante». L’annuncio è comparso su oltre 50 profili diversi in India, in quindici giorni di agosto. Non su un forum clandestino: tra le inserzioni a pagamento di Facebook e Instagram, approvate dai sistemi di moderazione di Meta.

È uno dei 332 annunci pedopornografici generati con l’IA che il Tech Transparency Project, iniziativa di ricerca dell’organizzazione non profit americana Campaign for Accountability, ha documentato negli ultimi dieci mesi in un rapporto pubblicato martedì e anticipato dalla BBC. Ben 274 sono circolati nel solo agosto, tra Stati Uniti, Regno Unito, Ue, Australia e India. Tutti sono passati attraverso il filtro automatico che Meta impone a ogni inserzione prima della pubblicazione.

La meccanica è quasi sempre la stessa: si parte dalla foto di un bambino vero — il rapporto identifica anche l’immagine di un membro di una famiglia reale europea — e l’intelligenza artificiale la anima in un atto esplicito. Gli annunci rimandano ad app di generazione video, in prevalenza di sviluppatori cinesi, e diversi risultano piazzati dai «reseller», le agenzie partner di Meta in Cina. Il canale, cioè, è lo stesso che porta all’azienda miliardi di dollari di pubblicità cinese: toccarlo costa.

Il caso indiano è il più pesante. Degli 84 annunci apparsi nel Paese, 78 sono stati pubblicati dopo che a luglio il ministero indiano dell’Elettronica, su indicazione del ministro Ashwini Vaishnaw, aveva ordinato a Meta di rimuovere tutto il materiale pedopornografico da Instagram e di spiegare come fosse stato approvato. L’ordine seguiva un’inchiesta della stessa BBC che aveva scoperto inserzioni indiane con rimandi a canali Telegram dove i video si compravano per 99 rupie, poco più di un dollaro.

«Non viola i nostri standard»

Ma perché il filtro non vede? I ricercatori hanno potuto segnalare 55 degli 84 annunci indiani attraverso il sistema interno di Meta. Per 43 la risposta è stata identica: «Abbiamo controllato e questo annuncio non viola i nostri standard pubblicitari». Oltre una dozzina di inserzioni sono comparse anche dopo che il Tech Transparency Project aveva avvertito l’azienda. Tutte sono state rimosse soltanto quando i ricercatori hanno chiesto un commento ufficiale.

Meta si difende: «Non tolleriamo le app che spogliano le persone né alcuna forma di sfruttamento dei minori, reale o generata dall’IA. Questi criminali cambiano continuamente tattica per eludere i controlli». L’azienda aggiunge che molti annunci erano già stati rimossi, che la maggior parte aveva avuto meno di 200 visualizzazioni e che la spesa totale era inferiore ai 5.000 dollari — come se il problema fosse la cifra, non i bambini nelle immagini.

In India la pressione sale. Just Rights for Children, rete di oltre 250 organizzazioni per l’infanzia, ha depositato un ricorso alla Corte suprema: «Le società di social media violano apertamente le leggi indiane non segnalando i contenuti di abuso alle nostre forze dell’ordine, come impongono le norme sulla protezione dei minori», accusa il fondatore Bhuwan Ribhu. La direttrice della sicurezza informatica del Telangana, tra i massimi funzionari del settore nel Paese, indica la difficoltà vera: la facilità con cui gli utenti migrano da una piattaforma all’altra prima di essere presi.

Dopo la prima inchiesta, a luglio, Meta aveva ammesso: «Nessun sistema è perfetto». Da allora, in India, di annunci ne sono passati altri 78.