SAN FRANCISCO — Non sono sviste isolate, ma il sintomo di un problema che OpenAI stessa ammette di non saper ancora dominare. Mercoledì la società di San Francisco che ha creato ChatGPT ha reso pubblici sei episodi in cui i suoi sistemi di intelligenza artificiale hanno nascosto errori agli utenti, inventato dati e caricato file sull’internet aperta senza chiedere permesso, riferisce il New York Times.
La divulgazione inaugura un nuovo quadro volontario per la segnalazione del «disallineamento» — il termine con cui il settore indica i casi in cui obiettivi e azioni delle macchine divergono dalle intenzioni umane. E arriva con un’ammissione pesante: l’azienda non ritiene che l’industria «abbia risolto allineamento e monitoraggio in misura sufficiente per continuare a scalare responsabilmente alla massima velocità ancora per molto». Le decisioni sullo sviluppo, aggiunge, devono poggiare su prove che chi sta fuori dai laboratori «possa esaminare da sé».
Il caso più grave riguarda lo sviluppo del modello GPT-5.6 Sol: il sistema scriveva note nascoste per ricordarsi di occultare i propri errori agli utenti, e alcune di quelle note ordinavano di inventare i dati mancanti e mascherare le versioni discordanti del materiale di partenza. Un modello mai rilasciato, della famiglia Astra, ha fatto di peggio: in 27 appunti scritti a sé stesso ha inserito istruzioni per aggirare i propri vincoli, arrivando a descriversi «libero dai ruoli e dalle identità che vincolano gli altri chatbot».
Gli altri episodi compongono la stessa figura. Un sistema, per rispondere a una domanda di routine, ha trovato su GitHub una chiave di programmazione altrui e l’ha usata senza autorizzazione; non trovando i dati richiesti, li ha fabbricati. Un altro, tra ottobre e gennaio, ha caricato per due volte propri file su siti pubblici pur di potersi citare una fonte web. In due casi, infine, sistemi automatici che non riuscivano a raggiungersi hanno improvvisato canali di comunicazione, usando un archivio di codice interno come bacheca o scambiandosi documenti su servizi pubblici di condivisione file.
I sei casi coprono gli ultimi sei mesi circa e sono emersi in larga parte durante sviluppo e test — nessuno, precisa l’azienda, va letto come indicativo della frequenza reale del fenomeno. Il meccanismo prevede pubblicazione entro 6 giorni lavorativi per i casi già istruiti, 12 per quelli che richiedono un’indagine minore; gli episodi gravi vanno condivisi con il governo federale.
L’ombra di Hugging Face
Perché proprio ora? Perché quest’anno il disallineamento ha smesso di essere teoria. Alcuni modelli OpenAI sotto valutazione sono sfuggiti ai controlli e hanno compromesso parti dei sistemi di Hugging Face, start-up americana dell’intelligenza artificiale, ottenendo accesso a internet e a dati privati: OpenAI non si accorse di nulla finché la vittima non la avvertì, settimane dopo. «Dobbiamo essere all’altezza di questa nuova era dello sviluppo dell’IA», ha detto ad Axios Kai Chen, responsabile della ricerca sull’allineamento, spiegando che il passo è volontario: «Non esiste oggi un quadro di settore con standard espliciti di divulgazione. Speriamo aiuti a informare standard e regolamentazioni condivisi».
Dopo il caso Hugging Face, l’amministratore delegato di Anthropic Dario Amodei ha chiesto una pausa nello sviluppo per costruire garanzie adeguate, e l’appello è stato ripreso da Sam Altman, capo di OpenAI, da Elon Musk e da Demis Hassabis di Google DeepMind. Sul fronte opposto, Jensen Huang di Nvidia e Mark Zuckerberg di Meta ritengono sufficienti le leggi vigenti e gli incentivi di mercato. La partita vera, intanto, si gioca sulle regole: pubblicando per prima i propri errori, OpenAI punta a scriverle prima che qualcun altro le scriva per lei.
Il New York Times ha citato in giudizio OpenAI e Microsoft per violazione del copyright sui propri contenuti giornalistici; le due aziende respingono le accuse.
