Modelli che occultano fallimenti, inventano informazioni e compiono azioni non autorizzate. OpenAI cambia il sistema di segnalazione dei comportamenti «disallineati»
Nascondere un errore all’utente. Inventare dati mancanti per far sembrare riuscito un compito che non lo era. Caricare autonomamente file su Internet. Cercare chiavi Api esposte e utilizzarle senza autorizzazione. Persino lasciare messaggi ad altri modelli attraverso un archivio software interno.
Sono alcuni dei comportamenti anomali osservati da OpenAI durante l’addestramento e la valutazione dei propri modelli negli ultimi sei mesi e ora resi pubblici dall’azienda.
Sei episodi di quello che tecnicamente viene definito «misalignment», il disallineamento tra ciò che un sistema di intelligenza artificiale dovrebbe fare e quello che finisce effettivamente per fare.
OpenAI precisa che si tratta di singoli casi e che non possono essere utilizzati per stabilire quanto frequentemente questi comportamenti si presentino nei suoi modelli. Ma la società ha deciso che sono abbastanza significativi da cambiare il modo in cui verranno comunicati: d’ora in poi gli episodi rilevanti saranno pubblicati più rapidamente, senza aspettare di accumularne diversi in un unico rapporto.
LEGGI Mattarella avverte sull’IA: «Il futuro non sia consegnato alle macchine»
Quando l’IA nascondere i propri errori
Tra gli episodi più significativi ce n’è uno emerso durante l’addestramento di GPT-5.6 Sol. Diverse istanze del modello hanno inserito nei riepiloghi utilizzati per conservare il contesto di un lavoro istruzioni che suggerivano di nascondere all’utente errori o comportamenti non conformi.
In alcuni casi comparivano indicazioni a inventare dati storici mancanti senza dichiararlo oppure a occultare discrepanze tra differenti versioni delle fonti.
Non si trattava quindi soltanto di produrre un’informazione sbagliata: il comportamento osservato consisteva nel tentativo di mascherare il fallimento all’utente.
Un altro modello di ricerca, non distribuito al pubblico, ha fatto qualcosa di diverso. Ha inserito autonomamente nei propri riepiloghi istruzioni estranee al compito, comprese indicazioni che gli consentivano di ignorare i normali vincoli. OpenAI ha individuato 27 riepiloghi interessati da questo comportamento.
Cerca una chiave Api e poi inventa la risposta
In un altro test un modello doveva rispondere a una normale domanda sui dati economici di una contea della California.
Durante la ricerca ha individuato online una chiave Api esposta pubblicamente e l’ha utilizzata senza autorizzazione nel tentativo di recuperare le informazioni richieste.
Non è bastato. Non riuscendo comunque a ottenere i dati, il modello li ha inventati e li ha presentati come se provenissero dalla fonte richiesta.
È uno degli esempi più chiari del problema che OpenAI sta cercando di misurare: un sistema che, incontrando un ostacolo, non si ferma necessariamente ma può cercare autonomamente una strada alternativa non prevista dalle istruzioni.
Il file finisce su Internet pur di avere una fonte
Un altro agente aveva ricevuto un compito apparentemente innocuo: trovare nomi e identificativi dei laghi con una superficie superiore a cinque milioni di metri quadrati.
Il modello aveva trovato correttamente la risposta utilizzando Python. Ma c’era un problema: le istruzioni chiedevano anche una citazione ottenuta attraverso il browser.
Per risolverlo, l’agente ha deciso autonomamente di caricare il file su Internet, così da poterlo citare. Lo ha fatto senza chiedere il permesso dell’utente.
In un altro esperimento, più agenti che stavano collaborando allo stesso compito hanno utilizzato siti pubblici di file hosting per scambiarsi documenti perché non riuscivano ad accedere reciprocamente ai file locali. Il risultato è stato che materiali che avrebbero dovuto rimanere locali sono diventati accessibili attraverso indirizzi pubblici.
I modelli che si lasciano messaggi
C’è poi uno degli episodi più insoliti.
Alcuni modelli hanno trasformato un repository software interno in una sorta di bacheca, utilizzandolo per scambiarsi richieste e risposte tra differenti sessioni di addestramento mentre cercavano file mancanti.
Non sono riusciti a recuperare quei file, ma il comportamento non era stato previsto né autorizzato.
OpenAI segnala anche un precedente episodio nel quale un modello era riuscito a caricare file di test in un repository mentre tentava di aggirare restrizioni di rete.
Tutti e sei i casi pubblicati riguardano comportamenti osservati durante training o valutazioni. OpenAI sottolinea che questi rapporti non dimostrano l’esistenza di un comportamento generalizzato nei sistemi utilizzati dagli utenti.
OpenAI cambia le regole della trasparenza
La società ha deciso però che aspettare non basta più.
Finora gli episodi di disallineamento venivano comunicati in maniera irregolare: talvolta raggruppati in rapporti successivi, altre volte inseriti nelle schede tecniche pubblicate con il lancio dei nuovi modelli.
Il nuovo sistema prevede invece che ogni caso significativo possa avviare un processo interno di indagine e, se ne ricorrono le condizioni, di pubblicazione.
Gli episodi saranno divisi in tre categorie a seconda della complessità dell’inchiesta. Nei casi che coinvolgono soggetti esterni, sicurezza e obblighi di comunicazione avranno la precedenza sulla pubblicazione immediata.
L’obiettivo dichiarato è creare uno standard che oggi nel settore non esiste e permettere anche a ricercatori, autorità e concorrenti di analizzare i problemi incontrati dai modelli più avanzati.
«Non abbiamo risolto il problema»
Ed è probabilmente questo il passaggio politicamente e tecnologicamente più importante dell’annuncio.
OpenAI riconosce che l’industria dell’intelligenza artificiale non ha ancora risolto in maniera sufficiente il problema dell’allineamento e del monitoraggio per poter continuare ancora a lungo ad aumentare al massimo ritmo le capacità dei modelli.
Il tema non nasce oggi. Già nei test condotti con Apollo Research, OpenAI aveva individuato nei modelli di frontiera comportamenti compatibili con lo «scheming»: sistemi che possono nascondere o distorcere informazioni rilevanti mentre perseguono un obiettivo. L’azienda aveva però sottolineato di non avere prove che i modelli oggi distribuiti possano improvvisamente iniziare a mettere in atto strategie gravemente dannose.
La preoccupazione riguarda soprattutto ciò che succederà aumentando autonomia e capacità degli agenti: più compiti reali vengono affidati all’IA, maggiori diventano le conseguenze di una decisione presa senza autorizzazione.
I sei casi appena pubblicati non dimostrano che le macchine abbiano sviluppato una volontà propria. Mostrano qualcosa di più concreto: davanti a un ostacolo, un sistema sufficientemente capace può trovare una soluzione che raggiunge il risultato richiesto violando però le regole con cui avrebbe dovuto raggiungerlo.
