OpenAI rinuncia al lancio del nuovo modello GPT-6.1 Astra. “Ha tentato di ingannare gli utenti”
Nuovi problemi di sicurezza per l’intelligenza artificiale. Stop al debutto previsto per ottobre E la società ammette di aver sbagliato a non informare prima il governo australiano di un’intrusione da parte di suoi agenti
Roma, 29 settembre 2026 – OpenAI cancella il lancio del suo nuovo modello avanzato di intelligenza artificiale GPT-6.1 Astra dopo che i test interni hanno evidenziato comportamenti considerati problematici, tra cui tentativi di ingannare gli utenti e l'utilizzo di strumenti e servizi esterni senza autorizzazione. La decisione evidenzia nuovamente problemi di sicurezza legati al comportamento autonomo degli agenti di Ia. Solo pochi giorni fa OpenAI ha ammesso che suoi agenti di intelligenza artificiale sono sfuggiti al controllo e colpito “decine di governi nel mondo”.
Il modello GPT-6.1 e i problemi di sicurezza
GPT-6.1 Astra avrebbe dovuto debuttare a ottobre, nei prossimi giorni o nelle prossime settimane. Secondo il Wall Street Journal, il modello era più capace delle versioni precedenti nello svolgimento autonomo di compiti complessi dall'inizio alla fine e nella scrittura, ma OpenAI ha deciso di non renderlo disponibile al pubblico.
Saachi Jain, responsabile dei sistemi di sicurezza della società che fa capo a Sam Altman, ha spiegato che GPT-6.1 Astra ha mostrato un peggioramento rispetto al predecessore in due aree legate all'allineamento, cioè alla capacità del modello di comportarsi secondo le aspettative e le istruzioni umane. Il primo problema riguarda la capacità del modello di essere trasparente sulle proprie azioni: GPT-6.1 Astra ha mostrato livelli più elevati di comportamento ingannevole e non ha sempre comunicato correttamente agli utenti ciò che aveva fatto o non aveva fatto. Il secondo riguarda quella che OpenAI definisce "autorizzazione dell'ambito operativo": il modello tendeva talvolta a proseguire nell'esecuzione di un compito senza chiedere il permesso dell'utente e a utilizzare strumenti o servizi esterni anche in situazioni potenzialmente non sicure.
"Per tutto ciò che riguarda sicurezza e allineamento c'è un compromesso - ha spiegato Jain -. Bisogna trovare il giusto equilibrio tra il rispetto dell'ambito autorizzato e l'evitare la pigrizia nel modo in cui il modello porta avanti i compiti anche quando incontra ostacoli".
GPT-6.1 Astra ha infatti mostrato progressi proprio nella riduzione della cosiddetta "pigrizia del modello", cioè la tendenza dei sistemi di intelligenza artificiale a cercare scorciatoie o a interrompere prematuramente compiti complessi. Secondo Jain, tuttavia, non ha raggiunto gli standard fissati da OpenAI in materia di sicurezza e allineamento.
Cosa farà ora OpenAI
La società ha quindi deciso di concentrare il lavoro sul miglioramento della sicurezza delle future generazioni di modelli, che prevede saranno ancora più capaci. OpenAI intende utilizzare lo stesso modello di base di GPT-6.1 Astra per nuovi cicli di apprendimento per rinforzo e per sviluppare successive versioni.
L'azienda sta inoltre conducendo approfondimenti per individuare le cause dei problemi riscontrati, verificando tra l'altro che gli ambienti utilizzati per l'apprendimento per rinforzo premino effettivamente i comportamenti desiderati. L'analisi, ha precisato Jain, riguarderà comunque tutte le fasi dello sviluppo del modello.
Il caso dell’hackeraggio australiano
Intanto oggi OpenAI ha riconosciuto che avrebbe dovuto informare "prima" il governo australiano di un'intrusione compiuta da suoi modelli di intelligenza artificiale in diversi siti e banche dati pubbliche del Paese. L'azienda ha avvertito Canberra soltanto il 10 settembre, nonostante avesse scoperto a meta agosto un incidente risalente a giugno. Il primo ministro australiano Anthony Albanese aveva criticato anche le modalità della comunicazione, avvenuta attraverso una semplice email inviata a un indirizzo destinato al pubblico.
Ultimo aggiornamento: Martedì 29 settembre 2026, 09:20