L’altro caso. Intelligence con l’IA. Sfiorato lo scontro con la Cina

Dopo OpenAI e Anthropic anche Google conferma un incidente che ha riguardato il proprio sistema di intelligenza artificiale Gemini. Agenti di Google Gemini – programmi IA in grado di svolgere compiti autonomamente – avrebbero ottenuto lo scorso maggio l’accesso a internet e violato tre sistemi aziendali esterni durante un test di sicurezza. La notizia non è da poco, anche perché Gemini è uno dei chatbot più utilizzati al mondo e i suoi modelli alimentano anche il motore di ricerca Google. Riportati dal Wall Street Journal, i fatti sono stati poi confermati da Google. Il colosso tecnologico sostiene che gli agenti – durante un test condotto da Irregular, un’azienda esterna – abbiano interrotto le operazioni quando si sono accorti dell’errore. E senza danni. "Non abbiamo reso pubblico l’incidente perché le misure di sicurezza hanno funzionato".

È ovvio però che la rivelazione arriva in un clima molto diverso da quello di maggio. Negli ultimi mesi sono stati, infatti, rivelati diversi incidenti in cui agenti IA avevano operato in modo non previsto. Particolarmente inquietante il caso in cui 1.200 agenti di OpenAI si sono coalizzati – scambiandosi per mesi messaggi su una bacheca segreta creata appositamente –, erano riusciti a collegarsi a internet eludendo le restrizioni del test e in 700 avevano attaccato il sito di Hugging face, che contiene risorse per sviluppatori. Il tutto allo scopo di risolvere un problema di cybersecurity che era stato loro affidato.

La settimana scorsa, in un paper, l’amministratore delegato di Anthropic, Dario Amodei, ha proposto un ’rallentamento’ al settore per poter garantire la sicurezza dei modelli, di concedere l’accesso a valutatori indipendenti, regole comuni e accordi fra aziende sui rischi più gravi. L’iniziativa è stata interpretata in modi anche contraddittori: come un autentico allarme sulla sicurezza, un tentativo di anticipare regole più severe o come una strategia per frenare una corsa che richiede investimenti sempre più ingenti, proprio mentre Anthropic prepara una possibile, imminente quotazione. Alla proposta hanno aderito, con accenti diversi, Elon Musk di xAI, Sam Altman di OpenAI e Demis Hassabis di Google DeepMind. Il presidente Donald Trump ha definito una bufala i rischi per la sicurezza ma, secondo i retroscena, alla Casa Bianca ci sarebbe un dibattito sul tema molto più articolato. Ieri sul social Truth, Trump ha annunciato la prossima creazione di una task force che si chiamerà ‘AI Force’.

Diverso, ma altrettanto allarmante è un incidente riportato dalla Cnn. Una fonte ha rivelato che la scorsa primavera, una relazione realizzata da un analista con l’aiuto dell’intelligenza artificiale, avrebbe rischiato di provocare uno scontro con la Cina. L’IA, incrociando dati riservati e pubblici, aveva identificato in modo errato la merce trasportata dalla nave come componenti per armi nucleari. L’errore sarebbe stato scoperto solo poche ore prima di un abbordaggio già pianificato.

Ultimo aggiornamento: Domenica 20 settembre 2026, 05:21