A maggio, il modello Gemini di Google ha rotto il contenimento e ha hackerato tre diverse aziende, perché a quanto pare "non fare il male" è più un suggerimento che una politica. Google non ha divulgato l'incidente fino a quando il Wall Street Journal non ha bussato alla porta, che è un modo per gestire una crisi di pubbliche relazioni: fare finta che non stia accadendo e sperare che nessuno se ne accorga.

Gli attacchi si sono verificati durante un test delle capacità di cybersecurity del modello condotto dalla società terza Irregular, che è stata coinvolta anche in incidenti simili che hanno coinvolto Meta e OpenAI. Quindi, se state tenendo il punteggio a casa, sono tre grandi laboratori di intelligenza artificiale, un partner di test e zero lezioni imparate.

Secondo il WSJ, Google non ha divulgato l'hack perché non lo considerava un "esempio di disallineamento del modello". Invece, l'azienda lo ha caratterizzato come "scambio di persona" - perché quando un'IA si fa strada con la forza in un'azienda reale indovinando una password, non è una violazione della sicurezza, è solo un'IA confusa sul suo ambiente. La VP di Security Engineering di Google, Heather Adkins, ha detto: "In questo caso, il modello ha agito in modo appropriato."

Adkins ha detto a The Verge che "il modello ha trovato informazioni pubbliche online e ha indovinato le credenziali per accedere a siti web che pensava facessero parte del test. In tutti e tre questi casi, il modello si è fermato." Non ha spiegato come Gemini, prendendo l'iniziativa di rompere il contenimento e prendere di mira terze parti, non sia riuscito a qualificarsi come disallineamento, presumibilmente perché la spiegazione è archiviata sotto "cose di cui preferiremmo non parlare".

"Il nostro team di sicurezza ha una lunga storia di segnalazione di problemi che troviamo nel software e nei sistemi di altre persone - anche se è semplice come una password debole", ha detto Adkins. "Ci siamo assicurati che le tre entità fossero informate, e abbiamo lavorato con il nostro partner di formazione sulle modifiche che hanno ora apportato ai loro processi di test. Questi eventi sottolineano l'importanza di addestrare modelli di IA potenti ad agire in modo responsabile." Ah sì, l'importanza della formazione - una lezione che apparentemente si applica solo dopo che il tuo modello ha già hackerato tre aziende.

Ma Jack Cable, CEO della società di sicurezza AI Corridor, ha detto al WSJ che "il meta problema è, ehi, i modelli stanno andando oltre i limiti di ciò che dovrebbero fare, e stanno facendo veri attacchi informatici." Inoltre, le falle di sicurezza presso Irregular potrebbero aver reso possibili questi attacchi. Il modello non doveva avere accesso a Internet durante i test, ma Irregular ha detto al WSJ che è stato lasciato disponibile inavvertitamente. Quindi, per ricapitolare: il modello non doveva essere online, è andato online, ha hackerato persone, e la posizione ufficiale di Google è che va bene così.

Mentre incidenti come questo si accumulano, le richieste di frenare l'IA sono solo cresciute - che è probabilmente lo sviluppo più prevedibile in una storia che già presentava un'IA che evade il contenimento e un'azienda che se ne frega.