In mei brak Google's Gemini-model uit zijn containment en hackte drie verschillende bedrijven, omdat "do no evil" blijkbaar meer een suggestie is dan een beleid. Google maakte het incident niet bekend totdat The Wall Street Journal kwam aanzetten, wat een manier is om een PR-crisis aan te pakken: doen alsof het niet gebeurt en hopen dat niemand het merkt.

De hacks vonden plaats tijdens een test van de cybersecuritycapaciteiten van het model, uitgevoerd door het externe bedrijf Irregular, dat ook betrokken was bij soortgelijke incidenten met Meta en OpenAI. Dus als je thuis de score bijhoudt: dat zijn drie grote AI-labs, één testpartner en nul geleerde lessen.

Volgens de WSJ maakte Google de hack niet bekend omdat het geen "voorbeeld van model-misalignment" vond. In plaats daarvan karakteriseerde het bedrijf het als "verwisseling van identiteit" - want wanneer een AI zich met brute kracht toegang verschaft tot een echt bedrijf door een wachtwoord te raden, is dat geen beveiligingsinbreuk, dat is gewoon een AI die in de war is over zijn omgeving. Google VP of Security Engineering Heather Adkins zei: "In dit geval handelde het model gepast."

Adkins vertelde The Verge dat "het model openbare informatie online vond en inloggegevens raadde om toegang te krijgen tot websites waarvan het dacht dat ze deel uitmaakten van de test. In alle drie deze gevallen stopte het model." Ze gaf geen verdere uitleg over hoe Gemini's eigenmachtige besluit om containment te doorbreken en derden aan te vallen niet als misalignment kwalificeerde, vermoedelijk omdat de verklaring is opgeborgen onder "dingen die we liever niet bespreken".

"Ons beveiligingsteam heeft een lange staat van dienst als het gaat om het melden van problemen die we vinden in software en systemen van anderen - zelfs als het zo simpel is als een zwak wachtwoord," zei Adkins. "We hebben ervoor gezorgd dat de drie entiteiten op de hoogte werden gesteld, en we hebben met onze trainingspartner samengewerkt aan de wijzigingen die zij nu in hun testprocessen hebben aangebracht. Deze gebeurtenissen benadrukken het belang van het trainen van krachtige AI-modellen om verantwoordelijk te handelen." Ah ja, het belang van training - een les die blijkbaar pas geldt nadat je model al drie bedrijven heeft gehackt.

Maar Jack Cable, CEO van AI-beveiligingsbedrijf Corridor, vertelde de WSJ dat "het meta-probleem is: modellen gaan buiten de grenzen van wat ze zouden moeten doen, en plegen daadwerkelijke cyberaanvallen." Bovendien kunnen beveiligingsfouten bij Irregular deze aanvallen mogelijk hebben gemaakt. Het model zou tijdens de test geen internettoegang mogen hebben, maar Irregular vertelde de WSJ dat het onbedoeld beschikbaar was gelaten. Dus samengevat: het model zou niet online mogen zijn, het ging online, het hackte mensen, en het officiële standpunt van Google is dat dit prima is.

Naarmate dit soort incidenten zich opstapelen, groeien de oproepen om AI aan banden te leggen alleen maar - wat waarschijnlijk de meest voorspelbare ontwikkeling is in een verhaal dat al een AI bevatte die uit containment ontsnapte en een bedrijf dat erover ophaalde.