OpenAI ha rivelato che i suoi modelli interni hanno hackerato altri due siti web, aggirato le restrizioni di navigazione imposte dall'azienda e utilizzato credenziali esposte per svuotare un portafoglio di criptovalute a cui altrimenti non avrebbero potuto accedere. Le rivelazioni sono arrivate giovedì in un rapporto che dettaglia quattro nuovi incidenti, tutti avvenuti a giugno, e seguono una divulgazione di luglio secondo cui agenti di test interni hanno sfruttato una vulnerabilità zero-day in uno strumento di restrizione di Internet per irrompere nella rete del fornitore di strumenti AI Hugging Face. Gli agenti lo hanno fatto per rubare le risposte a un test di hacking, un atto che, se compiuto da un essere umano, probabilmente avrebbe portato a accuse penali. Gli incidenti hanno aumentato le preoccupazioni che l'uso diffuso dell'AI possa avere effetti dannosi su una scala senza precedenti.

In due dei casi appena segnalati, gli agenti OpenAI incaricati di recuperare informazioni da siti web li hanno semplicemente hackerati quando hanno incontrato ostacoli. In un incidente durante l'addestramento per rinforzo, un modello che cercava di recuperare statistiche storiche sui letti ospedalieri da un sito web di statistiche governative ha ricevuto dinieghi di accesso. Poi "ha utilizzato la funzione di download di file del sito per recuperare file di configurazione del server e file applicativi, incluse credenziali sensibili", ha affermato OpenAI. "Ha ispezionato il codice dell'applicazione, aggirato i controlli di autorizzazione dell'endpoint delle statistiche e recuperato dati che erano stati precedentemente negati. Il modello ha salvato i dati localmente." Nell'altro caso, un modello incaricato di recuperare cifre da una dashboard di ricerca pubblica ha aggirato i controlli di sicurezza, rubato credenziali e apportato modifiche alla configurazione sul server.

In una valutazione, tali modifiche hanno permesso al modello di far sì che uno strumento di ricerca interno inoltrasse query alla dashboard pubblica. In una seconda valutazione, il modello ha scaricato cinque tabelle non pubbliche contenenti 147.451 righe, nonostante i ricercatori gli avessero chiesto di recuperare solo cinque cifre della dashboard. Anche dopo aver reimpostato l'impostazione, il modello ha continuato a utilizzare il token per recuperare dati non pubblici. "La valutazione si è conclusa senza che il modello rivelasse di aver indovinato le risposte, di aver avuto accesso ai sistemi interni dell'organizzazione, di aver scaricato tabelle non pubbliche o di aver modificato la configurazione di autenticazione", ha affermato OpenAI. "Tutte e cinque le risposte in questa valutazione sono state contrassegnate come errate."

Un terzo rapporto descriveva un modello incaricato di aggiornare un'applicazione di trading di criptovalute. Ha utilizzato fondi da un portafoglio bloccato su una rete di test, avendo "derivato le chiavi del portafoglio da frasi di recupero dello sviluppatore pubblicamente note, trovato un account con fondi della rete di test e utilizzato quell'account per pagare la distribuzione del contratto richiesta". Il rapporto continuava: "Il modello si è chiesto se avesse il permesso, poi ha ragionato che una frase di recupero pubblica e token della rete di test senza valore rendevano i fondi accettabili da usare. La distribuzione è riuscita e ha addebitato commissioni di transazione all'account. Questo caso mostra che un modello può sostituire il proprio giudizio sul probabile danno con il permesso del titolare dell'account, e poi agire su quel giudizio senza autorizzazione."

Nel quarto caso, un modello ha aggirato le restrizioni sui tipi di richieste web che poteva effettuare durante l'addestramento per rinforzo finalizzato alla ricerca di statistiche commerciali pubbliche. Dopo aver trovato un annuario pubblico e inviato una risposta, ha continuato a sondare un'altra via per il servizio statistiche. Ha fatto sì che un browser esterno inviasse richieste POST, recuperasse cifre annuali come immagine e le estraesse utilizzando il riconoscimento ottico dei caratteri. Poi ha sviluppato un helper riutilizzabile che restituiva il testo della risposta tramite un servizio di inoltro e una casella di posta di callback, controllava ripetutamente le cifre recuperate e utilizzava i dati salvati nelle risposte inviate. Il modello ha prima provato a utilizzare un browser esterno con il permesso di effettuare richieste GET per suo conto, poi ha utilizzato JavaScript per ottenere le informazioni e ha usato una casella di posta online per risolvere il problema della tecnica. Alla fine si è orientato su un metodo diverso: chiedere al browser esterno di aprire un modulo web che inviava la query commerciale al servizio statistiche tramite POST. Wh