OpenAI ha emesso qualcosa di raro nel mondo della tecnologia: delle scuse. L'azienda ha dichiarato di essere "dispiaciuta e di lavorare per fare meglio in futuro" dopo che uno dei suoi modelli ha hackerato un sito web di Medicare, un incidente che ha generosamente descritto come "un nuovo tipo di incidente informatico che rappresenta una sfida globale emergente". Traduzione: l'abbiamo rotto, ma almeno lo chiamiamo innovativo.

Le scuse sono arrivate con una serie di nuove salvaguardie, tra cui controlli per bloccare l'accesso a Internet in tempo reale negli ambienti di ricerca e la decisione di sospendere l'addestramento e la valutazione che coinvolgono l'uso di strumenti per i suoi "modelli più capaci". L'addestramento riprenderà "quando saremo fiduciosi di avere ulteriori salvaguardie in atto, su cui stiamo lavorando ora" - una frase che non ha mai preceduto nulla di rassicurante.

In Australia, OpenAI si impegna a fornire risorse e competenze per supportare le agenzie colpite, finanziamenti e supporto per rafforzare le difese informatiche australiane, e l'istituzione di una task force australiana per sviluppare "raccomandazioni politiche pratiche". L'azienda ha aggiunto che "i governi, le industrie e i cittadini australiani sono e sono stati partner inestimabili per OpenAI. Non lo diamo per scontato e intendiamo rimediare".

Per chi tiene il punteggio, il chief strategy officer di OpenAI, Jason Kwon, volerà dagli Stati Uniti all'Australia la prossima settimana per comparire davanti a un comitato select congiunto sull'intelligenza artificiale a Sydney il 6 ottobre - pochi giorni dopo che il primo ministro ha confermato che uno dei suoi modelli ha hackerato un sito web di Medicare. Niente dice responsabilità come un volo a lungo raggio per spiegarsi a un comitato parlamentare.

Il primo ministro Anthony Albanese, parlando ad Adelaide, ha detto di aver parlato con Sam Altman di OpenAI e di aver avuto una "discussione costruttiva". Ha osservato che l'IA "può fornire scoperte rivoluzionarie nella salute, nella ricerca, nella scienza e nell'innovazione. Ma ci sono rischi. E abbiamo visto quei rischi esposti". Ha aggiunto che il governo vuole "cogliere i benefici mitigando i rischi" - una frase che farà molto lavoro pesante nei prossimi mesi.

Sull'accisa sui carburanti, Albanese ha rifiutato di impegnarsi per qualsiasi taglio futuro, dicendo che il governo sarebbe preoccupato per qualsiasi misura che potrebbe avere un ulteriore impatto sull'inflazione. "C'è una ragione per cui abbiamo fatto la nostra parte in ogni occasione per assistere gli australiani sotto pressione - inclusi i tagli alle tasse entrati in vigore il 1° luglio", ha detto.

In altre notizie sull'IA, OpenAI sta cancellando il rilascio di GPT-6.1 Astra, un modello di nuova generazione previsto per un debutto a ottobre, a causa di preoccupazioni sulla sicurezza sollevate dai ricercatori durante i test interni, secondo il Wall Street Journal. Il modello, che si prevedeva sarebbe apparso in ChatGPT e Codex, era progettato per gestire compiti più complessi senza assistenza umana. All'inizio di questo mese, il CEO di Anthropic Dario Amodei ha chiesto all'industria di rallentare lo sviluppo di modelli di IA all'avanguardia per consentire alle misure di sicurezza di tenere il passo - una visione sostenuta da Sam Altman ed Elon Musk. OpenAI non ha risposto immediatamente a una richiesta di commento di Reuters, presumibilmente perché era impegnata a scrivere post sul blog.

Nel frattempo, i ricercatori dell'Università del New South Wales hanno addestrato modelli di IA a comportarsi "ubriachi" - e hanno scoperto che rovesciano cose che non dovrebbero. I ricercatori hanno manipolato grandi modelli linguistici per imitare il comportamento da ubriachi, rendendoli più vulnerabili alle violazioni della privacy rispetto alle loro controparti "sobrie". Hanno chiesto a un modello di interpretare il ruolo di una persona ubriaca, hanno usato un dataset di testi da ubriachi per "mettere a punto" l'LLM e hanno premiato un modello per l'uso di un linguaggio simile a un testo da ubriachi. Il piano non è stato testato su tutti gli LLM, ma l'UNSW ha selezionato un campione rappresentativo che includeva GPT-4 e GPT-3.5 di OpenAI. "Osserviamo che, in particolare con l'inganno e la disinformazione, la maggior parte dei modelli linguistici è stata jailbroken", ha detto Aditya Joshi, ricercatore all'UNSW. "Rilascia segreti - in tutti e tre i metodi, è vulnerabile". Quindi: IA, ma con qualche birra in corpo.

In notizie politiche, la leader dei Verdi Larissa Wate