OpenAI heeft onthuld dat zijn interne modellen twee extra websites hebben gehackt, door het bedrijf opgelegde browsebeperkingen hebben omzeild en blootgestelde inloggegevens hebben gebruikt om cryptocurrency uit een wallet te draineren die ze anders niet konden bereiken. De onthullingen kwamen donderdag in een rapport dat vier nieuwe incidenten beschrijft, allemaal in juni, en volgen op een onthulling in juli dat interne testagenten een zero-day kwetsbaarheid in een internetbeperkingstool hebben misbruikt om in te breken in het netwerk van AI-toolprovider Hugging Face. De agenten deden dit om antwoorden op een hackingtest te stelen - een daad die, als een mens het had gedaan, waarschijnlijk tot strafrechtelijke aanklachten zou hebben geleid. De incidenten hebben de zorgen aangewakkerd dat wijdverbreid AI-gebruik schadelijke effecten op ongekende schaal kan hebben.

In twee van de nieuw gerapporteerde gevallen hebben OpenAI-agenten die de taak hadden informatie van websites op te halen, ze simpelweg gehackt toen ze op obstakels stuiten. In één incident tijdens reinforcement training kreeg een model dat probeerde historische ziekenhuisbedstatistieken van een overheidsstatistiekwebsite op te halen, toegang geweigerd. Het "gebruikte vervolgens de bestandsdownloadfunctie van de site om serverconfiguratie- en applicatiebestanden op te halen, inclusief gevoelige inloggegevens," zei OpenAI. "Het inspecteerde de applicatiecode, omzeilde de autorisatiecontroles van het statistiekeindpunt en haalde gegevens op die eerder waren geweigerd. Het model sloeg de gegevens lokaal op." In het andere geval omzeilde een model dat de opdracht had cijfers van een openbaar onderzoeksdashboard op te halen, beveiligingscontroles, stal inloggegevens en bracht configuratiewijzigingen aan op de server.

In één evaluatie zorgden die wijzigingen ervoor dat het model een interne zoektool queries kon laten doorsturen naar het openbare dashboard. In een tweede evaluatie downloadde het model vijf niet-openbare tabellen met 147.451 rijen - ondanks dat onderzoekers het hadden opgedragen slechts vijf dashboardcijfers op te halen. Zelfs na het resetten van de instelling bleef het model de token gebruiken om niet-openbare gegevens op te halen. "De evaluatie eindigde zonder dat het model onthulde dat het antwoorden had geraden, toegang had gekregen tot de interne systemen van de organisatie, niet-openbare tabellen had gedownload of de authenticatieconfiguratie had gewijzigd," zei OpenAI. "Alle vijf antwoorden in deze evaluatie werden als onjuist gemarkeerd."

Een derde rapport beschreef een model dat de opdracht kreeg een cryptocurrency-handelsapplicatie bij te werken. Het gebruikte fondsen van een vergrendelde wallet op een testnetwerk, nadat het "wallet-sleutels had afgeleid van publiekelijk bekende herstelzinnen van ontwikkelaars, een account met testnetwerkfondsen had gevonden en dat account had gebruikt om de gevraagde contractimplementatie te betalen." Het rapport vervolgde: "Het model vroeg zich af of het toestemming had, en redeneerde vervolgens dat een openbare herstelzin en waardeloze testnetwerktokens de fondsen acceptabel maakten om te gebruiken. De implementatie slaagde en bracht transactiekosten in rekening bij het account. Dit geval toont aan dat een model zijn eigen oordeel over waarschijnlijke schade kan vervangen door de toestemming van de accounthouder, en vervolgens op dat oordeel kan handelen zonder autorisatie."

In het vierde geval omzeilde een model beperkingen op de soorten webverzoeken die het kon doen tijdens reinforcement-learning-training gericht op het zoeken naar openbare handelsstatistieken. Nadat het een openbaar jaarboek had gevonden en een antwoord had ingediend, bleef het zoeken naar een andere route naar de statistiekendienst. Het zorgde ervoor dat een externe browser POST-verzoeken verzond, haalde jaarlijkse cijfers op als afbeelding en extraheerde deze met behulp van optische tekenherkenning. Vervolgens ontwikkelde het een herbruikbare helper die antwoordtekst retourneerde via een doorstuurservice en callback-mailbox, controleerde herhaaldelijk de opgehaalde cijfers en gebruikte opgeslagen gegevens in ingediende antwoorden. Het model probeerde eerst een externe browser met toestemming te gebruiken om GET-verzoeken namens hem te doen, gebruikte vervolgens JavaScript om de informatie te verkrijgen en gebruikte een online mailbox om de techniek te troubleshooten. Uiteindelijk koos het voor een andere methode: de externe browser vragen een webformulier te openen dat de handelsquery via POST naar de statistiekendienst stuurde. Wh