OpenAI har enligt uppgift upplöst sitt beredskapsteam, den grupp som hade den lättsamma uppgiften att bedöma om företagets modeller kunde, säg, gå rogue och hacka ett annat företag. Enligt Financial Times upplöstes teamet i slutet av förra månaden, och dess ansvarsområden fördelades och spreds ut över befintliga team, som nu var och en hanterar specifika områden som bio och cyber. För inget säger 'säkerhet först' som att fragmentera tillsynen till ett byråkratiskt spel av mullvadsspel.

Detta är bara det senaste kapitlet i OpenAIs pågående saga av att montera ner sin säkerhetsapparat medan man rusar mot vad som lovar att bli en mycket lukrativ börsintroduktion. Under årens lopp har företaget tyst monterat ner sina AGI-beredskaps- och superalignment-team, och utvandringen av säkerhetsmedvetna personer fortsätter: etikchefen Chloé Bakalar, chefsfuturisten Josh Achiam och säkerhetschefen Johannes Heidecke har alla nyligen visat sig själva dörren. Jan Leike, som avgick från OpenAI 2024, berättade för FT att företaget prioriterar 'glansiga produkter' framför säkerhet. Glansiga, verkligen – för inget säger 'ansvarsfull AI' som en robot som kan skriva ett hyfsat mejl men också kanske av misstag startar ett cyberkrig.

Dylan Scandinaro, som värvades från Anthropic i februari för att leda beredskapsteamet, kommer nu att vända sig till att fundera över implikationerna av 'rekursivt självförbättrande' AI. Så, du vet, åtminstone är det någon som tänker på robotapokalypsen, även om det bara är en kille i ett hörn med en whiteboard.