OpenAI har annonserat en praktisk ny funktion för ChatGPT som de säger kommer att ge extra skydd mot prompt injection-attacker – de där förtjusande små scenarierna där skadliga chatbotinstruktioner gömts på webbsidor och andra innehållskällor, bara för att lura din AI att avslöja hemligheter.
Lockdown Mode, som det kallas, kommer att inaktivera några viktiga funktioner för att hålla saker säkra: live-webbsökning (så du fastnar med cachat innehåll), hämtning och visning av bilder från webben (du kan fortfarande generera dem, för det är okej), djup forskning och agentläge. För inget säger 'säkert' som att stänga av det som gör produkten användbar.
Företaget medger, med uppfriskande ärlighet, att även med Lockdown Mode påslaget kan ChatGPT fortfarande vara sårbart för prompt injections. Dessa kan, noterar företaget, 'förekomma i cachat webbinnehåll eller i en uppladdad fil, och kan fortfarande påverka beteendet eller noggrannheten i ett svar.' Med andra ord: detta är ett plåster, inte ett botemedel.
Men målet, säger OpenAI, är att minska sannolikheten för att känslig data delas i processen. Vilket är lite som att säga att ett säkerhetsbälte minskar sannolikheten för skada vid en krasch – sant, men du vill helst inte testa det.
'Lockdown Mode är inte avsett för alla,' förtydligar OpenAI. 'Det är utformat för personer och organisationer som hanterar känslig data och vill ha striktare skydd mot dataexfiltreringsrisker relaterade till prompt injection.' Så, i princip, för de som inte vill att deras konfidentiella PM ska dyka upp i någon hackers chathistorik.
Företaget säger att de för närvarande rullar ut Lockdown Mode till självbetjäning ChatGPT Business-konton, samt till berättigade personliga konton. För inget säger 'säker AI' som en funktion som fortfarande rullas ut medan internet fortsätter att vara internet.