OpenAI a anunțat o nouă funcționalitate pentru ChatGPT care, spune ea, va oferi protecție suplimentară împotriva atacurilor de injecție de prompt – acele scenarii încântătoare în care instrucțiuni rău intenționate pentru chatbot sunt ascunse în pagini web și alte surse de conținut, așteptând să-ți păcălească AI-ul să divulge secrete.
Modul Blocare, cum i se spune, va dezactiva câteva funcții cheie pentru a menține lucrurile în siguranță: navigarea live pe web (așa că rămâi cu conținutul din cache), preluarea și afișarea imaginilor de pe web (poți în continuare să le generezi, pentru că asta e în regulă), cercetarea aprofundată și modul agent. Pentru că nimic nu spune 'securizat' ca și cum ai dezactiva lucrurile care fac produsul util.
Compania recunoaște, cu o onestitate revigorantă, că și cu Modul Blocare activat, ChatGPT ar putea fi în continuare vulnerabil la injecții de prompt. Acestea, notează compania, 'pot apărea în conținutul web din cache sau într-un fișier încărcat și ar putea afecta comportamentul sau acuratețea unui răspuns.' Cu alte cuvinte: asta e un plasture, nu un leac.
Dar scopul, spune OpenAI, este de a reduce probabilitatea ca datele sensibile să fie partajate în acest proces. Ceea ce este un pic ca și cum ai spune că o centură de siguranță reduce probabilitatea de rănire într-un accident – adevărat, dar mai bine nu o testezi.
'Modul Blocare nu este destinat tuturor,' clarifică OpenAI. 'Este conceput pentru persoane și organizații care manipulează date sensibile și doresc o protecție mai strictă împotriva riscurilor de exfiltrare a datelor legate de injecția de prompt.' Deci, practic, este pentru cei care nu vor ca memoriile lor confidențiale să apară în istoricul chat-ului vreunui hacker.
Compania spune că în prezent implementează Modul Blocare pentru conturile self-serve ChatGPT Business, precum și pentru conturile personale eligibile. Pentru că nimic nu spune 'AI securizat' ca o funcționalitate care încă se implementează în timp ce internetul continuă să fie internet.