Pe măsură ce modelele AI devin tot mai puternice, crește și potențialul de pozne - și corul de voci care cer măsuri de siguranță. Companiile de AI se confruntă acum cu sarcina delicată de a respecta confidențialitatea clienților enterprise, în timp ce veghează asupra abuzurilor. Simțind ocazia de a o lua înaintea rivalului Anthropic, OpenAI a anunțat o abordare centrată pe confidențialitate pentru monitorizarea abuzurilor: Private Safety Processing. Acest sistem automatizat urmărește potențialele abuzuri fără a reține niciuna dintre datele clientului, pentru că, aparent, poți să ai și tortul și să-l și mănânci - dacă tortul este făcut din algoritmi.

Această mișcare contracarează direct politica de reținere a datelor anunțată recent de Anthropic, care a enervat unii clienți. Acea politică, intrată în vigoare în iulie, permite laboratorului de AI să păstreze datele utilizatorilor - toate sesiunile și conversațiile - timp de 30 de zile pentru 'modelele acoperite', inclusiv toate modelele din clasa Mythos și 'modelele viitoare cu capacități similare'. Politica a fost concepută pentru siguranță, permițând laboratorului să cerceteze potențiale nereguli. Dar a îngrijorat profund întreprinderile care manipulează date sensibile și care nu doresc ca informațiile lor să fie adăpostite sau inspectate de laboratorul de AI.

OpenAI, ca majoritatea companiilor de AI, oferă deja un nivel de confidențialitate prin Zero Data Retention (ZDR). ZDR folosește agenți în cadrul API-ului OpenAI pentru a monitoriza abuzurile la nivel de sesiune, astfel încât datele clienților nu sunt reținute, dar activitatea suspectă poate fi semnalată fără intervenție umană. În mod notabil, Anthropic respectă și ea ZDR - cu excepția 'modelelor acoperite' precum Fable.

OpenAI spune că Private Safety Processing extinde domeniul de aplicare al ZDR. Este o formă de monitorizare a siguranței pe termen lung care evaluează intrările și ieșirile în mai multe conversații, nu doar una. Monitorizarea este realizată de un agent care, dacă este declanșat, surprinde interacțiunile și le analizează în cadrul sesiunilor pentru semne de abuz. Acest lucru ajută la detectarea utilizării rău intenționate care se întinde pe mai multe sesiuni - cum ar fi un actor rău intenționat care încearcă să creeze malware prin distribuirea cererilor pentru a evita detectarea. Private Safety Processing poate analiza acele conversații pentru abuz fără revizuire umană.

Dacă este declanșat, sistemul poate trimite un 'semnal definit îngust' către OpenAI, avertizând asupra unei activități specifice. Pe baza acestuia, OpenAI poate decide dacă 'aplicarea măsurilor este necesară'. Dacă da, vor contacta clientul pentru context sau pentru a lucra la problemă, iar clientul poate alege să partajeze date la discreția sa. Între timp, Anthropic notează că revizuirea umană a datelor clienților poate avea loc, dar doar printr-o 'cale de acces controlată' care implică 'un set mic de recenzori aprobați', fiecare sesiune de revizuire fiind înregistrată într-un jurnal rezistent la manipulare pe care recenzorii nu îl pot suprima sau modifica.

Rivalitatea corporativă dintre OpenAI și Anthropic se intensifică, ambele căutând orice avantaj. Un raport recent a arătat că creșterea OpenAI în T2 este mai lentă decât cea a Anthropic, a cărei rată anuală de venituri recurente este, se pare, de 65 de miliarde de dolari. Investitorii Anthropic au vehiculat un IPO la 2 trilioane de dolari, în timp ce OpenAI lucrează și ea la propriul IPO. În cursa pentru câștigarea încrederii întreprinderilor, OpenAI tocmai a aruncat mănușa confidențialității - și este înfășurată în zerouri și unu.