Man mano che i modelli di intelligenza artificiale diventano più potenti, aumenta anche il potenziale di malefatte - e il coro di voci che chiedono misure di sicurezza. Le aziende di IA ora affrontano il delicato compito di rispettare la privacy dei clienti aziendali mentre tengono d'occhio gli abusi. Per cogliere l'occasione di superare la rivale Anthropic, OpenAI ha annunciato un approccio incentrato sulla privacy per il monitoraggio degli abusi: Private Safety Processing. Questo sistema automatizzato osserva potenziali abusi senza conservare alcun dato del cliente, perché a quanto pare puoi avere la botte piena e la moglie ubriaca - se la botte è fatta di algoritmi.

Questa mossa contrasta direttamente con la politica di conservazione dei dati recentemente annunciata da Anthropic, che ha irritato alcuni clienti. Tale politica, entrata in vigore a luglio, consente al laboratorio di IA di conservare i dati degli utenti - tutte le sessioni e conversazioni - per 30 giorni quando si tratta di 'modelli coperti', inclusi tutti i modelli di classe Mythos e 'futuri modelli con capacità simili'. La politica è stata progettata per la sicurezza, consentendo al laboratorio di setacciare potenziali comportamenti impropri. Ma ha profondamente preoccupato le aziende che gestiscono dati sensibili e che non vogliono che le loro informazioni vengano conservate o ispezionate dal laboratorio di IA.

OpenAI, come la maggior parte delle aziende di IA, offre già un livello di privacy tramite Zero Data Retention (ZDR). ZDR utilizza agenti all'interno dell'API OpenAI per monitorare gli abusi su base sessione per sessione, quindi i dati dei clienti non vengono conservati, ma le attività sospette possono comunque essere segnalate senza intervento umano. In particolare, anche Anthropic rispetta la ZDR - tranne che per i 'modelli coperti' come Fable.

OpenAI afferma che Private Safety Processing amplia l'ambito di ZDR. È una forma di monitoraggio di sicurezza a lungo orizzonte che valuta input e output attraverso più conversazioni, non solo una. Il monitoraggio è effettuato da un agente che, se attivato, cattura le interazioni e le analizza attraverso le sessioni per individuare segni di abuso. Questo aiuta a rilevare usi dannosi che si estendono su più sessioni - come un malintenzionato che cerca di progettare malware distribuendo le richieste per evitare la rilevazione. Private Safety Processing può analizzare queste conversazioni per abusi senza revisione umana.

Se attivato, il sistema può inviare un 'segnale strettamente definito' a OpenAI che avverte di attività specifiche. In base a ciò, OpenAI può decidere se 'l'applicazione delle misure è necessaria'. In tal caso, contatteranno il cliente per contesto o per lavorare sul problema, e il cliente può scegliere di condividere i dati a sua discrezione. Nel frattempo, Anthropic osserva che la revisione umana dei dati dei clienti può avvenire, ma solo attraverso un 'percorso di accesso controllato' che coinvolge 'un piccolo gruppo di revisori approvati', con ogni sessione di revisione registrata in un registro a prova di manomissione che i revisori non possono sopprimere o modificare.

La rivalità aziendale tra OpenAI e Anthropic si sta intensificando, con entrambe alla ricerca di qualsiasi vantaggio. Un recente rapporto ha mostrato che la crescita di OpenAI nel secondo trimestre è stata più lenta di quella di Anthropic, il cui tasso di ricavi annualizzato è stimato in 65 miliardi di dollari. Gli investitori di Anthropic hanno ipotizzato un'IPO da 2 trilioni di dollari, mentre anche OpenAI sta lavorando alla sua IPO. Nella corsa a conquistare la fiducia delle aziende, OpenAI ha appena lanciato il guanto di sfida sulla privacy - ed è avvolto in zero e uno.