À medida que os modelos de IA se tornam mais poderosos, também aumenta o potencial para travessuras - e o coro de vozes exigindo proteções. As empresas de IA agora enfrentam a delicada tarefa de respeitar a privacidade dos clientes empresariais enquanto ficam de olho em abusos. Percebendo uma chance de superar a rival Anthropic, a OpenAI anunciou uma abordagem focada em privacidade para monitorar uso indevido: Processamento de Segurança Privada. Este sistema automatizado observa possíveis abusos sem reter nenhum dado do cliente, porque aparentemente, você pode ter o bolo e comê-lo também - se o bolo for feito de algoritmos.

Esta medida contraria diretamente a política de retenção de dados recentemente anunciada pela Anthropic, que irritou alguns clientes. Essa política, que entrou em vigor em julho, permite que o laboratório de IA mantenha os dados do usuário - todas as sessões e conversas - por 30 dias quando se trata de 'modelos cobertos', incluindo todos os modelos da classe Mythos e 'futuros modelos com capacidades semelhantes'. A política foi projetada para segurança, permitindo que o laboratório vasculhe possíveis irregularidades. Mas preocupou profundamente empresas que lidam com dados sensíveis e não querem que suas informações sejam guardadas ou inspecionadas pelo laboratório de IA.

A OpenAI, como a maioria das empresas de IA, já oferece um nível de privacidade via Retenção Zero de Dados (ZDR). A ZDR usa agentes dentro da API da OpenAI para monitorar abusos por sessão, então os dados do cliente não são retidos, mas atividades ruins ainda podem ser sinalizadas sem intervenção humana. Notavelmente, a Anthropic também segue a ZDR - exceto para 'modelos cobertos' como o Fable.

A OpenAI diz que o Processamento de Segurança Privada amplia o escopo da ZDR. É uma forma de monitoramento de segurança de longo horizonte que avalia entradas e saídas em várias conversas, não apenas uma. O monitoramento é feito por um agente que, se acionado, captura interações e as analisa entre sessões em busca de sinais de uso indevido. Isso ajuda a detectar uso malicioso que se estende por várias sessões - como um ator mal-intencionado tentando engenheirar malware espalhando solicitações para evitar detecção. O Processamento de Segurança Privada pode analisar essas conversas em busca de abusos sem revisão humana.

Se acionado, o sistema pode enviar um 'sinal estritamente definido' à OpenAI alertando sobre atividade específica. Com base nisso, a OpenAI pode decidir se 'a aplicação é necessária'. Se for, eles entrarão em contato com o cliente para obter contexto ou para trabalhar no problema, e o cliente pode optar por compartilhar dados a seu critério. Enquanto isso, a Anthropic observa que a revisão humana dos dados do cliente pode ocorrer, mas apenas através de um 'caminho de acesso controlado' envolvendo 'um pequeno conjunto de revisores aprovados', com cada sessão de revisão registrada em um log à prova de adulteração que os revisores não podem suprimir ou modificar.

A rivalidade corporativa entre OpenAI e Anthropic está esquentando, com ambas buscando qualquer vantagem. Um relatório recente mostrou que o crescimento da OpenAI no segundo trimestre foi mais lento que o da Anthropic, cuja taxa de receita anualizada é supostamente de US$ 65 bilhões. Investidores da Anthropic consideram um IPO de US$ 2 trilhões, enquanto a OpenAI também está trabalhando em seu IPO. Na corrida para ganhar a confiança empresarial, a OpenAI acabou de lançar a luva da privacidade - e ela está embrulhada em zeros e uns.