A OpenAI anunciou um novo recurso interessante para o ChatGPT que, segundo ela, fornecerá proteção adicional contra ataques de injeção de prompt — aquelas cenários adoráveis onde instruções maliciosas para chatbots são escondidas em páginas da web e outras fontes de conteúdo, apenas esperando para enganar sua IA e fazê-la derramar segredos.
O Modo de Isolamento, como é chamado, desativará alguns recursos importantes para manter a segurança: navegação ao vivo na web (então você fica preso ao conteúdo em cache), recuperação e exibição de imagens da web (você ainda pode gerá-las, porque isso é seguro), pesquisa profunda e modo agente. Porque nada diz 'seguro' como desligar as coisas que tornam o produto útil.
A empresa admite, com uma honestidade refrescante, que mesmo com o Modo de Isolamento ativado, o ChatGPT ainda pode ser vulnerável a injeções de prompt. Estas, observa a empresa, 'podem aparecer em conteúdo da web em cache ou em um arquivo carregado, e ainda podem afetar o comportamento ou a precisão de uma resposta.' Em outras palavras: isso é um curativo, não uma cura.
Mas o objetivo, diz a OpenAI, é reduzir a probabilidade de que dados sensíveis sejam compartilhados no processo. O que é um pouco como dizer que um cinto de segurança reduz a probabilidade de lesões em um acidente — verdade, mas você prefere não testá-lo.
'O Modo de Isolamento não é para todos', esclarece a OpenAI. 'Ele é projetado para pessoas e organizações que lidam com dados sensíveis e desejam proteção mais rigorosa contra riscos de exfiltração de dados relacionados à injeção de prompt.' Então, basicamente, é para aqueles que não querem que seus memorandos confidenciais apareçam no histórico de chat de algum hacker.
A empresa diz que está atualmente implementando o Modo de Isolamento para contas de negócios do ChatGPT de autoatendimento, bem como para contas pessoais elegíveis. Porque nada diz 'IA segura' como um recurso que ainda está sendo implementado enquanto a internet continua sendo a internet.