Um número incontável de chats e Artifacts do Claude — os miniapps e documentos interativos que os usuários podem construir dentro do Claude — foram encontrados publicamente pesquisáveis no Google durante o fim de semana, depois que usuários do Reddit descobriram que digitar operadores de busca como "site:claude.ai/share" no Google exibia uma longa lista de conversas compartilhadas. Algumas supostamente continham registros de saúde, documentos privados de empresas e nomes e números de telefone de crianças.

O problema parece ter se originado do recurso "compartilhar chat" do Claude, que permite aos usuários criar links que permitem que qualquer pessoa com o URL atribuído veja uma conversa ou projeto. "Qualquer pessoa com o link pode visualizar", alerta a interface do Claude. A linguagem claramente implica que o recurso se destina principalmente a permitir que os usuários compartilhem seus chats com amigos, colegas e pequenos grupos — não com a internet inteira. O Google Docs, por exemplo, oferece um recurso semelhante e esses documentos não ficam publicamente acessíveis no Google.

A Anthropic pareceu culpar os usuários pela exposição. Quando questionada sobre o ocorrido, a empresa disse ao TechCrunch que os links de compartilhamento só aparecem nos resultados de busca quando são postados em algum lugar onde os mecanismos de busca possam ver, como um fórum ou postagem em mídia social; acrescentou que um link enviado em particular para alguém permanece fora da busca.

A porta-voz Amie Rotherham acrescentou em um explicador que: "Damos às pessoas controle sobre o compartilhamento público de suas conversas no Claude e, de acordo com nossos princípios de privacidade, não compartilhamos diretórios de chat ou sitemaps com mecanismos de busca como o Google. Esses links compartilháveis não são adivinháveis ou descobertos a menos que as pessoas escolham compartilhá-los. Quando alguém compartilha uma conversa, está tornando esse conteúdo publicamente acessível e, como qualquer outro conteúdo público da web, pode ser arquivado por serviços de terceiros."

O problema foi sinalizado pela primeira vez por um usuário do Reddit no sábado e foi relatado pela primeira vez pela 404 Media na manhã de segunda-feira.

Na tarde de segunda-feira, uma busca de teste do TechCrunch no Google seguindo o método descrito na postagem do Reddit não retornou nenhum resultado, sugerindo que a exposição foi de alguma forma remediada.

Antes de o problema ser corrigido, a Futurism relatou ter encontrado "um relatório médico detalhado de um paciente real, resultados de ensaios clínicos que incluíam nomes de pacientes, documentos compartilhando nomes e números de telefone de crianças em idade escolar primária, documentos de empresa marcados como uso interno apenas e avaliações de funcionários que incluíam informações pessoais sobre trabalhadores."

Os Artifacts expostos incluíam código e notas de trabalho. Em pelo menos um caso, a Fortune relatou, um chat rotulado como "compartilhado por Anthropic" também mostrava Claude produzindo erotismo.

A política de uso da Anthropic proíbe explicitamente o Claude de gerar conteúdo sexualmente explícito, e fazer um chatbot produzir material contra suas diretrizes declaradas — por meio de prompts repetidos ou criativamente formulados — é um padrão que surgiu periodicamente na maioria dos grandes modelos de IA. Ainda não está claro a partir do chat exposto como o conteúdo em questão foi gerado, e a Anthropic ainda não respondeu ao pedido de comentário do TechCrunch sobre este caso específico.

O porta-voz do Google, Ned Adriance, disse ao TechCrunch que "Nem o Google nem qualquer outro mecanismo de busca controla quais páginas são tornadas públicas na web, e essas páginas foram indexadas em muitos mecanismos de busca. Damos aos proprietários de sites controles claros para decidir se as páginas podem ser rastreadas ou indexadas, e sempre respeitamos essas diretivas."

No ano passado, a Forbes relatou um problema semelhante em que centenas de chats do Claude foram indexados por mecanismos de busca — na época, o Google estimou ter indexado pouco menos de 600 conversas antes de as páginas desaparecerem dos resultados de busca. Quão próximo a exposição atual segue essa escala não foi confirmado de forma independente, embora vários usuários tenham relatado encontrar conversas compartilhadas através do mesmo tipo de consulta de busca do Google usada para descobrir o cache do ano passado. Também no ano passado, a 404 Media relatou que um pesquisador conseguiu raspar cerca de 100.000