Un nombre incalculable de chats et d'Artifacts Claude - les mini-applications et documents interactifs que les utilisateurs peuvent construire dans Claude - ont été trouvés publiquement consultables sur Google ce week-end, après que des utilisateurs de Reddit ont découvert que la saisie d'opérateurs de recherche comme "site:claude.ai/share" dans Google faisait apparaître une longue liste de conversations partagées. Certaines contenaient, selon les rapports, des dossiers médicaux, des documents d'entreprise privés, ainsi que les noms et numéros de téléphone d'enfants.

Le problème semble provenir de la fonctionnalité "partager le chat" de Claude, qui permet aux utilisateurs de créer des liens donnant à quiconque possède l'URL attribuée la possibilité de voir une conversation ou un projet. "Toute personne disposant du lien peut voir", prévient l'interface de Claude. Le langage implique clairement que la fonctionnalité est principalement destinée à permettre aux utilisateurs de partager leurs chats avec des amis, des collègues et de petits groupes - pas tout Internet. Google Docs, par exemple, offre une fonctionnalité similaire et ces documents ne se retrouvent pas accessibles publiquement sur Google.

Anthropic a semblé blâmer les utilisateurs pour l'exposition. Interrogée sur ce qui s'est passé, l'entreprise a déclaré à TechCrunch que les liens de partage n'apparaissent dans les résultats de recherche que lorsqu'ils ont été publiés quelque part où les moteurs de recherche peuvent les voir, comme un forum ou un post sur les réseaux sociaux ; elle a ajouté qu'un lien envoyé en privé à quelqu'un reste hors des recherches.

La porte-parole Amie Rotherham a ajouté dans une explication : "Nous donnons aux gens le contrôle sur le partage public de leurs conversations Claude, et conformément à nos principes de confidentialité, nous ne partageons pas de répertoires de chat ou de sitemaps avec des moteurs de recherche comme Google. Ces liens partageables ne sont pas devinables ou découvrables à moins que les gens ne choisissent de les partager eux-mêmes. Lorsque quelqu'un partage une conversation, il rend ce contenu accessible publiquement, et comme tout autre contenu web public, il peut être archivé par des services tiers."

Le problème a d'abord été signalé par un utilisateur de Reddit samedi et a été rapporté pour la première fois par 404 Media lundi matin.

Lundi après-midi, une recherche test effectuée par TechCrunch sur Google suivant la méthode décrite dans le post Reddit ne renvoie aucun résultat, suggérant que l'exposition a été en quelque sorte corrigée.

Avant que le problème ne soit résolu, Futurism a rapporté avoir trouvé "un rapport médical détaillé d'un vrai patient, des résultats d'essais cliniques incluant les noms des patients, des documents partageant les noms et numéros de téléphone d'enfants d'âge primaire, des documents d'entreprise marqués 'pour usage interne uniquement', et des évaluations d'employés contenant des informations personnelles sur les travailleurs."

Les Artifacts exposés comprenaient du code et des notes de travail. Dans au moins un cas, a rapporté Fortune, un chat étiqueté "partagé par Anthropic" montrait également Claude produisant de l'érotisme.

La politique d'utilisation d'Anthropic interdit explicitement à Claude de générer du contenu sexuellement explicite, et amener un chatbot à produire du matériel contraire à ses directives énoncées - par des invites répétées ou créativement formulées - est un schéma qui a périodiquement refait surface dans la plupart des grands modèles d'IA. On ne sait pas encore clairement, à partir du chat exposé, comment le contenu en question a été généré, et Anthropic n'a pas encore répondu à la demande de commentaire de TechCrunch sur ce cas spécifique.

Le porte-parole de Google, Ned Adriance, a déclaré à TechCrunch que "Ni Google ni aucun autre moteur de recherche ne contrôle quelles pages sont rendues publiques sur le web, et ces pages ont été indexées par de nombreux moteurs de recherche. Nous donnons aux propriétaires de sites des contrôles clairs pour décider si les pages peuvent être explorées ou indexées, et nous respectons toujours ces directives."

L'année dernière, Forbes a rapporté un problème similaire dans lequel des centaines de chats Claude ont été indexés par les moteurs de recherche - à l'époque, Google estimait avoir indexé un peu moins de 600 conversations avant que les pages ne disparaissent des résultats de recherche. La mesure dans laquelle l'exposition actuelle correspond à cette échelle n'a pas été confirmée indépendamment, bien que plusieurs utilisateurs aient rapporté avoir trouvé des conversations partagées via le même type de requête de recherche Google utilisée pour faire surface le cache de l'année dernière. Également l'année dernière, 404 Media a rapporté qu'un chercheur avait réussi à extraire environ 100 000