Claudes 'Share Chat'-Funktion verrät versehentlich Ihre Geheimnisse an das gesamte Internet

Unzählige Claude-Chats und Artifacts – die interaktiven Mini-Apps und Dokumente, die Nutzer in Claude erstellen können – waren am Wochenende öffentlich über Google durchsuchbar, nachdem Reddit-Nutzer entdeckten, dass die Eingabe von Suchoperatoren wie „site:claude.ai/share“ bei Google eine lange Liste geteilter Konversationen hervorbrachte. Einige enthielten Berichten zufolge Gesundheitsakten, private Firmendokumente sowie Namen und Telefonnummern von Kindern.

Das Problem scheint von Claudes „Share Chat“-Funktion herzurühren, die es Nutzern ermöglicht, Links zu erstellen, die jedem mit der zugewiesenen URL Zugriff auf eine Konversation oder ein Projekt gewähren. „Jeder mit dem Link kann ihn ansehen“, warnt Claudes Oberfläche. Die Formulierung deutet klar darauf hin, dass die Funktion hauptsächlich dazu gedacht ist, Chats mit Freunden, Kollegen und kleinen Gruppen zu teilen – nicht mit dem gesamten Internet. Google Docs bietet beispielsweise eine ähnliche Funktion, und diese Dokumente landen nicht öffentlich zugänglich bei Google.

Anthropic schien die Nutzer für die Offenlegung verantwortlich zu machen. Auf Nachfrage teilte das Unternehmen TechCrunch mit, dass geteilte Links nur dann in Suchergebnissen auftauchen, wenn sie an einem Ort veröffentlicht wurden, den Suchmaschinen sehen können, wie einem Forum oder einem Social-Media-Beitrag; es fügte hinzu, dass ein privat an jemanden gesendeter Link nicht in der Suche auftauche.

Sprecherin Amie Rotherham fügte in einer Erklärung hinzu: „Wir geben den Menschen die Kontrolle darüber, ihre Claude-Konversationen öffentlich zu teilen, und in Übereinstimmung mit unseren Datenschutzgrundsätzen teilen wir keine Chat-Verzeichnisse oder Sitemaps mit Suchmaschinen wie Google. Diese teilbaren Links sind nicht erratbar oder auffindbar, es sei denn, die Leute entscheiden sich, sie selbst zu teilen. Wenn jemand eine Konversation teilt, macht er diesen Inhalt öffentlich zugänglich, und wie andere öffentliche Webinhalte kann er von Drittanbieterdiensten archiviert werden.“

Das Problem wurde erstmals am Samstag von einem Reddit-Nutzer gemeldet und am Montagmorgen von 404 Media zuerst berichtet.

Am Montagnachmittag ergab eine Testsuchen von TechCrunch bei Google nach der im Reddit-Beitrag beschriebenen Methode keine Ergebnisse, was darauf hindeutet, dass die Offenlegung irgendwie behoben wurde.

Bevor das Problem behoben wurde, berichtete Futurism, es habe „einen detaillierten medizinischen Bericht eines echten Patienten, klinische Studienergebnisse mit Patientennamen, Dokumente mit Namen und Telefonnummern von Grundschulkindern, als ‚nur für den internen Gebrauch‘ gekennzeichnete Firmendokumente und Mitarbeiterbewertungen mit persönlichen Informationen über Arbeitnehmer“ gefunden.

Offengelegte Artifacts umfassten Code und Arbeitsnotizen. In mindestens einem Fall, berichtete Fortune, zeigte ein mit „geteilt von Anthropic“ gekennzeichneter Chat auch Claude beim Produzieren von Erotik.

Anthropics Nutzungsrichtlinie verbietet Claude ausdrücklich die Erstellung sexuell expliziter Inhalte, und einen Chatbot dazu zu bringen, Material gegen seine erklärten Richtlinien zu produzieren – durch wiederholte oder kreativ formulierte Aufforderungen – ist ein Muster, das periodisch bei den meisten großen KI-Modellen aufgetaucht ist. Es ist noch nicht klar aus dem offengelegten Chat, wie der betreffende Inhalt generiert wurde, und Anthropic hat noch nicht auf TechCrunchs Anfrage zu diesem speziellen Fall geantwortet.

Google-Sprecher Ned Adriance teilte TechCrunch mit: „Weder Google noch eine andere Suchmaschine kontrolliert, welche Seiten im Web öffentlich gemacht werden, und diese Seiten wurden über viele Suchmaschinen hinweg indexiert. Wir geben Website-Betreibern klare Kontrollen, um zu entscheiden, ob Seiten gecrawlt oder indexiert werden können, und wir respektieren diese Anweisungen immer.“

Letztes Jahr berichtete Forbes über ein ähnliches Problem, bei dem Hunderte von Claude-Chats von Suchmaschinen indexiert wurden – damals schätzte Google, dass es knapp 600 Konversationen indexiert hatte, bevor die Seiten aus den Suchergebnissen verschwanden. Wie genau die aktuelle Offenlegung diesem Ausmaß entspricht, wurde nicht unabhängig bestätigt, obwohl mehrere Nutzer berichteten, geteilte Konversationen durch dieselbe Art von Google-Suchabfrage gefunden zu haben, die auch für den Cache des letzten Jahres verwendet wurde. Ebenfalls letztes Jahr berichtete 404 Media, dass ein Forscher etwa 100.000 Chats scrapen konnte.