Ett oräkneligt antal Claude-chattar och Artifacts – de interaktiva miniappar och dokument som användare kan bygga inuti Claude – hittades offentligt sökbara på Google under helgen, efter att Reddit-användare upptäckte att man genom att skriva sökoperatorer som "site:claude.ai/share" i Google fick upp en lång lista med delade konversationer. Vissa innehöll enligt uppgift hälsouppgifter, privata företagsdokument samt namn och telefonnummer till barn.

Problemet verkar ha sitt ursprung i Claudes "dela chatt"-funktion, som låter användare skapa länkar som gör att vem som helst med den tilldelade URL:en kan se en konversation eller ett projekt. "Vem som helst med länken kan se", varnar Claudes gränssnitt. Språket antyder tydligt att funktionen främst är avsedd för att användare ska kunna dela sina chattar med vänner, kollegor och små grupper – inte hela internet. Google Docs erbjuder till exempel en liknande funktion och de dokumenten hamnar inte offentligt tillgängliga på Google.

Anthropic verkade skylla på användarna för exponeringen. När företaget tillfrågades om vad som hänt, sa de till TechCrunch att dellänkar bara dyker upp i sökresultat när de har publicerats någonstans där sökmotorer kan se dem, som ett forum eller ett inlägg på sociala medier; de tillade att en länk som skickas privat till någon förblir utanför sökresultaten.

Talespersonen Amie Rotherham tillade i en förklaring: "Vi ger människor kontroll över att dela sina Claude-konversationer offentligt, och i enlighet med våra integritetsprinciper delar vi inte chattkataloger eller webbplatskartor med sökmotorer som Google. Dessa delbara länkar är inte gissningsbara eller upptäckbara om inte människor själva väljer att dela dem. När någon delar en konversation gör de det innehållet offentligt tillgängligt, och liksom annat offentligt webbinnehåll kan det arkiveras av tredjepartstjänster."

Problemet flaggades först av en Reddit-användare på lördagen och rapporterades först av 404 Media på måndagsmorgonen.

På måndagseftermiddagen gav ett testsökning av TechCrunch på Google enligt metoden som beskrivs i Reddit-inlägget inga resultat, vilket tyder på att exponeringen på något sätt har åtgärdats.

Innan problemet åtgärdades rapporterade Futurism att de hittat "en detaljerad medicinsk rapport om en verklig patient, kliniska prövningsresultat som innehöll patientnamn, dokument som delade namn och telefonnummer till barn i grundskoleåldern, företagsdokument märkta för internt bruk och medarbetarrecensioner som innehöll personlig information om arbetare."

Exponerade Artifacts inkluderade kod och arbetsanteckningar. I åtminstone ett fall, rapporterade Fortune, visade en chatt märkt "delad av Anthropic" även Claude producera erotik.

Anthropics användningspolicy förbjuder uttryckligen Claude att generera sexuellt explicit innehåll, och att få en chattbot att producera material mot dess angivna riktlinjer – genom upprepad eller kreativt formulerad uppmaning – är ett mönster som dykt upp periodvis hos de flesta stora AI-modeller. Det är ännu inte klart från den exponerade chatten hur innehållet i fråga genererades, och Anthropic har ännu inte svarat på TechCrunchs begäran om kommentar i detta specifika fall.

Google-talespersonen Ned Adriance sa till TechCrunch att "Varken Google eller någon annan sökmotor kontrollerar vilka sidor som görs offentliga på webben, och dessa sidor indexerades över många sökmotorer. Vi ger webbplatsägare tydliga kontroller för att bestämma om sidor kan genomsökas eller indexeras, och vi respekterar alltid dessa direktiv."

Förra året rapporterade Forbes ett liknande problem där hundratals Claude-chattar indexerades av sökmotorer – då uppskattade Google att de hade indexerat knappt 600 konversationer innan sidorna försvann från sökresultaten. Hur nära den nuvarande exponeringen följer den omfattningen har inte oberoende bekräftats, även om flera användare rapporterade att de hittade delade konversationer genom samma typ av Google-sökfråga som användes för att hitta förra årets cache. Även förra året rapporterade 404 Media att en forskare kunde skrapa omkring 100 000