Un numero imprecisato di chat e Artifacts di Claude - le mini app interattive e i documenti che gli utenti possono creare all'interno di Claude - sono stati trovati pubblicamente indicizzati su Google durante il weekend, dopo che utenti di Reddit hanno scoperto che digitando operatori di ricerca come "site:claude.ai/share" su Google emergeva una lunga lista di conversazioni condivise. Alcune, secondo quanto riferito, contenevano cartelle cliniche, documenti aziendali privati e nomi e numeri di telefono di bambini.

Il problema sembra aver avuto origine dalla funzione "share chat" di Claude, che consente agli utenti di creare link che permettono a chiunque abbia l'URL di visualizzare una conversazione o un progetto. "Chiunque abbia il link può visualizzare", avverte l'interfaccia di Claude. Il linguaggio implica chiaramente che la funzione è principalmente intesa a permettere agli utenti di condividere le loro chat con amici, colleghi e piccoli gruppi - non con tutto Internet. Google Docs, ad esempio, offre una funzione simile e quei documenti non finiscono pubblicamente accessibili su Google.

Anthropic ha apparentemente incolpato gli utenti per l'esposizione. Alla domanda su cosa fosse successo, l'azienda ha detto a TechCrunch che i link di condivisione appaiono nei risultati di ricerca solo quando sono stati pubblicati in un luogo visibile ai motori di ricerca, come un forum o un post sui social media; ha aggiunto che un link inviato privatamente a qualcuno rimane fuori dalla ricerca.

La portavoce Amie Rotherham ha aggiunto in una spiegazione: "Diamo alle persone il controllo sulla condivisione pubblica delle loro conversazioni con Claude e, in linea con i nostri principi sulla privacy, non condividiamo directory di chat o sitemap con motori di ricerca come Google. Questi link condivisibili non sono indovinabili o scopribili a meno che le persone non scelgano di condividerli da sole. Quando qualcuno condivide una conversazione, rende quel contenuto pubblicamente accessibile e, come altri contenuti web pubblici, può essere archiviato da servizi di terze parti."

Il problema è stato segnalato per la prima volta da un utente di Reddit sabato ed è stato riportato per la prima volta da 404 Media lunedì mattina.

A lunedì pomeriggio, una ricerca di prova di TechCrunch su Google seguendo il metodo descritto nel post di Reddit non ha restituito alcun risultato, suggerendo che l'esposizione è stata in qualche modo risolta.

Prima che il problema fosse risolto, Futurism ha riferito di aver trovato "un dettagliato referto medico di un paziente reale, risultati di studi clinici che includevano nomi di pazienti, documenti che condividevano nomi e numeri di telefono di bambini in età scolare, documenti aziendali contrassegnati come solo per uso interno e recensioni di dipendenti che includevano informazioni personali sui lavoratori."

Gli Artifacts esposti includevano codice e note di lavoro. In almeno un caso, Fortune ha riportato, una chat etichettata "condivisa da Anthropic" mostrava anche Claude che produceva erotica.

La politica di utilizzo di Anthropic vieta esplicitamente a Claude di generare contenuti sessualmente espliciti, e ottenere da un chatbot la produzione di materiale contro le sue linee guida dichiarate - attraverso richieste ripetute o inquadrate in modo creativo - è un modello che è emerso periodicamente nella maggior parte dei modelli AI principali. Non è ancora chiaro dalla chat esposta come sia stato generato il contenuto in questione, e Anthropic non ha ancora risposto alla richiesta di commento di TechCrunch su questo caso specifico.

Il portavoce di Google Ned Adriance ha detto a TechCrunch: "Né Google né nessun altro motore di ricerca controlla quali pagine vengono rese pubbliche sul web, e queste pagine sono state indicizzate su molti motori di ricerca. Diamo ai proprietari dei siti controlli chiari per decidere se le pagine possono essere scansionate o indicizzate, e rispettiamo sempre quelle direttive."

L'anno scorso, Forbes ha riportato un problema simile in cui centinaia di chat di Claude sono state indicizzate dai motori di ricerca - all'epoca, Google stimava di aver indicizzato poco meno di 600 conversazioni prima che le pagine scomparissero dai risultati di ricerca. Quanto l'esposizione attuale sia simile a quella scala non è stato confermato indipendentemente, anche se diversi utenti hanno riferito di aver trovato conversazioni condivise attraverso lo stesso tipo di query di ricerca su Google usata per far emergere la cache dell'anno scorso. Sempre l'anno scorso, 404 Media ha riportato che un ricercatore è riuscito a raschiare circa 100.000