Un număr nespus de chat-uri și Artifacts Claude – mini-aplicațiile interactive și documentele pe care utilizatorii le pot construi în Claude – au fost găsite căutabile public pe Google în weekend, după ce utilizatorii Reddit au descoperit că tastarea unor operatori de căutare precum „site:claude.ai/share” în Google scotea la suprafață o listă lungă de conversații partajate. Unele conțineau, se pare, dosare medicale, documente private ale companiilor și numele și numerele de telefon ale copiilor.

Problema pare să fi provenit de la funcția „share chat” a lui Claude, care permite utilizatorilor să creeze linkuri ce permit oricui are URL-ul atribuit să vizualizeze o conversație sau un proiect. „Oricine cu linkul poate vedea”, avertizează interfața lui Claude. Limbajul sugerează clar că funcția este destinată în principal să permită utilizatorilor să-și partajeze chat-urile cu prietenii, colegii și grupuri mici – nu cu tot internetul. Google Docs, de exemplu, oferă o funcție similară și acele documente nu ajung accesibile public pe Google.

Anthropic a părut să dea vina pe utilizatori pentru expunere. Întrebată despre ce s-a întâmplat, compania a spus TechCrunch că linkurile de partajare apar în rezultatele căutării doar atunci când au fost postate undeva unde motoarele de căutare le pot vedea, cum ar fi un forum sau o postare pe rețele sociale; a adăugat că un link trimis privat cuiva rămâne în afara căutării.

Purtătoarea de cuvânt Amie Rotherham a adăugat într-o explicație: „Oferim oamenilor control asupra partajării conversațiilor lor Claude public și, în conformitate cu principiile noastre de confidențialitate, nu partajăm directoare de chat sau hărți de site cu motoarele de căutare precum Google. Aceste linkuri partajabile nu sunt ghicibile sau descoperibile decât dacă oamenii aleg să le partajeze ei înșiși. Când cineva partajează o conversație, face acel conținut accesibil public și, ca orice alt conținut web public, poate fi arhivat de servicii terțe.”

Problema a fost semnalată prima dată de un utilizator Reddit sâmbătă și a fost raportată prima dată de 404 Media luni dimineață.

De luni după-amiază, o căutare de test efectuată de TechCrunch pe Google urmând metoda descrisă în postarea Reddit nu returnează niciun rezultat, sugerând că expunerea a fost cumva remediată.

Înainte ca problema să fie rezolvată, Futurism a raportat că a găsit „un raport medical detaliat al unui pacient real, rezultate de studii clinice care includeau nume de pacienți, documente care partajau numele și numerele de telefon ale copiilor de vârstă școlară primară, documente ale companiei marcate pentru uz intern și recenzii ale angajaților care includeau informații personale despre lucrători.”

Artifacts expuse includeau cod și note de lucru. În cel puțin un caz, Fortune a raportat că un chat etichetat „partajat de Anthropic” arăta și Claude producând erotism.

Politica de utilizare a Anthropic interzice explicit lui Claude să genereze conținut sexual explicit, iar a face un chatbot să producă material împotriva liniilor directoare declarate – prin solicitări repetate sau încadrate creativ – este un model care a apărut periodic la majoritatea modelelor majore de AI. Nu este încă clar din chat-ul expus cum a fost generat conținutul în cauză, iar Anthropic nu a răspuns încă la cererea de comentariu a TechCrunch pentru acest caz specific.

Purtătorul de cuvânt al Google, Ned Adriance, a spus TechCrunch că „Nici Google, nici orice alt motor de căutare nu controlează ce pagini sunt făcute publice pe web, iar aceste pagini au fost indexate pe multe motoare de căutare. Oferim proprietarilor de site-uri controale clare pentru a decide dacă paginile pot fi accesate sau indexate și respectăm întotdeauna acele directive.”

Anul trecut, Forbes a raportat o problemă similară în care sute de chat-uri Claude au fost indexate de motoarele de căutare – la acea vreme, Google estima că indexase puțin sub 600 de conversații înainte ca paginile să dispară din rezultatele căutării. Cât de aproape se potrivește expunerea actuală cu acea scară nu a fost confirmat independent, deși mai mulți utilizatori au raportat că au găsit conversații partajate prin același tip de interogare Google folosită pentru a scoate la suprafață cache-ul de anul trecut. De asemenea, anul trecut, 404 Media a raportat că un cercetător a reușit să extragă aproximativ 100.000