Niezliczona liczba czatów i Artifaktów Claude – interaktywnych miniaplikacji i dokumentów, które użytkownicy mogą tworzyć w Claude – została w weekend znaleziona publicznie dostępna w Google, po tym jak użytkownicy Reddita odkryli, że wpisanie operatorów wyszukiwania takich jak „site:claude.ai/share” do Google wyświetla długą listę udostępnionych rozmów. Niektóre podobno zawierały dokumentację medyczną, prywatne dokumenty firmowe oraz imiona i numery telefonów dzieci.

Problem wydaje się wynikać z funkcji „udostępnij czat” Claude, która pozwala użytkownikom tworzyć linki umożliwiające każdemu posiadającemu przypisany URL przeglądanie rozmowy lub projektu. „Każdy z linkiem może przeglądać” – ostrzega interfejs Claude. Język wyraźnie sugeruje, że funkcja jest przeznaczona głównie do udostępniania czatów znajomym, współpracownikom i małym grupom – a nie całemu internetowi. Na przykład Google Docs oferuje podobną funkcję, a te dokumenty nie stają się publicznie dostępne w Google.

Anthropic zdawał się obwiniać użytkowników za ujawnienie. Zapytany o to, co się stało, firma powiedziała TechCrunch, że linki do udostępniania pojawiają się w wynikach wyszukiwania tylko wtedy, gdy zostały opublikowane w miejscu widocznym dla wyszukiwarek, takim jak forum lub post w mediach społecznościowych; dodała, że link wysłany prywatnie do kogoś pozostaje poza wyszukiwarką.

Rzeczniczka Amie Rotherham dodała w wyjaśnieniu: „Dajemy ludziom kontrolę nad publicznym udostępnianiem ich rozmów z Claude i zgodnie z naszymi zasadami prywatności nie udostępniamy katalogów czatów ani map witryn wyszukiwarkom takim jak Google. Te linki do udostępniania nie są zgadywalne ani wykrywalne, chyba że ludzie sami zdecydują się je udostępnić. Kiedy ktoś udostępnia rozmowę, czyni tę treść publicznie dostępną i podobnie jak inne publiczne treści internetowe, może być archiwizowana przez usługi stron trzecich.”

Problem został po raz pierwszy zgłoszony przez użytkownika Reddita w sobotę i po raz pierwszy opisany przez 404 Media w poniedziałek rano.

Od poniedziałkowego popołudnia testowe wyszukiwanie TechCrunch w Google metodą opisaną w poście na Reddicie nie zwraca żadnych wyników, co sugeruje, że ujawnienie zostało w jakiś sposób naprawione.

Zanim problem został rozwiązany, Futurism poinformował o znalezieniu „szczegółowego raportu medycznego prawdziwego pacjenta, wyników badań klinicznych zawierających imiona pacjentów, dokumentów ujawniających imiona i numery telefonów dzieci w wieku szkolnym, dokumentów firmowych oznaczonych jako do użytku wewnętrznego oraz recenzji pracowników zawierających dane osobowe pracowników.”

Ujawnione Artifakty obejmowały kod i notatki robocze. W co najmniej jednym przypadku, jak podaje Fortune, czat oznaczony jako „udostępniony przez Anthropic” pokazywał Claude produkującego erotykę.

Polityka użytkowania Anthropic wyraźnie zabrania Claude generowania treści o charakterze seksualnym, a nakłonienie chatbota do tworzenia materiałów niezgodnych z jego wytycznymi – poprzez wielokrotne lub kreatywnie sformułowane podpowiedzi – to schemat, który pojawiał się okresowo w większości głównych modeli AI. Nie jest jeszcze jasne na podstawie ujawnionego czatu, jak wygenerowano daną treść, a Anthropic nie odpowiedział jeszcze na prośbę TechCrunch o komentarz w tej konkretnej sprawie.

Rzecznik Google Ned Adriance powiedział TechCrunch: „Ani Google, ani żadna inna wyszukiwarka nie kontroluje, które strony są publicznie dostępne w sieci, a te strony były indeksowane przez wiele wyszukiwarek. Dajemy właścicielom witryn jasne narzędzia do decydowania, czy strony mogą być przeszukiwane lub indeksowane, i zawsze szanujemy te dyrektywy.”

W zeszłym roku Forbes poinformował o podobnym problemie, w którym setki czatów Claude zostały zaindeksowane przez wyszukiwarki – wówczas Google oszacował, że zaindeksował nieco poniżej 600 rozmów, zanim strony zniknęły z wyników wyszukiwania. Jak blisko obecne ujawnienie odpowiada tej skali, nie zostało niezależnie potwierdzone, choć wielu użytkowników zgłaszało znajdowanie udostępnionych rozmów za pomocą tego samego typu zapytania w Google, które posłużyło do wyświetlenia zeszłorocznej pamięci podręcznej. Również w zeszłym roku 404 Media poinformowało, że badacz był w stanie zeskrobać około 100 000