구글에서 공개 검색 가능한 클로드 채팅과 아티팩트(클로드 내에서 사용자가 만들 수 있는 대화형 미니 앱과 문서)가 주말 동안 발견되었습니다. 레딧 사용자들이 "site:claude.ai/share" 같은 검색 연산자를 구글에 입력하면 공유된 대화 목록이 나타난다는 사실을 발견한 후입니다. 일부 대화에는 건강 기록, 회사 기밀 문서, 어린이의 이름과 전화번호가 포함된 것으로 알려졌습니다.

문제는 클로드의 '채팅 공유' 기능에서 비롯된 것으로 보입니다. 이 기능은 사용자가 링크를 생성해 해당 URL을 가진 사람이라면 누구나 대화나 프로젝트를 볼 수 있게 합니다. "링크를 가진 사람은 누구나 볼 수 있습니다"라고 클로드 인터페이스는 경고합니다. 이 문구는 분명히 이 기능이 주로 사용자가 친구, 동료, 소규모 그룹과 채팅을 공유하기 위한 것이지, 인터넷 전체와 공유하기 위한 것이 아님을 암시합니다. 예를 들어 구글 독스도 비슷한 기능을 제공하지만, 그 문서들이 구글에서 공개적으로 접근 가능하게 끝나지는 않습니다.

앤트로픽은 이 노출에 대해 사용자 탓으로 돌리는 듯했습니다. 무슨 일이 있었는지 묻자, 회사는 테크크런치에 공유 링크는 검색 엔진이 볼 수 있는 포럼이나 소셜 미디어 게시물 같은 곳에 게시된 경우에만 검색 결과에 나타난다고 말했습니다. 또한 비공개로 누군가에게 보낸 링크는 검색에서 제외된다고 덧붙였습니다.

대변인 에이미 로더햄은 설명에서 다음과 같이 덧붙였습니다: "우리는 사람들에게 클로드 대화를 공개적으로 공유하는 것에 대한 통제권을 제공하며, 개인정보 보호 원칙에 따라 구글 같은 검색 엔진과 채팅 디렉토리나 사이트맵을 공유하지 않습니다. 이러한 공유 가능한 링크는 사람들이 직접 공유하기로 선택하지 않는 한 추측하거나 발견할 수 없습니다. 누군가 대화를 공유하면 해당 콘텐츠를 공개적으로 접근 가능하게 만드는 것이며, 다른 공개 웹 콘텐츠와 마찬가지로 제3자 서비스에 의해 보관될 수 있습니다."

이 문제는 토요일에 레딧 사용자가 처음 제기했으며, 월요일 아침 404 미디어가 처음 보도했습니다.

월요일 오후 현재, 테크크런치가 레딧 게시물에 설명된 방법을 따라 구글에서 테스트 검색을 한 결과 아무 결과도 반환되지 않아, 노출이 어떻게든 해결된 것으로 보입니다.

문제가 해결되기 전, 퓨처리즘은 "실제 환자의 상세 의료 보고서, 환자 이름이 포함된 임상 시험 결과, 초등학생 연령 어린이의 이름과 전화번호를 공유하는 문서, 내부 전용으로 표시된 회사 문서, 직원 개인 정보가 포함된 직원 리뷰"를 발견했다고 보도했습니다.

노출된 아티팩트에는 코드와 작업 노트가 포함되었습니다. 적어도 한 경우, 포춘은 "Anthropic이 공유함"으로 표시된 채팅에서 클로드가 에로티카를 생성하는 모습도 보였다고 보도했습니다.

앤트로픽의 사용 정책은 클로드가 성적으로 노골적인 콘텐츠를 생성하는 것을 명시적으로 금지하며, 반복적이거나 창의적으로 구성된 프롬프트를 통해 명시된 지침을 위반하는 콘텐츠를 챗봇이 생성하도록 하는 것은 대부분의 주요 AI 모델에서 주기적으로 나타나는 패턴입니다. 노출된 채팅에서 해당 콘텐츠가 어떻게 생성되었는지는 아직 명확하지 않으며, 앤트로픽은 이 특정 사례에 대한 테크크런치의 논평 요청에 아직 응답하지 않았습니다.

구글 대변인 네드 아드리앙스는 테크크런치에 "구글이나 다른 검색 엔진은 어떤 페이지가 웹에 공개되는지 통제하지 않으며, 이 페이지들은 여러 검색 엔진에서 색인되었습니다. 우리는 사이트 소유자에게 페이지가 크롤링되거나 색인될 수 있는지 결정할 수 있는 명확한 제어권을 제공하며, 항상 해당 지시를 존중합니다"라고 말했습니다.

작년, 포브스는 수백 개의 클로드 채팅이 검색 엔진에 색인된 유사한 문제를 보도했습니다. 당시 구글은 페이지가 검색 결과에서 사라지기 전에 약 600개의 대화를 색인한 것으로 추정했습니다. 현재 노출이 그 규모와 얼마나 일치하는지는 독립적으로 확인되지 않았지만, 여러 사용자가 작년 캐시를 표면화하는 데 사용된 것과 동일한 유형의 구글 검색 쿼리를 통해 공유된 대화를 발견했다고 보고했습니다. 또한 작년, 404 미디어는 한 연구원이 약 10만 개의 공유 링크를 스크래핑할 수 있었다고 보도했습니다.