先週末、Redditユーザーが「site:claude.ai/share」のような検索演算子をGoogleに入力すると、共有された会話の長いリストが表示されることを発見した。その中には、健康記録、企業の機密文書、子供の名前や電話番号が含まれていたものもあったという。

問題はClaudeの「共有チャット」機能に起因しているようだ。この機能を使うと、URLを知っている人なら誰でも会話やプロジェクトを閲覧できるリンクが作成される。「リンクを知っている人は誰でも閲覧可能」とClaudeのインターフェースは警告している。この文言は、主に友人や同僚、少人数のグループとチャットを共有するための機能であることを明確に示している。つまり、インターネット全体に向けたものではない。例えば、Google Docsにも同様の機能があるが、それらのドキュメントがGoogle上で公開アクセス可能になることはない。

Anthropicはこの露出についてユーザーの責任を問う姿勢を見せた。同社はTechCrunchに対し、共有リンクが検索結果に表示されるのは、フォーラムやソーシャルメディアへの投稿など、検索エンジンが認識できる場所に投稿された場合のみだと説明。プライベートに送信されたリンクは検索対象外だと付け加えた。

広報担当のAmie Rotherham氏は説明文で次のように述べている。「当社はユーザーがClaudeの会話を公開共有するかどうかを制御できるようにしており、プライバシー原則に従い、チャットのディレクトリやサイトマップをGoogleなどの検索エンジンと共有していません。これらの共有可能なリンクは、ユーザーが自ら共有しない限り推測も発見もできません。誰かが会話を共有すると、そのコンテンツは公開アクセス可能になり、他の公開ウェブコンテンツと同様に、サードパーティのサービスによってアーカイブされる可能性があります。」

この問題は土曜日にRedditユーザーによって最初に指摘され、月曜日の朝に404 Mediaが最初に報じた。

月曜日の午後、TechCrunchがRedditの投稿で示された方法に従ってGoogleでテスト検索を行ったところ、結果は返ってこなかった。これは、露出が何らかの形で修正されたことを示唆している。

問題が修正される前、Futurismは「実際の患者の詳細な医療報告書、患者名を含む臨床試験結果、小学生の名前と電話番号を共有する文書、内部使用のみとマークされた企業文書、従業員の個人情報を含む従業員レビュー」を発見したと報じている。

露出したArtifactにはコードや作業メモが含まれていた。少なくとも1件では、Fortuneによると、「Anthropicが共有」とラベル付けされたチャットで、Claudeがエロティカを生成していた。

Anthropicの利用ポリシーは、Claudeが性的に露骨なコンテンツを生成することを明確に禁止している。チャットボットに明示されたガイドラインに反するコンテンツを生成させることは、繰り返しまたは創造的にフレーミングされたプロンプトを通じて、主要なAIモデルのほとんどで定期的に発生しているパターンである。露出したチャットから問題のコンテンツがどのように生成されたかはまだ明らかになっておらず、Anthropicはこの特定のケースについてTechCrunchのコメント要請にまだ応じていない。

Googleの広報担当Ned Adriance氏はTechCrunchに対し、「Googleも他の検索エンジンも、どのページがウェブ上で公開されるかを制御していません。これらのページは多くの検索エンジンでインデックスされていました。当社はサイト運営者に、ページがクロールまたはインデックスされるかどうかを決定する明確なコントロールを提供しており、それらの指示を常に尊重しています。」と述べた。

昨年、Forbesは同様の問題を報じている。数百のClaudeチャットが検索エンジンにインデックスされ、Googleは約600件未満の会話がインデックスされたと推定していたが、その後ページは検索結果から消えた。今回の露出がその規模にどの程度近いかは独立して確認されていないが、複数のユーザーが昨年のキャッシュを表面化させるために使用されたのと同じタイプのGoogle検索クエリを通じて共有会話を発見したと報告している。また昨年、404 Mediaは研究者が約10万件のチャットをスクレイピングできたと報じている。