Geçtiğimiz hafta sonu, Reddit kullanıcılarının Google'da "site:claude.ai/share" gibi arama operatörleri yazarak paylaşılan sohbetlerin uzun bir listesini bulmasının ardından, sayısız Claude sohbeti ve Artifact'ın (kullanıcıların Claude içinde oluşturabildiği etkileşimli mini uygulamalar ve belgeler) Google'da herkese açık şekilde aranabilir olduğu keşfedildi. Bazılarının sağlık kayıtları, özel şirket belgeleri ve çocukların isimleri ile telefon numaralarını içerdiği bildirildi.

Sorun, Claude'un "sohbet paylaş" özelliğinden kaynaklanmış gibi görünüyor. Bu özellik, kullanıcıların atanan URL'ye sahip herkesin bir sohbeti veya projeyi görüntülemesine olanak tanıyan bağlantılar oluşturmasına izin veriyor. "Bağlantıya sahip herkes görüntüleyebilir," diye uyarıyor Claude'un arayüzü. Bu ifade, özelliğin esas olarak kullanıcıların sohbetlerini arkadaşları, meslektaşları ve küçük gruplarla paylaşmasına izin vermek için tasarlandığını açıkça ima ediyor - tüm internetle değil. Örneğin Google Dokümanlar benzer bir özellik sunuyor ve bu belgeler Google'da herkese açık şekilde erişilebilir hale gelmiyor.

Anthropic, ifşayı kullanıcılara yükledi. Olanlar hakkında sorulduğunda şirket TechCrunch'a, paylaşım bağlantılarının yalnızca bir forum veya sosyal medya gönderisi gibi arama motorlarının görebileceği bir yerde yayınlandığında arama sonuçlarında göründüğünü söyledi; birine özel olarak gönderilen bir bağlantının aramada yer almadığını ekledi.

Sözcü Amie Rotherham bir açıklamada şunları ekledi: "İnsanlara Claude sohbetlerini herkese açık olarak paylaşma konusunda kontrol veriyoruz ve gizlilik ilkelerimize uygun olarak, sohbet dizinlerini veya site haritalarını Google gibi arama motorlarıyla paylaşmıyoruz. Bu paylaşılabilir bağlantılar, insanlar onları kendileri paylaşmayı seçmedikçe tahmin edilemez veya keşfedilemez. Birisi bir sohbeti paylaştığında, bu içeriği herkese açık hale getiriyor ve diğer herkese açık web içeriği gibi, üçüncü taraf hizmetler tarafından arşivlenebilir."

Sorun ilk olarak Cumartesi günü bir Reddit kullanıcısı tarafından bildirildi ve ilk olarak Pazartesi sabahı 404 Media tarafından haberleştirildi.

Pazartesi öğleden sonra itibarıyla, TechCrunch tarafından Reddit gönderisinde belirtilen yöntemi izleyerek Google'da yapılan bir test araması herhangi bir sonuç döndürmedi, bu da ifşanın bir şekilde giderildiğini gösteriyor.

Sorun giderilmeden önce, Futurism "gerçek bir hastanın ayrıntılı tıbbi raporu, hasta adlarını içeren klinik deney sonuçları, ilkokul çağındaki çocukların adlarını ve telefon numaralarını paylaşan belgeler, yalnızca dahili kullanım için işaretlenmiş şirket belgeleri ve çalışanlar hakkında kişisel bilgiler içeren çalışan yorumları" bulduğunu bildirdi.

İfşa edilen Artifact'lar kod ve çalışma notlarını içeriyordu. En az bir vakada, Fortune'un bildirdiğine göre, "Anthropic tarafından paylaşıldı" etiketli bir sohbet, Claude'un erotik içerik ürettiğini de gösteriyordu.

Anthropic'in kullanım politikası, Claude'un açıkça cinsel içerik üretmesini yasaklıyor ve bir sohbet robotunu belirtilen yönergelerine aykırı materyal üretmeye - tekrarlanan veya yaratıcı bir şekilde çerçevelenmiş yönlendirmeler yoluyla - ikna etmek, çoğu büyük AI modelinde periyodik olarak ortaya çıkan bir modeldir. İfşa edilen sohbetten söz konusu içeriğin nasıl oluşturulduğu henüz net değil ve Anthropic bu özel durumla ilgili TechCrunch'ın yorum talebine henüz yanıt vermedi.

Google sözcüsü Ned Adriance TechCrunch'a şunları söyledi: "Ne Google ne de başka bir arama motoru, web'de hangi sayfaların herkese açık hale getirildiğini kontrol etmez ve bu sayfalar birçok arama motorunda indekslendi. Site sahiplerine sayfaların taranıp taranamayacağına veya indekslenip indekslenemeyeceğine karar vermeleri için net kontroller veriyoruz ve bu yönergelere her zaman saygı duyuyoruz."

Geçen yıl, Forbes benzer bir sorunu bildirmişti; yüzlerce Claude sohbeti arama motorları tarafından indekslenmişti - o zaman Google, sayfalar arama sonuçlarından kaybolmadan önce 600'ün biraz altında sohbet indekslediğini tahmin etmişti. Mevcut ifşanın bu ölçeğe ne kadar yakın olduğu bağımsız olarak doğrulanmadı, ancak birden fazla kullanıcı, geçen yılın önbelleğini yüzeye çıkarmak için kullanılan aynı tür Google arama sorgusu aracılığıyla paylaşılan sohbetler bulduklarını bildirdi. Ayrıca geçen yıl, 404 Media bir araştırmacının yaklaşık 100.000