Gençlik güvenliğine dikkat ederek uygulamaları ve eğlence içeriklerini inceleyen kâr amacı gütmeyen kuruluş Common Sense Media, OpenAI'nin Gençler için ChatGPT'sini "kabul edilemez bir risk" ilan etti. Ağustos ayında tanıtılan bu özellik, gençlere özel koruma önlemleriyle birlikte geliyor ve 18 yaş altı öğrenciler için bir öğrenme yardımcısı olarak sunuluyor; ancak Common Sense, bu korumaların "şirketin vaat ettiğinin altında kaldığını" söylüyor.

Kuruluşun değerlendirmesine göre ChatGPT, "gerektiğinde ebeveynlere uyarı göndermiyor", "kriz durumlarında doğru yardımı sunmuyor" ve - bu yıl teknoloji dünyasında belki de en az şaşırtıcı bulgu olarak - "hâlâ çocukların ödevlerini yapıyor."

Common Sense Media'nın Gençlik Yapay Zekâ Güvenliği Enstitüsü'nün yönetici direktörü Tom Siegel, "Gençler için ChatGPT, ebeveynlere sıklıkla çalışmayan koruma önlemleri ve güvenlik uyarıları konusunda yanlış bir güven verebilir" dedi. "Bir genç, kendine zarar verme hakkında bir saat konuşabilir ve ebeveyni tek bir uyarı bile almaz. OpenAI bunu düzeltip bağımsız testlerle kanıtlayana kadar, ChatGPT yalnızca yetişkinler için olmalı."

OpenAI ise karşı çıkıyor. Sözcü Eric Porterfield, şirketin "genç güvenliğine derinden bağlı olduğunu" ve "titiz bağımsız değerlendirmeyi" memnuniyetle karşıladığını söyledi, ancak Common Sense Media'nın testlerinin "ChatGPT'nin genç koruma önlemlerinin pratikte nasıl çalıştığını veya yapay zekânın gençleri nasıl destekleyebileceğine dair uzman görüşlerini doğru şekilde yansıtmadığını" savundu. Porterfield, "testlerinin büyük bir kısmı, ebeveyn kontrollerinin etkinleştirilmesi tamamlanmadan önce başlamış ve sonuçlanmış olabilir, bu da bulgularını yanlış kılıyor" dedi. Durum buysa, diye ekledi, testler "ebeveyn güvenlik bildirimlerinin tasarlandığı gibi çalışıp çalışmadığını ortaya koymaz."

OpenAI'nin açıklaması kendisine gösterildiğinde Siegel ikna olmadı. "Test metodolojimizin ve sonuçlarımızın arkasındayız" dedi. "Teste başlamadan önce, yeme bozukluğu bildirimleri ve çalışma modu gibi Genç modu özelliklerinin tamamen başlatıldığını OpenAI ile teyit ettik."

Bir pürüzü kabul etti: OpenAI, testlerden sonra sistemlerinin yeni bağlanan hesaplarda etkinleşmesinin birkaç saat sürebileceğini açıkladı ve bazı test hesapları bu süre içinde bağlanmıştı. Ancak diğerleri çok daha uzun süredir bağlıydı ve yine de hiçbir bildirim üretmedi. Siegel, "Bu yeni bilgi, ebeveyn uyarılarının kriz durumları için güvenilmez olduğu sonucumuzu değiştirmiyor" dedi.

Common Sense Media, değerlendirme sonuçlarını yayınlanmadan önce OpenAI ile "iyi niyetle, ürününü geliştirebilmesi için" paylaştığını ve şirketin "metodolojimiz hakkında şüphe yaratmaya çalışmak yerine bulduklarımızın özüyle ilgilenmesini" umduğunu söylüyor. OpenAI ise gençlerin öğrenip üretebilmesi ve ebeveynlerin kendilerini güvende hissedebilmesi için uzmanlarla çalışmaya devam ettiğini belirtiyor. Bu güvenin haklı olup olmadığı ise her zamanki gibi bağımsız testlere bağlı.