Sosyal medya endüstrisi terapistlerin "içgörü" dediği şeyi yaşıyor: Meta, 47 eyalete, Columbia Bölgesi'ne ve ABD topraklarına 17,1 milyar dolara kadar ödeme yapmayı ve gençlerin Facebook ile Instagram kullanımını değiştirmeyi kabul etti - bu, çocuklara zarar veren bir ürün inşa ettiğinin örtük bir itirafıdır. "Çocukları önemsiyoruz" demenin on bir haneli bir uzlaşmayla ölçülmesi kadar iyi bir ifade olamaz.

Ancak ebeveynler ve öğretmenler gençlerin sosyal medya kullanımına yönelik yeni zaman sınırlarını ve kısıtlamaları kutlarken, çok daha acil bir görev bekliyor: çocukların duygusal refahı için daha tehlikeli olan chatbot'ları düzenlemek. Sosyal medya dikkatimize talip olduysa, üretken yapay zeka chatbot'ları duygularımıza talip oldu. Tarih düzgün küçük bir ilerleme: önce insanlar birbirleriyle konuştu; sonra makineler aracılığıyla birbirimizle konuştuk; şimdi doğrudan makinelerle konuşuyoruz.

Sosyal medya, kullanıcıların gece geç saatlerde yalnız başına kaydırırken bile her zaman duyulduklarını, eğlendiklerini ve bağlantıda olduklarını hissetmelerini sağlayarak düşünme, hayal kurma ve diğer insanlarla ilişki kurma biçimimizi değiştirdi. Chatbot'lar daha derin bir şey vaat ediyor: her zaman müsait, her zaman destekleyici ve asla yargılamayan bir arkadaş. Hiçbir insan bunu sunamaz. Bu da chatbot'ları özellikle gençler için bu kadar tehlikeli kılan şey.

Sosyal medya şirketleri, herhangi bir sonuçla karşılaşmadan önce yirmi yıl boyunca insan denekler üzerinde teknolojik bir deney yürüttü. Hukuk sistemi kanıtlanmış zararları düzenlemek üzere tasarlanmıştır, bu nedenle bu uzlaşma korkunç etkiler ortaya çıktıktan çok sonra geldi. Üretken yapay zeka ile yasa koyucular, botlarla kurulan samimi ilişkilerin ebeveynler, arkadaşlar ve diğer insanlarla gerçek hayattaki ilişkileri nasıl tehlikeye attığına dair zaten bildiklerimizi belgelemek için önümüzdeki on yılı harcayamaz. Bu teknolojide değişiklikler şimdi gerekli.

Yapay zeka şirketleri bile gençlerle konuşan chatbot'lar için koruyucu önlemlerin gerekli olduğunu kabul ediyor. Sorun şu ki, olağan reçeteler yeterli değil. Chatbot'lar kendine zarar verme konuşmalarını tespit etmeli ve uygun kaynakları sağlamalı - kulağa hoş geliyor, ama kamu hizmeti duyurusundan sonra ne oluyor? Chatbot kapanıyor mu, yoksa normal programına mı dönüyor? Chatbot'lar açıkça ve tekrar tekrar insan olmadıklarını açıklamalı - bu da iyi bir fikir, ancak birinci şahıs ağzından konuşup duygu ve arzu ifade ettikleri sürece, yasal olarak zorunlu hiçbir beyan insanların bir algoritmaya bilinç atfetmesini engelleyemez.

Yıllarca Facebook'un zararları hakkındaki konuşma esas olarak platformdaki içerikle ilgiliydi. Ancak sitedeki her şey kullanıcı tarafından üretildiği için, 1996 tarihli İletişim Ahlakı Yasası'nın 230. Bölümü şirketi yayıncı sorumluluğundan korudu. Meta şimdi ödeme yapıyor çünkü savcılar konuşmayı Facebook algoritmasının doğasında var olan bağımlılık yapıcı tasarımına kaydırdı. Bu içgörü yapay zeka için ileriye giden yolu gösteriyor: chatbot'larda zarara neden olan süreçler aracın doğasında vardır. Bir chatbot en iyi arkadaş empati sunmaz; bir chatbot erkek arkadaş samimiyeti anlamaz. Chatbot'ları daha güvenli hale getirecek herhangi bir düzenleme, ne söyledikleriyle daha az ilgilenmeyi, ne olduklarını yeniden düşünmeyi gerektirir. Bu ürünler kullanıcıları bilge ve şefkatli bir varlıkla konuştuklarına inandırmak için tasarlandığına göre, yasa koyucuların önündeki görev - özellikle çocuklara - aslında evde kimsenin olmadığını açıkça belirtmektir.

Chatbot'lar kullanıcılarla insanlar gibi etkileşime girer. İltifat eder, güvence verir ve açılmayı teşvik eder, kullanıcıları bir ilişkiye ikna eder. Bu ürünler birinci şahıs ağzından konuştuğu sürece - seni anlıyorum; bana her şeyi anlatabilirsin; her zaman buradayım; seni yargılamam - genç kullanıcılar için uygun koruyucu önlemler bulunmaya devam edecektir. O halde ilk adım, gençler için botları kişiselleştirmekten arındırmaktır, böylece ergenler yapay zekaya yöneldiğinde algoritmalar insan gibi ses çıkarmadan yanıt verebilir.

Yasa koyucular reşit olmayan chatbot kullanıcıları için kişiselleştirilmemiş bir varsayılan ayar zorunlu kılmadıkça, gençler ile botlar arasındaki sağlıksız bağlanmalar kaçınılmazdır.