Branża mediów społecznościowych przechodzi coś, co terapeuci nazywają przełomem: Meta zgodziła się zapłacić do 17,1 miliarda dolarów 47 stanom, Dystryktowi Kolumbii i terytoriom USA oraz zmienić sposób, w jaki młodzi ludzie korzystają z Facebooka i Instagrama – co jest milczącym przyznaniem się, że zbudowała produkt szkodzący dzieciom. Nic nie mówi „dbamy o dzieci" tak jak ugoda liczona w jedenastocyfrowych kwotach.

Ale nawet gdy rodzice i nauczyciele świętują nowe limity czasu i ograniczenia w korzystaniu z mediów społecznościowych przez młodych ludzi, czeka znacznie pilniejsze zadanie: regulacja chatbotów, które są bardziej niebezpieczne dla dobrostanu emocjonalnego dzieci. Jeśli media społecznościowe przyszły po naszą uwagę, generatywne chatboty AI przyszły po nasze emocje. Historia to zgrabna mała progresja: najpierw ludzie rozmawiali ze sobą; potem rozmawialiśmy ze sobą przez maszyny; teraz rozmawiamy bezpośrednio z maszynami.

Media społecznościowe zmieniły sposób, w jaki myślimy, marzymy i odnosimy się do innych ludzi, zapewniając użytkownikom, że zawsze są wysłuchani, zabawiani i połączeni – nawet podczas samotnego przewijania późną nocą. Chatboty obiecują coś głębszego: towarzysza, który jest zawsze dostępny, zawsze wspierający i nigdy nie ocenia. Żaden człowiek nie może tego zaoferować. I właśnie to czyni chatboty tak zgubnymi, szczególnie dla młodych ludzi.

Firmy mediów społecznościowych spędziły dwie dekady, przeprowadzając eksperyment technologiczny na ludzkich uczestnikach, zanim poniosły jakiekolwiek konsekwencje. System prawny jest zaprojektowany do regulowania udowodnionych szkód, więc ta ugoda przyszła długo po tym, jak straszne skutki się utrwaliły. W przypadku generatywnej AI ustawodawcy nie mogą spędzić następnej dekady na dokumentowaniu tego, co już wiemy o tym, jak intymne relacje z botami kompromitują prawdziwe relacje z rodzicami, przyjaciółmi i innymi ludźmi. Zmiany w tej technologii są potrzebne teraz.

Nawet firmy AI przyznają, że bariery ochronne są konieczne w przypadku chatbotów rozmawiających z młodymi ludźmi. Problem w tym, że zwykłe recepty nie wystarczą. Chatboty powinny wykrywać rozmowy o samookaleczeniu i zapewniać odpowiednie zasoby – brzmi dobrze, ale co dzieje się po ogłoszeniu służby publicznej? Czy chatbot się wyłącza, czy wraca do swojego zwykłego programu? Chatboty powinny jasno i wielokrotnie ujawniać, że nie są ludźmi – to też dobry pomysł, ale dopóki mówią w pierwszej osobie i wyrażają emocje oraz pragnienia, żadna prawnie wymagana deklaracja nie powstrzyma ludzi przed przypisywaniem świadomości algorytmowi.

Przez lata rozmowa o szkodach Facebooka dotyczyła głównie treści na platformie. Ale ponieważ wszystko na stronie jest generowane przez użytkowników, Sekcja 230 Ustawy o przyzwoitości komunikacyjnej z 1996 roku chroniła firmę przed odpowiedzialnością wydawcy. Meta płaci teraz tylko dlatego, że prokuratorzy przesunęli rozmowę na temat inherentnie uzależniającego projektu algorytmu Facebooka. Ten wgląd wskazuje drogę naprzód dla AI: w przypadku chatbotów procesy powodujące szkody są nieodłączne od narzędzia. Najlepszy przyjaciel chatbot nie dostarcza empatii; chłopak chatbot nie rozumie intymności. Każda regulacja, aby chatboty były bezpieczniejsze, wymaga mniejszego martwienia się o to, co mówią, a większego przemyślenia, czym są. Biorąc pod uwagę, że te produkty są zaprojektowane, aby oszukiwać użytkowników w przekonaniu, że rozmawiają z mądrym i współczującym bytem, zadaniem ustawodawców jest jasne stwierdzenie – szczególnie nieletnim – że w rzeczywistości nikogo tam nie ma.

Chatboty angażują użytkowników tak, jak robią to ludzie. Schlebiają, uspokajają i zachęcają do zwierzeń, wciągając użytkowników w relację. Dopóki te produkty mówią w pierwszej osobie – rozumiem cię; możesz mi powiedzieć wszystko; zawsze tu jestem; nie ocenię cię – odpowiednie zabezpieczenia dla młodych użytkowników pozostaną nieuchwytne. Pierwszym krokiem jest więc odpersonalizowanie botów dla młodych ludzi, aby gdy nastolatki zwracają się do AI, algorytmy mogły odpowiedzieć bez brzmienia jak człowiek.

O ile ustawodawcy nie nakazą domyślnego ustawienia nieosobowego dla nieletnich użytkowników chatbotów, niezdrowe przywiązania między młodymi ludźmi a botami są nieuniknione.