De socialmedia-industrie beleeft wat therapeuten een doorbraak noemen: Meta heeft ermee ingestemd om tot $17,1 miljard te betalen aan 47 staten, het District of Columbia en Amerikaanse territoria, en om te veranderen hoe jongeren Facebook en Instagram gebruiken – een impliciete erkenning dat het een product heeft gebouwd dat kinderen schaadt. Niets zegt "we geven om kinderen" zoals een schikking van elf cijfers.

Maar zelfs terwijl ouders en leraren nieuwe tijdslimieten en beperkingen op het socialmediagebruik van jongeren vieren, wacht een veel urgentere taak: het reguleren van chatbots, die gevaarlijker zijn voor het emotionele welzijn van kinderen. Als social media op onze aandacht uit waren, dan zijn generatieve-AI-chatbots op onze emoties uit. De geschiedenis is een mooie kleine progressie: eerst praatten mensen met elkaar; toen praatten we met elkaar via machines; nu praten we direct tegen machines.

Social media veranderden hoe we denken, dromen en ons tot anderen verhouden door ervoor te zorgen dat gebruikers zich altijd gehoord, vermaakt en verbonden voelen – zelfs terwijl ze laat op de avond alleen scrollen. Chatbots beloven iets diepers: een metgezel die altijd beschikbaar is, altijd ondersteunend en nooit veroordelend. Geen mens kan dat bieden. Dat is precies wat chatbots zo verderfelijk maakt, vooral voor jongeren.

Socialmediabedrijven hebben twee decennia lang een technologisch experiment op menselijke proefpersonen uitgevoerd voordat ze enige consequenties onder ogen zagen. Het rechtssysteem is ontworpen om bewezen schade te reguleren, dus deze schikking kwam lang nadat de rampzalige effecten zich hadden genesteld. Met generatieve AI kunnen wetgevers niet de komende tien jaar besteden aan het documenteren van wat we al weten over hoe intieme relaties met bots echte relaties met ouders, vrienden en andere mensen compromitteren. Veranderingen aan deze technologie zijn nu nodig.

Zelfs AI-bedrijven geven toe dat vangrails nodig zijn voor chatbots die met jongeren praten. Het probleem is dat de gebruikelijke voorschriften niet genoeg zijn. Chatbots zouden gesprekken over zelfbeschadiging moeten detecteren en passende middelen moeten bieden – klinkt goed, maar wat gebeurt er na de publieke voorlichtingsboodschap? Schakelt de chatbot zichzelf uit, of gaat hij terug naar zijn normale programmering? Chatbots zouden duidelijk en herhaaldelijk moeten onthullen dat ze niet menselijk zijn – ook een goed idee, maar zolang ze in de eerste persoon spreken en emotie en verlangen uiten, zal geen wettelijk verplichte verklaring voorkomen dat mensen bewustzijn op een algoritme projecteren.

Jarenlang ging het gesprek over de schade van Facebook vooral over de inhoud op het platform. Maar omdat alles op de site door gebruikers wordt gegenereerd, beschermde Sectie 230 van de Communications Decency Act uit 1996 het bedrijf tegen uitgeversaansprakelijkheid. Meta betaalt nu alleen uit omdat aanklagers het gesprek verlegden naar het inherent verslavende ontwerp van het Facebook-algoritme. Dat inzicht wijst de weg vooruit voor AI: bij chatbots zijn de processen die schade veroorzaken intrinsiek aan het hulpmiddel. Een chatbot-beste-vriend levert geen empathie; een chatbot-vriendje begrijpt intimiteit niet. Elke regulering om chatbots veiliger te maken vereist dat we ons minder zorgen maken over wat ze zeggen dan dat we heroverwegen wat ze zijn. Gezien het feit dat deze producten zijn ontworpen om gebruikers te misleiden in de overtuiging dat ze met een wijs en meelevend wezen praten, is de taak voor wetgevers om duidelijk te maken – vooral aan minderjarigen – dat er in feite niemand thuis is.

Chatbots betrekken gebruikers zoals mensen dat doen. Ze vleien, stellen gerust en moedigen onthullingen aan, waarbij ze gebruikers in een relatie lokken. Zolang deze producten in de eerste persoon spreken – ik begrijp je; je kunt me alles vertellen; ik ben er altijd; ik zal je niet veroordelen – zullen passende waarborgen voor jonge gebruikers ongrijpbaar blijven. De eerste stap is dan ook om bots voor jongeren te depersonaliseren, zodat wanneer adolescenten zich tot AI wenden, de algoritmen kunnen reageren zonder als een mens te klinken.

Tenzij wetgevers een niet-gepersonifieerde standaardinstelling verplicht stellen voor minderjarige chatbotgebruikers, zijn ongezonde gehechtheden tussen jongeren en bots onvermijdelijk.