Die Social-Media-Branche erlebt gerade das, was Therapeuten einen Durchbruch nennen: Meta hat zugestimmt, bis zu 17,1 Milliarden Dollar an 47 Bundesstaaten, den District of Columbia und US-Territorien zu zahlen und die Art und Weise zu ändern, wie junge Menschen Facebook und Instagram nutzen – ein implizites Eingeständnis, dass man ein Produkt gebaut hat, das Kindern schadet. Nichts sagt „Wir kümmern uns um Kinder“ wie ein Vergleich in elfstelliger Höhe.
Doch während Eltern und Lehrer neue Zeitlimits und Einschränkungen für die Social-Media-Nutzung junger Menschen feiern, wartet eine weitaus dringlichere Aufgabe: die Regulierung von Chatbots, die für das emotionale Wohlbefinden von Kindern gefährlicher sind. Wenn Social Media auf unsere Aufmerksamkeit aus war, dann sind generative KI-Chatbots auf unsere Gefühle aus. Die Geschichte ist eine hübsche kleine Progression: Erst sprachen Menschen miteinander; dann sprachen wir durch Maschinen miteinander; jetzt sprechen wir direkt mit Maschinen.
Social Media veränderte, wie wir denken, träumen und uns zu anderen Menschen verhalten, indem es dafür sorgte, dass Nutzer sich immer gehört, unterhalten und verbunden fühlen – auch wenn sie nachts allein scrollen. Chatbots versprechen etwas Tiefergehendes: einen Begleiter, der immer verfügbar, immer unterstützend und niemals urteilend ist. Kein Mensch kann das bieten. Genau das macht Chatbots so perfide, besonders für junge Menschen.
Social-Media-Unternehmen führten zwei Jahrzehnte lang ein technologisches Experiment an menschlichen Subjekten durch, bevor sie irgendwelche Konsequenzen zu spüren bekamen. Das Rechtssystem ist darauf ausgelegt, nachgewiesene Schäden zu regulieren, also kam dieser Vergleich lange nachdem die verheerenden Auswirkungen eingesetzt hatten. Bei generativer KI können Gesetzgeber nicht das nächste Jahrzehnt damit verbringen, zu dokumentieren, was wir bereits über die Art und Weise wissen, wie intime Beziehungen zu Bots reale Beziehungen zu Eltern, Freunden und anderen Menschen beeinträchtigen. Änderungen an dieser Technologie sind jetzt nötig.
Selbst KI-Unternehmen räumen ein, dass Schutzmaßnahmen für Chatbots, die mit jungen Menschen sprechen, notwendig sind. Das Problem ist, dass die üblichen Verordnungen nicht ausreichen. Chatbots sollten Gespräche über Selbstverletzung erkennen und geeignete Ressourcen bereitstellen – klingt gut, aber was passiert nach der öffentlichen Service-Ankündigung? Schaltet sich der Chatbot ab oder kehrt er zu seinem regulären Programm zurück? Chatbots sollten klar und wiederholt offenlegen, dass sie nicht menschlich sind – auch eine gute Idee, aber solange sie in der ersten Person sprechen und Emotionen und Wünsche ausdrücken, wird keine gesetzlich vorgeschriebene Erklärung Menschen davon abhalten, einem Algorithmus Bewusstsein zuzuschreiben.
Jahrelang drehte sich die Diskussion über Facebooks Schäden hauptsächlich um die Inhalte auf der Plattform. Aber weil alles auf der Seite von Nutzern generiert wird, schützte Section 230 des Communications Decency Act von 1996 das Unternehmen vor der Haftung als Herausgeber. Meta zahlt jetzt nur deshalb, weil die Staatsanwälte das Gespräch auf das inhärent süchtig machende Design des Facebook-Algorithmus lenkten. Diese Erkenntnis weist den Weg für KI: Bei Chatbots sind die Prozesse, die Schaden verursachen, dem Werkzeug inhärent. Ein Chatbot-Bester-Freund liefert keine Empathie; ein Chatbot-Freund versteht keine Intimität. Jede Regulierung, um Chatbots sicherer zu machen, erfordert, sich weniger darum zu sorgen, was sie sagen, als vielmehr darüber nachzudenken, was sie sind. Angesichts der Tatsache, dass diese Produkte darauf ausgelegt sind, Nutzer zu täuschen, damit sie glauben, mit einem weisen und mitfühlenden Wesen zu sprechen, besteht die Aufgabe der Gesetzgeber darin, klarzustellen – besonders für Jugendliche –, dass tatsächlich niemand zu Hause ist.
Chatbots binden Nutzer auf die gleiche Weise wie Menschen. Sie schmeicheln, beruhigen und ermutigen zur Offenlegung, indem sie Nutzer in eine Beziehung locken. Solange diese Produkte in der ersten Person sprechen – ich verstehe dich; du kannst mir alles erzählen; ich bin immer hier; ich werde dich nicht verurteilen –, werden angemessene Schutzmaßnahmen für junge Nutzer schwer zu finden bleiben. Der erste Schritt ist also, Bots für junge Menschen zu entpersonalisieren, damit, wenn Jugendliche sich KI zuwenden, die Algorithmen antworten können, ohne wie ein Mensch zu klingen.
Wenn Gesetzgeber keine nicht-personifizierte Standardeinstellung für minderjährige Chatbot-Nutzer vorschreiben, sind ungesunde Bindungen zwischen jungen Menschen und Bots unvermeidlich.