OpenAI stellt jemanden ein, der herausfinden soll, wie man ChatGPT für Kinder weniger gruselig macht

Mehr als drei Jahre nach dem Start von ChatGPT, der generative KI in den Mainstream brachte, weitet OpenAI seinen Fokus über einzelne Nutzer hinaus auf Familien aus. Das Unternehmen stellt in San Francisco einen dedizierten Produktmanager ein, um Erfahrungen für Familien, Betreuungspersonen und ältere Erwachsene in seinen Produkten zu schaffen. Die Rolle erfordert Erfahrung in der Entwicklung von Produkten für Eltern und Familien sowie anderen vertrauenssensiblen Verbrauchererfahrungen, so die Stellenausschreibung.

Die Einstellung erfolgt, während sich das Publikum von ChatGPT weiter über jüngere Nutzer hinaus verbreitert. Laut Schätzungen von Sensor Tower, die TechCrunch exklusiv vorliegen, stieg der Anteil der ChatGPT-Nutzer ab 35 Jahren weltweit im zweiten Quartal auf 31 %, gegenüber 26 % im Vorjahr, während der Anteil der 18- bis 24-Jährigen von 34 % auf 29 % fiel. In den USA nutzte fast jeder vierte Smartphone-Nutzer, der Elternteil ist, ChatGPT im Quartal, gegenüber 16 % im Vorjahr, schätzt die Firma.

Eine dedizierte Produktrolle mit Fokus auf Familien signalisiert, dass OpenAI beginnt, seine Produkte weniger als Werkzeuge für individuelle Produktivität und mehr als Technologie für Haushalte zu betrachten, sagte Ben Bajarin, CEO der Technologieberatung Creative Strategies. „Dies ähnelt dem Weg, den Google, Apple und Meta schließlich gegangen sind, als ihre Plattformen im Alltag verankert wurden, aber KI erhöht den Einsatz, weil der Assistent nicht nur Inhalte oder Geräte vermittelt“, sagte er zu TechCrunch.

Dieser Wandel bringt auch neue Vertrauens- und Sicherheitsherausforderungen mit sich. Stephen Balkam, CEO des Family Online Safety Institute, sagte, die Einstellung spiegele sowohl die Reifung von OpenAI als auch die wachsende Erkenntnis wider, dass KI-Produkte, die von Kindern und Jugendlichen genutzt werden, andere Sicherheitsvorkehrungen erfordern als solche für Erwachsene. „Ich sehe dies als Sicherheit durch Neugestaltung“, sagte Balkam zu TechCrunch. „Man nimmt das ursprüngliche Produkt oder den Dienst, der veröffentlicht wurde … nicht wirklich mit Kindern im Sinn … also ist dies eine längst überfällige Reaktion und Antwort.“

Die Kommentare kommen, während neue Forschungsergebnisse des Family Online Safety Institute, die diese Woche veröffentlicht wurden, zeigen, dass Eltern unterschätzen, wie oft ihre Kinder generative KI nutzen. Während 27 % der US-Eltern angaben, dass ihr Kind in der letzten Woche generative KI genutzt habe, berichteten 38 % der Kinder selbst davon, so die Umfrage unter mehr als 4.000 Familien in den USA und Australien.

Balkam sagte TechCrunch, dass KI-Unternehmen Produkte für jüngere Nutzer anders entwickeln sollten, mit stärkeren Inhaltskontrollen, altersgerechten Erfahrungen, elterlicher Aufsicht und Erinnerungen, die Nutzer darüber informieren, dass sie mit einer KI interagieren – und nicht mit einem Menschen. Die Einstellung erfolgt auch vor dem Hintergrund wachsender Prüfung, wie KI-Unternehmen jüngere Nutzer schützen. OpenAI sah sich mehreren Klagen von Eltern gegenüber, die behaupten, dass ChatGPT zu Schäden ihrer Kinder beigetragen habe, darunter in Fällen von Selbstmord.

Als Reaktion auf einige dieser Bedenken hat OpenAI im vergangenen Jahr eine Reihe von Sicherheitsmaßnahmen eingeführt, darunter elterliche Kontrollen für Teenager-Konten, die Weiterleitung sensibler Gespräche an Reasoning-Modelle, die besser Anzeichen von Stress erkennen können, und erst kürzlich eine optionale „Vertrauensperson“-Funktion, die bei potenzieller Selbstgefährdung ein Familienmitglied oder eine Betreuungsperson alarmieren kann.

KI-Unternehmen, so Balkam, hätten die Chance, die Fehler zu vermeiden, die soziale Medienplattformen gemacht haben, die Kinder jahrelang wie Erwachsene behandelten, bevor sie angesichts wachsenden öffentlichen Drucks und regulatorischer Prüfung stärkere Sicherheitsvorkehrungen einführten. Die Einstellung passt auch zu OpenAIs breiteren Bemühungen um Familien. In einem kürzlich organisierten Workshop mit der San Antonio Spurs Community Impact Organization und der Positive Coaching Alliance erklärte das Unternehmen, es wolle die Rolle von KI beim Lernen, Coaching und Jugendengagement erkunden.

Allerdings ist der demografische Wandel nicht einzigartig für ChatGPT, auch wenn sich OpenAIs Publikum in einigen besonderen Aspekten verändert. Sensor Tower schätzt, dass Nutzer im Alter von 25 bis 34 Jahren 40 % der globalen App-Publikums von Anthropics Claude ausmachen.