Apple verbrachte das Wochenende damit, etwas zu tun, was es wahrscheinlich schon vor einer Weile hätte tun sollen: Die Developer-Richtlinien zu verschärfen, um Apps explizit zu verbieten, die KI nutzen, um anstößige Inhalte zu erstellen, sowie Apps, die sich als harmlose Utilities tarnen, um die App-Store-Prüfung zu umgehen und dann zu Nudify-Apps aufzublühen – oder, subtiler, diese Funktionen nach der Genehmigung prominent an die Oberfläche zu bringen.

Das Unternehmen aktualisierte seine Regeln mit ungewöhnlich deutlichen Worten zu KI und nutzergenerierten Inhalten und verlangt von Entwicklern ausreichende Präventivmaßnahmen zur Moderation anstößigen Materials. In einem Blogpost legte Apple die neuen Erwartungen dar: „Apps, die nutzergenerierte Inhalte hosten, sind verpflichtet, anstößiges Material zu filtern, Nutzern eine Möglichkeit zu geben, anstößige Inhalte zu melden, und Nutzern zu erlauben, missbräuchliche Konten zu blockieren. Apps mit versteckten oder nicht dokumentierten Funktionen sind im App Store ebenfalls verboten, einschließlich Apps, die ihren Zweck während der Prüfung falsch darstellen und schädliche Fähigkeiten – wie ‚Nudification‘ – erst nach der Genehmigung offenbaren, eine Taktik, die allgemein als Bait-and-Switch bekannt ist.“

Übersetzung: Wenn du einen Taschenrechner einreichst und er sich in eine Creep-Maschine verwandelt, bist du raus. Apple kündigte an, jede App zu entfernen, die Funktionen hinzufügt, die in der zur Prüfung eingereichten Version nicht vorhanden waren – eine Richtlinie, die offensichtlich klingt, bis man sich daran erinnert, dass sie niedergeschrieben werden musste.

Der iPhone-Hersteller aktualisierte außerdem seinen Rechtsabschnitt, um zu bekräftigen, dass er Apps verbieten wird, die Menschenhandel und die Ausbeutung von Kindern fördern. Weil offenbar manche Dinge immer noch einen Aufzählungspunkt erfordern.

Um fair zu sein: Apples Prüfprozess schläft nicht völlig am Steuer. Das Unternehmen gab letztes Jahr an, dass seine Prüfung über 150.000 Apps daran gehindert hat, Nutzer zu erreichen, und 193.000 Entwicklerkonten wegen Betrugs und Missbrauchs entfernt hat. Das ist eine Menge digitaler Hausputz – offenbar aber nicht ganz genug, um alles zu erwischen.

Der Druck von außerhalb der Cupertino-Blase ist gewachsen. Im Juli ordnete San Francisco an, dass sowohl Apple als auch Google ihre App-Stores säubern und Nudification-Apps löschen. Stadtanwalt David Chiu beschuldigte die Unternehmen, durch Store-Gebühren von diesen Apps zu profitieren – eine Anschuldigung, die vermutlich stärker schmerzt als die durchschnittliche Kartellrechtsanhörung. Und im April deutete ein Bericht des Tech Transparency Project an, dass die Stores beider Tech-Giganten mehrere Nudify-Apps beherbergten, von denen einige als für Minderjährige geeignet eingestuft waren. Denn nichts sagt „familienfreundlich“ wie eine App, die Menschen ohne Einwilligung entkleidet.

Apple hat nun also eine Grenze gezogen: keine KI-generierten anstößigen Inhalte, keine versteckten Funktionen, kein Bait-and-Switch. Es ist eine kühne neue Welt, in der der App Store endlich sicher sein könnte für Leute, die einfach nur eine Taschenlampen-App wollten.