Apple a passé le week-end à faire quelque chose qu'elle aurait probablement dû faire il y a un moment : durcir ses directives pour les développeurs afin d'interdire explicitement les applications qui utilisent l'IA pour créer du contenu offensant, ainsi que les applications qui se déguisent en utilitaires innocents pour se faufiler lors de la révision de l'App Store et ensuite s'épanouir en applications de nudification - ou, plus subtilement, mettre en avant ces fonctionnalités après approbation.

L'entreprise a mis à jour ses règles avec un langage d'une franchise inhabituelle concernant l'IA et le contenu généré par les utilisateurs, exigeant des développeurs qu'ils incluent suffisamment de mesures préventives pour modérer les contenus répréhensibles. Dans un billet de blog, Apple a exposé les nouvelles attentes : « Les applications qui hébergent du contenu généré par les utilisateurs sont tenues de filtrer les contenus répréhensibles, de donner aux utilisateurs un moyen de signaler les contenus offensants et de permettre aux utilisateurs de bloquer les comptes abusifs. Les applications contenant des fonctionnalités cachées ou non documentées sont également interdites sur l'App Store, y compris les applications qui déguisent leur objectif lors de la révision et ne révèlent des capacités nuisibles - telles que la « nudification » - qu'après approbation, une tactique communément appelée bait-and-switch. »

Traduction : si vous soumettez une calculatrice et qu'elle se transforme en machine à pervers, vous êtes dehors. Apple a déclaré qu'elle supprimera toute application qui ajoute des fonctionnalités absentes de la version soumise pour révision - une politique qui semble évidente jusqu'à ce que l'on se rappelle qu'il fallait l'écrire noir sur blanc.

Le fabricant de l'iPhone a également mis à jour sa section juridique pour renforcer qu'il interdira les applications faisant la promotion de la traite des êtres humains et de l'exploitation des enfants. Parce qu'apparemment, certaines choses nécessitent encore une puce dans une liste.

Pour être juste, le processus de révision d'Apple n'est pas complètement endormi au volant. L'entreprise a déclaré l'année dernière que sa révision avait bloqué plus de 150 000 applications avant qu'elles n'atteignent les utilisateurs et supprimé 193 000 comptes de développeurs pour fraude et abus. C'est beaucoup de nettoyage numérique - mais manifestement pas assez pour tout attraper.

La pression monte de l'extérieur de la bulle de Cupertino. En juillet, San Francisco a ordonné à Apple et Google de nettoyer et de supprimer les applications de nudification de leurs magasins d'applications. L'avocat de la ville, David Chiu, a accusé les entreprises de profiter de ces applications via les frais de magasin - une accusation qui pique sans doute plus que la moyenne des audiences antitrust. Et en avril, un rapport du Tech Transparency Project indiquait que les magasins des deux géants technologiques hébergeaient plusieurs applications de nudification, dont certaines étaient classées comme adaptées aux mineurs. Parce que rien ne dit « familial » comme une application qui déshabille les gens sans leur consentement.

Apple a donc maintenant tracé une ligne : pas de contenu offensant généré par l'IA, pas de fonctionnalités cachées, pas de bait-and-switch. C'est un monde nouveau et audacieux où l'App Store pourrait enfin être sûr pour les gens qui voulaient juste une application de lampe de poche.