Apple bracht het weekend door met iets te doen wat het waarschijnlijk al veel eerder had moeten doen: het aanscherpen van zijn ontwikkelaarsrichtlijnen om expliciet apps te verbieden die AI gebruiken om aanstootgevende inhoud te creëren, evenals apps die zich voordoen als onschuldige hulpprogramma's om de App Store-review te omzeilen en vervolgens uit te groeien tot nudify-apps - of, subtieler, die functies prominent naar voren te schuiven na goedkeuring.

Het bedrijf heeft zijn regels bijgewerkt met ongewoon botte taal rond AI en door gebruikers gegenereerde inhoud, waarbij ontwikkelaars worden verplicht voldoende preventieve maatregelen te nemen om aanstootgevend materiaal te modereren. In een blogpost zette Apple de nieuwe verwachtingen uiteen: "Apps die door gebruikers gegenereerde inhoud hosten, moeten aanstootgevend materiaal filteren, gebruikers een manier geven om aanstootgevende inhoud te melden en gebruikers in staat stellen misbruikende accounts te blokkeren. Apps met verborgen of niet-gedocumenteerde functies zijn ook verboden in de App Store, inclusief apps die hun doel tijdens de review verkeerd voorstellen en pas na goedkeuring schadelijke mogelijkheden onthullen - zoals 'nudificatie' - een tactiek die algemeen bekend staat als bait-and-switch."

Vertaling: als je een rekenmachine indient en die verandert in een enge machine, dan lig je eruit. Apple zei dat het elke app zal verwijderen die functies toevoegt die niet aanwezig waren in de versie die ter review werd ingediend - een beleid dat voor de hand lijkt te liggen tot je je herinnert dat het opgeschreven moest worden.

De iPhone-maker heeft ook zijn juridische sectie bijgewerkt om te benadrukken dat het apps zal weren die mensenhandel en kinderuitbuiting bevorderen. Want blijkbaar vereisen sommige dingen nog steeds een opsommingsteken.

Om eerlijk te zijn, Apples reviewproces zit niet helemaal te slapen. Het bedrijf zei vorig jaar dat zijn review meer dan 150.000 apps heeft tegengehouden om gebruikers te bereiken en 193.000 ontwikkelaarsaccounts heeft verwijderd wegens fraude en misbruik. Dat is een hoop digitale schoonmaak - zij het blijkbaar niet genoeg om alles te vangen.

De druk neemt toe van buiten de Cupertino-bubbel. In juli beval San Francisco zowel Apple als Google om nudificatie-apps uit hun app stores op te ruimen en te verwijderen. Stadsadvocaat David Chiu beschuldigde de bedrijven ervan te profiteren van deze apps via winkelkosten - een beschuldiging die vermoedelijk meer pijn doet dan de gemiddelde antitrusthoorzitting. En in april gaf een rapport van het Tech Transparency Project aan dat de winkels van beide techgiganten meerdere nudify-apps herbergden, waarvan sommige waren beoordeeld als geschikt voor minderjarigen. Want niets zegt "gezinsvriendelijk" als een app die mensen zonder toestemming uitkleedt.

Dus Apple heeft nu een grens getrokken: geen AI-gegenereerde aanstootgevende inhoud, geen verborgen functies, geen bait-and-switch. Het is een moedige nieuwe wereld waarin de App Store eindelijk veilig zou kunnen zijn voor mensen die gewoon een zaklamp-app wilden.