Apple tillbringade helgen med att göra något som de förmodligen borde ha gjort för länge sedan: skärpa sina riktlinjer för utvecklare för att uttryckligen förbjuda appar som använder AI för att skapa stötande innehåll, tillsammans med appar som maskerar sig som oskyldiga verktyg för att smyga sig förbi App Store-granskningen och sedan blomma ut till nudifieringsappar – eller, mer subtilt, lyfta fram dessa funktioner efter godkännande.

Företaget uppdaterade sina regler med ovanligt rakt språk kring AI och användargenererat innehåll, och kräver att utvecklare inkluderar tillräckliga förebyggande åtgärder för att moderera stötande material. I ett blogginlägg lade Apple fram de nya förväntningarna: "Appar som är värdar för användargenererat innehåll måste filtrera stötande material, ge användare ett sätt att rapportera stötande innehåll och låta användare blockera missbrukande konton. Appar som innehåller dolda eller odokumenterade funktioner är också förbjudna på App Store, inklusive appar som felaktigt framställer sitt syfte under granskningen och endast avslöjar skadliga funktioner – såsom 'nudifiering' – efter godkännande, en taktik allmänt känd som bait-and-switch."

Översättning: om du skickar in en miniräknare och den förvandlas till en pervers maskin, är du ute. Apple sa att de kommer att ta bort alla appar som lägger till funktioner som inte fanns i versionen som skickades in för granskning – en policy som låter självklar tills man påminns om att den behövde skrivas ner.

iPhone-tillverkaren uppdaterade också sitt juridiska avsnitt för att förstärka att de kommer att blockera appar som främjar människohandel och utnyttjande av barn. För tydligen finns det fortfarande saker som kräver en punktlista.

För att vara rättvis är Apples granskningsprocess inte helt sovande vid ratten. Företaget sa förra året att deras granskning blockerade över 150 000 appar från att nå användare och tog bort 193 000 utvecklarkonton på grund av bedrägeri och missbruk. Det är en hel del digital städning – även om det uppenbarligen inte riktigt räckte för att fånga allt.

Trycket har ökat från utanför Cupertino-bubblan. I juli beordrade San Francisco både Apple och Google att städa upp och radera nudifieringsappar från sina appbutiker. Stadsadvokaten David Chiu anklagade företagen för att tjäna på dessa appar genom butiksavgifter – en anklagelse som förmodligen svider mer än en genomsnittlig antitrustutfrågning. Och i april indikerade en rapport från Tech Transparency Project att båda teknikjättarnas butiker hade flera nudifieringsappar, varav några var klassade som lämpliga för minderåriga. För inget säger "familjevänligt" som en app som klär av människor utan samtycke.

Så Apple har nu dragit en gräns: inget AI-genererat stötande innehåll, inga dolda funktioner, ingen bait-and-switch. Det är en djärv ny värld där App Store äntligen kan vara säkert för människor som bara ville ha en ficklampsapp.