Apple ha passato il weekend a fare qualcosa che probabilmente avrebbe dovuto fare da un po': stringere le sue linee guida per gli sviluppatori per vietare esplicitamente le app che usano l'IA per creare contenuti offensivi, insieme alle app che si mascherano da innocue utilità per sgattaiolare oltre la revisione dell'App Store e poi sbocciare in app nudify - o, più sottilmente, far emergere quelle funzionalità in modo prominente dopo l'approvazione.

L'azienda ha aggiornato le sue regole con un linguaggio insolitamente diretto su IA e contenuti generati dagli utenti, richiedendo agli sviluppatori di includere misure preventive sufficienti a moderare materiale discutibile. In un post sul blog, Apple ha esposto le nuove aspettative: "Le app che ospitano contenuti generati dagli utenti sono tenute a filtrare materiale discutibile, dare agli utenti un modo per segnalare contenuti offensivi e consentire agli utenti di bloccare account abusivi. Le app contenenti funzionalità nascoste o non documentate sono inoltre vietate sull'App Store, comprese le app che misrappresentano il loro scopo durante la revisione e rivelano capacità dannose - come la 'nudificazione' - solo dopo l'approvazione, una tattica comunemente nota come bait-and-switch."

Traduzione: se invii una calcolatrice e si trasforma in una macchina da creep, sei fuori. Apple ha detto che rimuoverà qualsiasi app che aggiunge funzionalità non presenti nella versione inviata per la revisione - una politica che sembra ovvia finché non ricordi che doveva essere messa per iscritto.

Il produttore dell'iPhone ha anche aggiornato la sua sezione legale per rafforzare che vieterà app che promuovono la tratta di esseri umani e lo sfruttamento dei minori. Perché a quanto pare alcune cose richiedono ancora un punto elenco.

A essere onesti, il processo di revisione di Apple non è del tutto addormentato al volante. L'azienda ha dichiarato l'anno scorso che la sua revisione ha bloccato oltre 150.000 app dal raggiungere gli utenti e ha rimosso 193.000 account di sviluppatori per frode e abuso. È un bel po' di pulizia digitale - anche se evidentemente non abbastanza per catturare tutto.

La pressione è aumentata dall'esterno della bolla di Cupertino. A luglio, San Francisco ha ordinato sia ad Apple che a Google di ripulire ed eliminare le app di nudificazione dai loro app store. Il procuratore cittadino David Chiu ha accusato le aziende di trarre profitto da queste app attraverso le commissioni dello store - un'accusa che presumibilmente brucia più di un'audizione antitrust media. E ad aprile, un rapporto del Tech Transparency Project ha indicato che gli store di entrambi i giganti tech ospitavano molteplici app nudify, alcune delle quali erano classificate come adatte ai minori. Perché niente dice "family-friendly" come un'app che spoglia le persone senza consenso.

Quindi ora Apple ha tracciato una linea: niente contenuti offensivi generati dall'IA, niente funzionalità nascoste, niente bait-and-switch. È un nuovo mondo coraggioso in cui l'App Store potrebbe finalmente essere sicuro per le persone che volevano solo un'app torcia.