Apple spędził weekend na robieniu czegoś, co prawdopodobnie powinien był zrobić już dawno: zaostrzył wytyczne dla deweloperów, aby wyraźnie zakazać aplikacji wykorzystujących AI do tworzenia obraźliwych treści, wraz z aplikacjami, które podszywają się pod niewinne narzędzia, aby przemycić się przez recenzję App Store, a następnie rozkwitnąć w aplikacje nudify – lub, bardziej subtelnie, wyeksponować te funkcje po zatwierdzeniu.

Firma zaktualizowała swoje zasady z niezwykle dosadnym językiem wokół AI i treści generowanych przez użytkowników, wymagając od deweloperów włączenia wystarczających środków zapobiegawczych do moderowania nieodpowiednich materiałów. W poście na blogu Apple przedstawił nowe oczekiwania: „Aplikacje hostujące treści generowane przez użytkowników muszą filtrować nieodpowiednie materiały, dawać użytkownikom możliwość zgłaszania obraźliwych treści i pozwalać użytkownikom blokować obraźliwe konta. Aplikacje zawierające ukryte lub nieudokumentowane funkcje są również zabronione w App Store, w tym aplikacje, które fałszywie przedstawiają swój cel podczas recenzji i ujawniają szkodliwe możliwości – takie jak „nudification” – dopiero po zatwierdzeniu, taktyka powszechnie znana jako bait-and-switch.”

Tłumaczenie: jeśli zgłosisz kalkulator, a on zamieni się w maszynę do creepowania, wypadasz. Apple powiedział, że usunie każdą aplikację, która dodaje funkcje nieobecne w wersji zgłoszonej do recenzji – polityka, która brzmi oczywiście, dopóki nie przypomnisz sobie, że trzeba ją było zapisać.

Producent iPhone'a zaktualizował również swoją sekcję prawną, aby podkreślić, że będzie blokować aplikacje promujące handel ludźmi i wykorzystywanie dzieci. Bo najwyraźniej niektóre rzeczy wciąż wymagają punktu.

Sprawiedliwie mówiąc, proces recenzji Apple nie jest całkowicie uśpiony za kierownicą. Firma powiedziała w zeszłym roku, że jej recenzja zablokowała ponad 150 000 aplikacji przed dotarciem do użytkowników i usunęła 193 000 kont deweloperów z powodu oszustw i nadużyć. To dużo cyfrowego sprzątania – choć najwyraźniej niewystarczająco, by wychwycić wszystko.

Presja narastała spoza bańki Cupertino. W lipcu San Francisco nakazało zarówno Apple, jak i Google uporządkowanie i usunięcie aplikacji do nudifikacji ze swoich sklepów z aplikacjami. Prokurator miejski David Chiu oskarżył firmy o czerpanie zysków z tych aplikacji poprzez opłaty sklepowe – zarzut, który przypuszczalnie boli bardziej niż przeciętne przesłuchanie antymonopolowe. A w kwietniu raport Tech Transparency Project wskazał, że sklepy obu gigantów technologicznych hostowały wiele aplikacji nudify, z których niektóre zostały ocenione jako odpowiednie dla nieletnich. Bo nic nie mówi „przyjazny rodzinie” jak aplikacja, która rozbiera ludzi bez zgody.

Więc Apple wyznaczył teraz granicę: żadnych obraźliwych treści generowanych przez AI, żadnych ukrytych funkcji, żadnego bait-and-switch. To odważny nowy świat, w którym App Store może w końcu być bezpieczny dla ludzi, którzy chcieli tylko aplikacji latarki.