A Apple passou o fim de semana fazendo algo que provavelmente já deveria ter feito há um tempo: endurecer suas diretrizes para desenvolvedores para proibir explicitamente apps que usam IA para criar conteúdo ofensivo, além de apps que se disfarçam de utilitários inocentes para burlar a revisão da App Store e depois florescerem como apps de desnudamento — ou, mais sutilmente, exibir esses recursos de forma proeminente após a aprovação.

A empresa atualizou suas regras com uma linguagem incomumente direta sobre IA e conteúdo gerado pelo usuário, exigindo que os desenvolvedores incluam medidas preventivas suficientes para moderar material censurável. Em um post no blog, a Apple expôs as novas expectativas: "Apps que hospedam conteúdo gerado pelo usuário são obrigados a filtrar material censurável, dar aos usuários uma maneira de denunciar conteúdo ofensivo e permitir que os usuários bloqueiem contas abusivas. Apps contendo recursos ocultos ou não documentados também são proibidos na App Store, incluindo apps que deturpam seu propósito durante a revisão e só revelam capacidades prejudiciais — como o 'desnudamento' — após a aprovação, uma tática comumente conhecida como bait-and-switch."

Tradução: se você envia uma calculadora e ela se transforma em uma máquina de assédio, você está fora. A Apple disse que removerá qualquer app que adicione recursos não presentes na versão enviada para revisão — uma política que parece óbvia até você lembrar que precisava ser escrita.

A fabricante do iPhone também atualizou sua seção legal para reforçar que barrará apps que promovem tráfico humano e exploração infantil. Porque aparentemente algumas coisas ainda exigem um item de lista.

Para ser justo, o processo de revisão da Apple não está totalmente adormecido no volante. A empresa disse no ano passado que sua revisão bloqueou mais de 150.000 apps de chegarem aos usuários e removeu 193.000 contas de desenvolvedores por fraude e abuso. É muita limpeza digital — embora, evidentemente, não o suficiente para pegar tudo.

A pressão tem aumentado de fora da bolha de Cupertino. Em julho, São Francisco ordenou que Apple e Google limpassem e excluíssem apps de desnudamento de suas lojas de aplicativos. O procurador da cidade, David Chiu, acusou as empresas de lucrar com esses apps por meio de taxas de loja — uma acusação que presumivelmente dói mais do que a média das audiências antitruste. E em abril, um relatório do Tech Transparency Project indicou que as lojas de ambas as gigantes da tecnologia hospedavam vários apps de desnudamento, alguns dos quais eram classificados como adequados para menores. Porque nada diz "para toda a família" como um app que despe pessoas sem consentimento.

Então a Apple agora traçou uma linha: nada de conteúdo ofensivo gerado por IA, nada de recursos ocultos, nada de bait-and-switch. É um novo mundo ousado onde a App Store pode finalmente ser segura para pessoas que só queriam um app de lanterna.