Apple pasó el fin de semana haciendo algo que probablemente debería haber hecho hace tiempo: endurecer sus directrices para desarrolladores para prohibir explícitamente las apps que usan IA para crear contenido ofensivo, junto con las apps que se disfrazan de utilidades inocentes para colarse en la revisión del App Store y luego florecer como apps desnudadoras — o, más sutilmente, mostrar esas funciones de forma prominente tras la aprobación.

La compañía actualizó sus reglas con un lenguaje inusualmente directo sobre IA y contenido generado por usuarios, exigiendo a los desarrolladores incluir suficientes medidas preventivas para moderar material objetable. En una entrada de blog, Apple expuso las nuevas expectativas: "Las apps que alojan contenido generado por usuarios deben filtrar material objetable, dar a los usuarios una forma de reportar contenido ofensivo y permitirles bloquear cuentas abusivas. También están prohibidas en el App Store las apps que contienen funciones ocultas o no documentadas, incluidas las apps que tergiversan su propósito durante la revisión y solo revelan capacidades dañinas — como la 'desnudificación' — después de la aprobación, una táctica comúnmente conocida como bait-and-switch".

Traducción: si envías una calculadora y se convierte en una máquina de degenerados, estás fuera. Apple dijo que eliminará cualquier app que añada funciones no presentes en la versión enviada para revisión — una política que suena obvia hasta que recuerdas que hubo que escribirla.

La fabricante del iPhone también actualizó su sección legal para reforzar que prohibirá apps que promuevan la trata de personas y la explotación infantil. Porque al parecer algunas cosas todavía requieren una viñeta.

Para ser justos, el proceso de revisión de Apple no está del todo dormido al volante. La compañía dijo el año pasado que su revisión bloqueó más de 150.000 apps para que no llegaran a los usuarios y eliminó 193.000 cuentas de desarrolladores por fraude y abuso. Es mucha limpieza digital — aunque evidentemente no la suficiente para atraparlo todo.

La presión ha ido en aumento desde fuera de la burbuja de Cupertino. En julio, San Francisco ordenó a Apple y Google limpiar y eliminar las apps de desnudificación de sus tiendas de aplicaciones. El fiscal municipal David Chiu acusó a las empresas de lucrarse con estas apps mediante las comisiones de la tienda — un cargo que presumiblemente escuece más que la audiencia antimonopolio promedio. Y en abril, un informe del Tech Transparency Project indicó que las tiendas de ambos gigantes tecnológicos albergaban múltiples apps desnudadoras, algunas de las cuales estaban clasificadas como aptas para menores. Porque nada dice "familiar" como una app que desnuda a la gente sin consentimiento.

Así que Apple ahora ha trazado una línea: no a contenido ofensivo generado por IA, no a funciones ocultas, no al bait-and-switch. Es un mundo nuevo y audaz donde el App Store podría por fin ser seguro para quienes solo querían una app de linterna.