Apple потратила выходные на то, что, вероятно, следовало сделать давно: ужесточила свои рекомендации для разработчиков, чтобы явно запретить приложения, использующие ИИ для создания оскорбительного контента, а также приложения, которые маскируются под невинные утилиты, чтобы проскочить проверку App Store, а затем превращаются в приложения для «раздевания» — или, что более тонко, выставляют эти функции на видное место после одобрения.

Компания обновила свои правила с необычайно резкими формулировками в отношении ИИ и пользовательского контента, требуя от разработчиков включить достаточные превентивные меры для модерации нежелательных материалов. В блоге Apple изложила новые ожидания: «Приложения, размещающие пользовательский контент, обязаны фильтровать нежелательные материалы, давать пользователям возможность сообщать об оскорбительном контенте и блокировать злоупотребляющие аккаунты. Приложения со скрытыми или недокументированными функциями также запрещены в App Store, включая приложения, которые искажают свое назначение во время проверки и раскрывают вредоносные возможности — такие как „нудификация“ — только после одобрения, тактика, известная как „приманка и подмена“».

Перевод: если вы отправляете калькулятор, а он превращается в машину для извращений, вы выбываете. Apple заявила, что удалит любое приложение, которое добавляет функции, отсутствовавшие в версии, представленной на проверку — политика, которая звучит очевидно, пока не вспомнишь, что её нужно было записать.

Производитель iPhone также обновил свой юридический раздел, чтобы подчеркнуть, что он будет блокировать приложения, способствующие торговле людьми и эксплуатации детей. Потому что, видимо, некоторые вещи всё ещё требуют отдельного пункта.

Справедливости ради, процесс проверки Apple не полностью спит на ходу. Компания заявила в прошлом году, что её проверка заблокировала более 150 000 приложений от попадания к пользователям и удалила 193 000 аккаунтов разработчиков из-за мошенничества и злоупотреблений. Это много цифровой уборки — хотя, очевидно, недостаточно, чтобы поймать всё.

Давление нарастало извне купертиновского пузыря. В июле Сан-Франциско обязал Apple и Google очистить и удалить приложения для нудификации из своих магазинов. Городской прокурор Дэвид Чиу обвинил компании в получении прибыли от этих приложений через магазинные сборы — обвинение, которое, предположительно, жалит сильнее, чем средние антимонопольные слушания. А в апреле отчёт Tech Transparency Project показал, что магазины обоих технологических гигантов размещали множество приложений для нудификации, некоторые из которых были оценены как подходящие для несовершеннолетних. Потому что ничто так не говорит о «семейности», как приложение, которое раздевает людей без согласия.

Итак, Apple провела черту: никакого оскорбительного контента, сгенерированного ИИ, никаких скрытых функций, никаких приманок и подмен. Это смелый новый мир, где App Store, возможно, наконец станет безопасным для людей, которым просто нужен был фонарик.