Appleは週末、おそらくずっと前にやるべきだったことを行った。開発者ガイドラインを厳格化し、AIを使って不快なコンテンツを生成するアプリを明示的に禁止したのだ。さらに、無害なユーティリティを装ってApp Storeの審査をすり抜け、承認後にヌード化アプリへと変貌するアプリ——あるいはもっと巧妙に、承認後にそうした機能を前面に押し出すアプリ——も禁止した。

同社はAIとユーザー生成コンテンツに関する規則を、異例なほど率直な言葉で更新し、開発者に不快な素材をモデレートするための十分な予防措置を講じるよう求めた。ブログ投稿でAppleは新たな期待事項を明示した。「ユーザー生成コンテンツをホストするアプリは、不快な素材をフィルタリングし、ユーザーが攻撃的なコンテンツを報告する手段を提供し、ユーザーが虐待的なアカウントをブロックできるようにする必要があります。隠された、または文書化されていない機能を含むアプリもApp Storeでは禁止されています。これには、審査中に目的を偽り、承認後にのみ『ヌード化』などの有害な機能を明らかにするアプリが含まれます。これは一般に『ベイト・アンド・スイッチ』として知られる手口です」

翻訳すると、電卓を提出してそれがクリープマシンに変わるなら、アウトだ。Appleは、審査に提出されたバージョンに存在しない機能を追加したアプリは削除すると述べた。このポリシーは、書き留める必要があると気づくまでは明白に聞こえる。

iPhoneメーカーはまた、人身売買や児童の搾取を助長するアプリを禁止することを強化するため、法的セクションも更新した。どうやらまだ箇条書きが必要な事柄もあるらしい。

公平を期すなら、Appleの審査プロセスは完全に居眠り運転というわけではない。同社は昨年、審査により15万以上のアプリがユーザーに届くのを阻止し、詐欺や悪用を理由に19万3000の開発者アカウントを削除したと述べた。それはかなりのデジタル大掃除だ——ただし、明らかにすべてを捕まえるには十分ではない。

クパチーノの泡の外から圧力が高まっている。7月、サンフランシスコはAppleとGoogleの両方に、アプリストアからヌード化アプリを一掃して削除するよう命じた。市弁護士のデビッド・チウは、両社がストア手数料を通じてこれらのアプリから利益を得ていると非難した——その告発は、平均的な独占禁止法の公聴会よりも痛烈に響くことだろう。そして4月、Tech Transparency Projectの報告書は、両テクノロジー巨人のストアが複数のヌード化アプリをホストしており、その一部は未成年者に適していると評価されていたことを示した。同意なしに人を脱がせるアプリほど「ファミリーフレンドリー」を体現するものはないからだ。

こうしてAppleは線を引いた。AI生成の不快なコンテンツなし、隠し機能なし、ベイト・アンド・スイッチなし。ただ懐中電灯アプリが欲しかった人々にとって、App Storeがついに安全になるかもしれないという大胆な新世界だ。