必要不可欠でありながらもディストピア的な動きとして、ビデオ会議大手のZoomは、サム・アルトマンの人間ID認証企業Worldと提携し、会議に参加する人々が実際の人間であり、AI生成の偽者ではないことを保証する。この脅威は理論上のものではないようで、2024年初頭にエンジニアリング企業Arupが香港の従業員が被害者以外全員がディープフェイクだったビデオ通話に騙され2500万ドルを失った事件が証拠だ。同様の攻撃は2025年にシンガポールの多国籍企業を襲い、自分の目を信じる時代が正式に終わったことを証明した。

ある推定によれば、ディープフェイクを利用した詐欺による財務損失は、昨年の第1四半期だけで2億ドルを超えた。セキュリティ業界の報告書によると、企業インシデントあたりの平均損失は現在50万ドル以上に上る。したがって、私たちのほとんどは上司のディープフェイクが数百万ドルを送金するよう求める心配はないが、ビデオを介して高額取引を行う企業にとっては深刻で高コストなリスクだ。Worldは、映像操作の兆候を分析する既存の検出方法は、AI映像モデル自体が向上するにつれて信頼性が低下していると指摘した。

新機能はWorldのWorld ID Deep Face技術を使用し、3段階のアプローチで認証を行う。ユーザーの登録時にWorldのOrbデバイスを介して撮影された署名付き画像、ユーザーのデバイスからのリアルタイム顔スキャン、他の参加者に見えるライブビデオフレームを相互参照する。これら3つがすべて一致した場合のみ、その人のタイトルに「認証済み人間」バッジが表示される。なぜなら、どうやら私たちはソフトウェアではないことを証明するためにデジタルステッカーが必要になったからだ。そう、人生は確かに奇妙になっている。

Zoomは、会議のホストがDeep Face待機室を有効にして、すべての参加者が参加前に身元を確認することを要求できると述べた。参加者はまた、通話中に誰かにその場で確認を求めることもできる。Zoom広報担当者のトラヴィス・アイサマンによると、「この統合はZoomのオープンエコシステムアプローチの一部であり、顧客がユースケースにとって最も重要なことに基づいてワークフローに信頼を構築する方法をさらに提供する」とのこと。Zoom以外にも、WorldはTinderやVisaなどの消費者プラットフォームとの提携を積極的に進めており、先月には購入時点でAIショッピングエージェントの背後にAIボットではなく実際の人間がいることを確認する技術をリリースした。