在一项既必要又充满反乌托邦色彩的行动中,视频会议巨头Zoom已与Sam Altman的人类身份验证公司World合作,以确保你会议中的人是真实人类,而非AI生成的冒牌货。这一威胁显然并非空穴来风,2024年初的案例便是明证:工程公司Arup因一名香港员工被视频通话欺骗而损失2500万美元,通话中除受害者外所有人都是深度伪造。2025年,一家新加坡跨国公司也遭遇类似攻击,这证明“眼见为实”的时代正式终结。
据估计,仅去年第一季度,由深度伪造技术驱动的欺诈造成的财务损失就超过2亿美元。安全行业报告显示,每起企业事件的平均损失现已超过50万美元。因此,虽然我们大多数人不必担心老板的深度伪造要求我们转账数百万,但对于通过视频进行高价值交易的企业来说,这确实是一个严重且代价高昂的风险。World指出,现有的检测方法(通过分析视频帧寻找篡改迹象)正随着AI视频模型本身的改进而变得不那么可靠。
新功能采用World的World ID Deep Face技术,采用三管齐下的验证方法:交叉参考用户通过World Orb设备注册时拍摄的签名图像、用户设备的实时面部扫描,以及其他参与者可见的实时视频帧。只有当三者全部匹配时,该人的标题旁才会出现“已验证人类”徽章,因为显然我们现在需要数字贴纸来证明自己不是软件。是的,生活确实变得越来越诡异。
Zoom表示,会议主持人可以启用Deep Face等候室,要求所有参与者在加入前验证身份。参与者还可以在通话中途要求某人当场验证。据Zoom发言人Travis Isaman称:“此集成是Zoom开放生态系统方法的一部分,让客户能够根据其用例中最关键的因素,以更多方式将信任融入工作流程。”除了Zoom,World一直忙于与Tinder和Visa等消费平台建立合作伙伴关系,并于上月发布了技术,以验证在购买点背后操作AI购物代理的是真实人类而非AI机器人。