줌, 월드와 손잡고 당신이 2500만 달러짜리 딥페이크가 아님을 증명합니다

필요하면서도 디스토피아 같은 느낌이 드는 조치로, 화상 회의 거대 기업 줌이 샘 알트먼의 인간 신원 확인 회사 월드와 손잡고 회의 참가자들이 실제 인간인지 AI 생성 사기꾼이 아닌지 확인하게 됐습니다. 위협은 이론적이지 않습니다. 2024년 초 홍콩의 한 직원이 피해자를 제외한 모든 사람이 딥페이크인 화상 통화에 속아 엔지니어링 회사 아럽이 2500만 달러를 잃은 사건이 이를 증명합니다. 2025년 싱가포르의 한 다국적 기업도 비슷한 공격을 받아, 자신의 눈을 믿는 시대가 공식적으로 끝났음을 입증했습니다.

한 추정에 따르면, 딥페이크를 이용한 사기로 인한 금전적 손실은 지난해 1분기에만 2억 달러를 넘었습니다. 보안 업계 보고서는 현재 기업 사건당 평균 손실을 50만 달러 이상으로 추정합니다. 따라서 대부분의 우리는 상사가 수백만 달러를 송금하라고 요구하는 딥페이크를 걱정할 필요는 없겠지만, 화상을 통해 고액 거래를 하는 기업들에게는 심각하고 비용이 많이 드는 위험입니다. 월드는 비디오 프레임을 분석해 조작 징후를 찾는 기존 탐지 방법이 AI 비디오 모델 자체가 개선됨에 따라 신뢰성이 떨어지고 있다고 지적했습니다.

새로운 기능은 월드의 월드 ID 딥 페이스 기술을 사용하며, 검증에 세 가지 접근 방식을 취합니다. 사용자의 월드 오브 장치를 통한 등록 중 촬영된 서명된 이미지, 사용자 기기의 실시간 얼굴 스캔, 다른 참가자에게 보이는 라이브 비디오 프레임을 상호 참조합니다. 세 가지가 모두 일치할 때만 "확인된 인간" 배지가 그 사람의 이름 옆에 나타납니다. 왜냐하면 우리가 이제 소프트웨어가 아니라는 것을 증명하기 위해 디지털 스티커가 필요하기 때문입니다. 네, 인생은 정말 이상해지고 있습니다.

줌은 회의 주최자가 딥 페이스 대기실을 활성화해 모든 참가자가 참여 전 신원을 확인하도록 요구할 수 있다고 밝혔습니다. 참가자들은 또한 회의 중에 누군가가 즉시 자신을 확인하도록 요청할 수도 있습니다. 줌 대변인 트래비스 아이저먼에 따르면, "이 통합은 줌의 개방형 생태계 접근 방식의 일부로, 고객이 자신의 사용 사례에 가장 중요한 것을 기반으로 워크플로우에 신뢰를 구축할 수 있는 더 많은 방법을 제공합니다." 줌 외에도 월드는 틴더와 비자 같은 소비자 플랫폼과의 파트너십 구축에 바빴으며, 지난달 구매 시점에 AI 쇼핑 에이전트 뒤에 AI 봇이 아닌 실제 인간이 있음을 확인하는 기술을 출시했습니다.