지난 3년 동안 전화를 받아본 사람이라면 전혀 놀랄 일도 아닌 뉴스가 있다. 사기꾼들이 인공지능을 발견했다는 것이다. 사칭 사기는 이제 매년 미국인들에게 수십억 달러의 피해를 입히고 있으며, 2020년 이후 거의 세 배로 증가했고, 매년 수백만 건의 개별 사기 신고를 발생시키고 있다. AI는 언제나 그렇듯 친절한 조수로서, 복제 도구를 더욱 강력하게 만들어주고 있다.

2023년, 애리조나의 한 어머니 제니퍼 드스테파노는 전화를 받고 15세 딸이 울부짖으며 도움을 애원하는 소리를 들었다. 그러자 남자가 전화를 받아 딸을 납치했다고 주장하며 100만 달러의 몸값을 요구했고, 나중에 5만 달러로 낮췄다. 드스테파노는 돈을 지불하기 전에 딸이 안전하다는 것을 알게 되었다. 그녀가 나중에 상원 사법위원회 소위원회에서 증언했을 때, 그녀는 딸의 울음소리와 말투를 알아차렸다고 설명했다. 위원회는 그녀를 AI 딥페이크 납치 및 갈취 사기의 피해자로 확인했다. 그게 2023년의 일이다. 빠르게 발전하는 AI와 함께, 문제는 더욱 악화되었다. 사기꾼이 목소리를 복제하는 데 필요한 것은 단 3초의 오디오뿐이기 때문이다.

하지만 사기는 빙산의 일각에 불과하다. 딥페이크라고 불리는 AI 기반 디지털 복제물은 누구의 명시적 허가도 필요로 하지 않으며, 개인의 프라이버시, 개인 보안, 기업 평판을 침범한다. 2024년, 1만 건 이상의 공개 의견을 받은 AI 연구에 따라, 미국 저작권청은 기존의 AI 관련 보호 조치에 거대한 공백이 있다고 결론 내리고, 의회가 모든 개인을 무단 디지털 복제물의 고의적 유포로부터 보호하는 연방법을 제정할 것을 권고했다. 저작권청은 특히 AI 위협이 엔터테인먼트와 정치를 초월하여 사회 거의 모든 부분의 민간인에게까지 미친다고 지적했다.

창작자들은 이 문제를 직접 경험한다. 음악가부터 성우까지, 전문가들은 단순히 생계를 유지하려 할 때 생성형 AI가 자신을 훔쳐간다는 것에 점점 더 우려하고 있다. 제임스 본드든 디즈니 영화든, AI 개발자들은 저작권이 있는 예술을 공공연히 훔치고 있으며, 이는 잘못된 일이다.

지적 재산권 보호는 상식이다. 80대 20의 문제, 어쩌면 그보다 더 인기 있는 문제다. 그래서 필자가 자문을 맡고 있는 '안전한 AI를 위한 동맹'이 최근 '안전한 AI를 위한 창작자들'을 출범시켜 창작 전문가들을 결집해 AI 문제에 맞서고 자신의 초상을 보호하도록 했다. 사람들은 자신과 똑같이 보이는 복제물에 대해 실질적인 통제권을 가져야 한다.

의회도 그렇게 보기 시작했다. 초당파적인 NO FAKES 법안은 디지털 복제물과 관련하여 일상적인 미국인을 보호하는 법적 장치를 마련할 것이다. 본질적으로 개인의 목소리와 시각적 초상에 대한 무단 디지털 복제물로부터 개인을 방어하고 프라이버시와 생계를 보호하기 위한 연방 지적 재산권을 창설하는 것이다. 기본 원칙은 간단하다. 당신의 정체성은 당신의 것이다. 누구도 자신의 얼굴이나 목소리가 복사되고 조작되어 타인을 속이는 데 사용될 수 있다고 걱정해서는 안 된다. AI 개발이 공공 정책이 따라잡기에는 너무 빠르게 움직이는 시대에, 미국인들은 우리 시대의 기술과 그 배포 속도에 걸맞은 보호를 받을 자격이 있다.

드스테파노와 같은 이야기가 얼마나 더 숨겨져 있을까? 얼마나 많은 예술가, 연예인, 공연자가 허락 없이 AI 복제물에 의해 자신의 피와 땀으로 얻은 정체성을 도용당하게 될까? AI 기반의 월권 행위로 인해 정당한 정의를 받지 못하는 수많은 피해자는 또 얼마나 될까? 이는 답하기 어려운 질문이지만, 우리 지도자들은 상식에 따라 입법함으로써 시작할 수 있다. NO FAKES 법안은 그 시작점 중 하나이며, 민주당원, 공화당원, 무소속 모두에게 영향을 미치는 문제에 대한 진전을 볼 수 있게 해줄 것이다.

NO FAKES 법안은 상원 사법위원회를 만장일치로 통과했고 현재 상원 본회의 표결을 기다리고 있지만, 의회 지도부는 아직 표결에 부치지 않고 있다. 우리 지도자들은 의회가 제 역할을 할 수 있도록 하고 법안을 본회의에 올려 표결해야 한다.

딥페이크는 점점 더 정교해지고 있다. 사기도 점점 더