지난 금요일, 백악관은 구체적인 국가 안보 우려를 이유로 Anthropic에 강력한 AI 모델인 Fable과 Mythos를 미국 외부의 누구에게나, 그리고 국내의 외국인에게도 수출하는 것을 중단하라고 명령했다. 순종적인 손님인 Anthropic은 급히 두 모델의 플러그를 뽑았고, 현재 일주일째 누구도 사용할 수 없는 상태다.
이번 사건은 미국 정부가 수출 통제를 통해 최첨단 AI를 통제할 수 있는지에 대한 첫 번째 실제 테스트다. 이는 과거 암호화와 스파이웨어를 통제하려 했던 방식과 동일하며, 그 결과는 매우 고르지 않았다. 극적으로 들릴 수 있지만, 이 대립이 어떻게 해결되느냐에 따라 Anthropic의 해외 시장 접근뿐만 아니라 다른 AI 연구소가 따라야 할 규칙도 결정될 수 있다.
먼저 배경을 살펴보자. Anthropic이 4월에 Mythos를 출시한 이후, 회사는 이를 일종의 종말 사이버 기계로 마케팅해 왔다. 너무 널리 출시되면 인터넷에 혼란을 초래할 수 있다는 이유로, 금지 이전에는 약 150개의 검증된 기업과 정부 기관만이 접근할 수 있었다. 목표는 나쁜 사람들이 Mythos와 같은 능력에 도달하기 전에 수비수들이 소프트웨어와 서비스를 보호할 수 있도록 돕는 것이었다.
그렇다면 금지를 촉발한 것은 무엇일까? 보도에 따르면 두 가지 사건이 있었다. 첫째: Anthropic이 제한된 파트너 프로그램을 통해 한국 통신사에 Mythos에 대한 접근을 허용했고, 미국 관리들은 이 회사가 중국과 관련이 있다고 의심되는 회사 중 하나임을 확인한 후 경각심을 갖게 되었다. (SK텔레콤으로 널리 알려진 이 회사는 중국 관련성을 부인했다.) 또한 아마존 CEO 앤디 재시는 아마존 연구원들이 Fable 5의 안전장치를 우회하는 방법을 찾았다고 보고한 후 행정부에 경고했다. Anthropic은 '탈옥'이라는 꼬리표에 이의를 제기하며, 이를 모델의 안전 조치의 전면적 패배라기보다는 좁고 이미 패치된 문제라고 주장한다.
결과는 동일했다: 상무부는 수출 통제 지시를 내렸고, Anthropic은 제품에 대한 접근을 즉시 제한하기 위해 허둥지둥해야 했다. 일부 보도에 따르면 통보를 받은 후 약 90분 만이었다.
하지만 이 모든 것은 새로운 것이 아니다. 정부들은 수십 년 동안 위험한 사이버 기술로 간주되는 것의 확산을 제한하기 위해 수출 통제를 사용하려고 시도해 왔지만, 그 실적은 기껏해야 중간 정도였다.
미국 정부는 1990년대 초중반에 이 접근법의 역사상 가장 극적인 실패 중 하나를 주도했다. 당시 컴퓨터 과학자들은 인터넷을 통해 데이터를 전송할 때 데이터를 보호하기 위한 암호화 기술을 개발하고 있었다. 그 암호화 제품 중 하나는 PGP(Pretty Good Privacy)로, 데이터를 암호화하여 인터넷을 통해 의도된 수신자에게 전송되는 동안 가로채더라도 해독이 사실상 불가능하게 만드는 인기 있는 소프트웨어였다.
미국 정부는 처음에 PGP를 위험한 무기로 보고, 정보 기관이 전선을 통과하는 이메일을 염탐하는 것을 방지할까 우려했다. PGP의 배포를 막기 위해 미국 관세청은 PGP 창시자 필 짐머만을 무기 수출 통제를 위반한 혐의로 형사 조사에 착수했다. 그는 PGP의 소스 코드를 인쇄된 책으로 출판하여 맞섰고, 오늘날 '암호 전쟁'으로 알려진 사건을 촉발했다. 짐머만은 나중에 조사가 종결되면서 중요한 승리를 거두었고, 이는 수십억 명의 Signal 및 WhatsApp 사용자가 사용하는 중요한 종단간 암호화 알고리즘의 길을 열었다.
이후 2010년대 초반, 연구자들은 중동의 반체제 인사들을 대상으로 사용된 서방 제 스파이웨어를 발견하기 시작했다. 이에 대응하여 여러 정부는 민간 및 군사 용도로 모두 사용되는 이중 용도 소프트웨어와 기술의 수출을 제한하는 국제 조약인 Wassenaar Arrangement를 확대하기로 합의했다. 아이디어는 감시 및 해킹 소프트웨어를 이중 용도로 분류하여 스파이웨어 제조업체가 해외 판매를 위해 수출 허가를 받도록 강제하는 것이었다.
하지만 Wassenaar는 항상 두 가지 본질적인 약점을 가지고 있었다.