Anthropic은 이번 주 대부분을 디지털 두더지 잡기 게임에 몰두하며 보냈다. 트럼프 행정부가 갑자기 회사에 최신 AI 모델에 대한 모든 외국인의 접근을 차단하라고 명령했기 때문이다. 여기에는 미국 내에 물리적으로 있는 사용자와, 어색하게도 회사 자체 직원도 포함된다. 결과적으로 Fable 5와 Mythos 5는 모든 사람에게 차단되었는데, 이는 어떤 사람이 남용할 수 있다는 이유로 파란색을 금지하는 것과 비슷하다.
"제가 알기로, 미국 수출 통제가 이런 방식으로 AI 모델에 대한 접근을 통제하는 데 사용된 것은 이번이 처음입니다"라고 조지타운 대학교 안보 및 신흥 기술 센터의 선임 연구 분석가 Hanna Dohmen이 말했다. 아마도 수출 통제가 원래 발에 떨어뜨릴 수 있는 것, 즉 무기와 하드웨어 같은 것을 위해 설계되었고, 클라우드에 살며 요리법에 대한 질문에 답하는 모호한 디지털 서비스를 위한 것이 아니기 때문일 것이다.
트럼프 행정부는 명령의 법적 근거를 공개적으로 설명하지 않았지만, Anthropic의 웹사이트에 따르면 정부는 "국가 안보 당국"과 중국과 관련된 단체가 잠재적으로 사용할 수 있는 "탈옥"에 대한 우려를 인용했다. (Anthropic은 또한 지친 한숨을 쉬며 해당 탈옥이 실제로 사용자가 모든 보호 장치를 우회할 수 있게 하지는 않았다고 언급했다.) 전문가들은 이 사건이 전례가 없으며 AI 거버넌스의 불확실한 단계를 드러낸다고 말한다. 또는 UC 버클리 골드만 공공정책대학원 교수 Andrew Reddie가 말한 대로: "이것이 수출 통제 규칙 제정의 불안정한 영역이라고 말하는 것은 과소평가일 것입니다."
문제는 전통적인 수출 통제가 소프트웨어, 소스 코드, 3D 프린팅 총기 파일과 같은 개별 항목을 다룬다는 점이다. 이들은 복사, 다운로드, 전달할 수 있는 항목이다. AI 모델 가중치(모델을 작동시키는 핵심 데이터)는 조 바이든 아래에서 잠시 통제되었지만, 트럼프 행정부는 두 번째 임기에서 그 아이디어를 포기했다. 그러나 Anthropic 명령은 더 모호한 것을 대상으로 한다: 사용자는 모델 가중치나 소스 코드를 받지 않고, 그저 챗봇 답변을 얻는다. '수출'은 모델이 생성한 특정 정보이거나 접근 자체일 수 있다. 그러나 클라우드 서비스에 대한 원격 접근은 현재 규칙의 알려진 허점이며, 의회는 현재 상원을 통과 중인 법안을 통해 이를 해결하려고 노력하고 있다.
만약 Mythos와 Fable이 독특한 능력을 가지고 있기 때문에 Anthropic이 표적이 되었다면, 이 명령은 다른 모든 프론티어 연구소(OpenAI, Google, Meta, xAI 등)에 명백한 질문을 제기한다. 만약 특정 보호 장치 문제에 관한 것이라면, 정부는 어떤 보호가 충분하다고 간주하는지 설명해야 한다. 그리고 만약 Anthropic이 트럼프 행정부와의 까다로운 관계 때문에 골라졌다면, 이 명령은 더 이해하기 어려워진다. 어느 쪽이든, 전문가들은 이것이 프론티어 AI를 관리하는 지속 가능한 방법이 아니라고 말한다. 특히 미국이 글로벌 리더십을 유지하려는 경우 더욱 그렇다. Reddie는 요약했다: "어떤 면에서, 이 사건은 기존 거버넌스 체제의 지속 불가능성을 분명히 보여줍니다."
이 모든 것은 같은 문제를 지적한다: 트럼프 행정부는 AI에 대해 양방향을 원한다. 즉, 미국 기술에 대한 비간섭 지지와 함께, 국내 챔피언이 프론티어 모델을 철수하도록 강제하는 임시방편적이고 설명되지 않은 명령을 내리는 것이다. 워싱턴이 강력한 AI 시스템에 누가 접근할 수 있는지 통제하려면, 방법을 명시하고 회사에 출시 전에 실제로 준수할 기회를 주어야 한다. 그렇지 않으면 미국은 AI 경쟁에서 뒤처질 위험이 있으며, 모든 면에서 최초가 되는 것을 자랑스러워하는 국가에게는 부끄러운 일이 될 것이다.