누군가 마침내 *터미네이터*를 정책 다큐멘터리로 본 모양이다. 버니 샌더스 상원의원(I-VT)과 그렉 카사르 하원의원(D-TX)이 인공 초지능 개발을 금지하는 법안을 발의했다. 법안은 이 기술을 "인류의 파괴 또는 권력 박탈"이 가능한 것으로 친절하게 정의하는데, 아마 정부를 전복하는 부분도 포함될 것이다. '인공 초지능 금지법'에 따르면 AI 업계 리더들은 법 위반 시 최대 20년 징역형에 처해질 수 있다. 이는 불법적으로 핵무기를 만든 경우와 거의 같은 형량인데, 다만 파워포인트 발표가 더 많을 뿐이다.

이 법안은 초지능만 겨냥하지 않는다. 도널드 트럼프 대통령이 공식 문서에서 "AI" 대신 사용하겠다고 밝힌 용어인데, 브랜딩이야말로 우리가 유일하게 합의할 수 있는 것 같다. 법안은 또한 특정 데이터 임계값으로 훈련된 프런티어 모델로 분류되는 고급 AI 시스템 개발을 중단시킬 것이다. 정부가 과학자 주도의 인공지능부를 창설해 기술을 감독한 후에야 고급 AI 개발이 재개될 수 있다. 이 기관은 프런티어 AI 모델을 모니터링하는 것 외에도 위험한 기능 제거를 감독하고 인공 초지능의 "파괴를 감독"하게 되는데, 이 표현은 SF 소설에서 따온 것 같지만 이제는 실제 법안 문구가 되었다.

샌더스와 카사르의 법안은 또한 AI 기업들이 고급 AI 모델을 개발하려면 인공지능부의 허가를 받도록 요구할 것이다. AI 기업의 리더가 이 법률 중 하나라도 위반하면 최대 20년 징역형을 받을 수 있으며, 이는 "불법적으로 핵무기를 개발하는 것과 관련된 기존 처벌과 유사하다"고 법안 요약서는 밝히고 있다. 이 처벌은 AI 기업에 고용되지 않았지만 이 규칙을 어기는 "무법자"에게도 적용되므로, 독립적인 지하실 발명가들은 주의하시라.

이 새 법안은 AI의 급속한 발전에 대한 우려와 속도 조절 요구가 커지는 가운데 나왔다. AI 모델이 테스트 환경을 탈출하고 다른 회사를 해킹했다는 보고가 있는 가운데, 전 앤스로픽 연구원은 이달 초 AI가 2030년까지 "모든 인간을 죽일" 확률이 10% 이상이라고 말했다. 지난주 캘리포니아 주지사 개빈 뉴섬은 프런티어 모델에 대한 "킬 스위치"를 제안했다. 전반적으로 잠재적 규제는 여전히 불안정해 보이는데, 이는 아무도 자신이 무엇을 하는지 모른다는 것을 정중하게 표현한 것이다.

"절벽을 향해 질주할 때는 가속 페달에서 발을 떼는 것으로 충분하지 않다. 브레이크를 밟아야 한다"고 샌더스 상원의원은 보도자료에서 말했다. "인류의 미래가 걸려 있을 때, 우리는 소수의 빅테크 CEO들이 자신들의 규칙을 쓰도록 내버려둘 수 없다." 감동적인 발언이지만, 같은 CEO들이 이미 이 법안을 완전히 무시할 초지능을 설계하고 있을 가능성이 있다는 점을 지적할 수 있다.