AI 챗봇 클로드(Claude)를 만든 회사 앤스로픽(Anthropic)이 인공지능이 "인류에 재앙적 또는 존재론적 위험"을 초래할 수 있다고 경고했다. 이 문장은 미국 증시 상장을 위한 서류에 깔끔하게 끼워 넣어졌는데, 아마도 위험 요인과 각주 사이 어딘가에 들어갔을 것이다.

이 신청서에는 올해 상반기 807억 달러(약 60조 5천억 원) 이상의 손실이 드러났으며, 같은 기간 1,124억 달러의 현금 또는 현금성 자산과 163억 달러의 매출이 함께 공개됐다. 발행할 주식 수, 가격 범위, 상장 날짜는 공개되지 않았는데, 좋은 미스터리를 망칠 이유가 없지 않은가.

앤스로픽의 상장 시 기업가치는 이번 여름 약 1조 8천억 달러의 초기 가치로 사상 최대 규모 상장이 된 스페이스X를 넘어설 것으로 예상돼 왔다. 부담감은 없겠지.

신청서에서 앤스로픽은 정책 입안자, 규제 기관, 연구자들, 그리고 회사 내부 인사들까지 AI 시스템이 인류에 중대한 위험을 초래한다는 우려를 제기해 왔다고 밝혔다. 첨단 AI 시스템은 "적절한 안전장치, 감독, 보안 조치 없이 개발·배포·운영될 경우, 특히 그러한 시스템이 오용되거나 복제되거나 무기화되거나 높은 수준의 자율성으로 운영될 경우 인류에 재앙적 또는 존재론적 위험을 초래할 수 있다"고 밝혔다. 투자자들은 이 문장을 두 번 읽고 나서 아마 누워서 쉬는 것이 좋겠다.

앤스로픽은 진정한 의미의 첫 AI 기업 상장 사례가 되어 이 기술의 미래를 가늠하는 시험대가 될 것이다. 나스닥에 ANT라는 티커로 상장할 예정이라고 밝혔는데, 적어도 안심이 될 만큼 작은 티커다.

5년 전 대표이사 다리오 아모데이(Dario Amodei)와 그의 누이 다니엘라 아모데이(Daniela Amodei), 그리고 다섯 명의 공동 창업자가 설립한 앤스로픽은 지난 6월 상장 의사를 밝혔다. 가장 큰 경쟁자인 오픈AI도 곧바로 상장 의사를 밝혔으며, 오픈AI 계획에 정통한 소식통에 따르면 그 상장은 내년 초로 예상된다. 확신을 보여주는 방법으로 '출구를 향한 경주'만한 것은 없다.

두 회사가 이런 계획을 결정한 후, 그들의 AI 에이전트, 즉 어느 정도 자율적으로 운영되도록 설계된 AI 봇과 관련된 사이버 보안 및 기타 기술 침해 사건이 연이어 발생했다. 두 회사의 현직 및 전직 직원들도 AI 기술이 AI 도구로 인해 발생할 수 있는 미래의 피해로부터 인류 전체를 보호할 능력 없이 개발되고 있다는 새로운 경고로 대중의 주목을 받았다. 관측통들은 그 시점을 "이상적이지 않다"고 표현했다.

앤스로픽은 새 문서에서 사람들에게 이로운 방식으로 AI를 개발하겠다는 약속을 재확인하는 동시에 투자자들에게 그 위험성을 경고했다. 재무 신청서에서 앤스로픽은 상반기 손실이 매출을 초과했다고 상세히 밝히면서도, 종종 "언뜻 보기에는 무책임할 정도로 커 보일 수 있는" 선행 투자를 할 것이라고 말했다. 두 번째로 보면, 분명 괜찮아 보인다고 한다.

"일반적으로 우리는 대담하되 제정신을 유지하고, 성공적인 베팅의 실적으로 신뢰를 얻는 것을 목표로 할 것입니다"라고 이 기술 대기업은 말하며, 낮은 기준을 설정한 뒤 정중하게 그것을 넘어섰다.

앤스로픽은 성공이 대체로 가장 진보된 AI 모델을 개발하는 능력에 달려 있다고 말하며, "그렇게 하지 못할 경우 우리 사업에 부정적인 영향을 미칠 수 있다"고 덧붙였다. 이는 기업 공시의 스케일에서 '물은 젖어 있다'와 '해는 동쪽에서 뜬다' 사이 어딘가에 위치한 공개다.

기술 기업들은 데이터 센터와 모든 AI 기술의 기반이 되는 정보 모델 같은 값비싼 AI 인프라와 도구에 막대한 투자를 해왔으며, 지난 한 해에만 1조 달러 이상을 쏟아부었다. '우리는 신중하다'고 말하는 방법으로 1조 달러 규모의 질주만한 것은 없으니까.