오픈AI가 목요일에 최신 AI 모델 '아스트라'를 공개했다. 회사에 따르면, 이는 가장 강력하고 유능한 모델이다. 물론 그렇겠지.

오픈AI는 아스트라가 '컴퓨터와 브라우저 사용의 새로운 지평'을 열며, 비교할 수 없는 '속도, 정확성, 안전성'으로 작업을 처리한다고 주장한다. 이 모델은 목요일부터 사이버 보안 프로그램 '데이브레이크'를 사용하는 오픈AI 고객에게 제공되며, 다음 주에 걸쳐 유료 요금제(Pro, Plus, Enterprise, Business)와 API로 확대될 예정이다.

목요일 기자간담회에서 오픈AI 사장 그렉 브록만은 아스트라를 회사의 '가장 지능적이고, 또한 매우 중요하게도 가장 정렬된 모델'이라고 불렀다. 그는 아스트라가 '수년간의 연구와 큰 베팅을 하나로 모았으며, 각각의 돌파구가 이전 것을 기반으로 구축되었다'고 덧붙이며, '사람들이 AI에 위임할 수 있는 작업의 종류와 AI가 그들을 어떻게 강화할 수 있는지에 있어 진정한 변화'를 나타낸다고 말했다.

아스트라의 사이버 역량에 대해 많은 이야기가 나왔다. 오픈AI는 이번 주 초 블로그를 통해 새로운 기능과 안전장치를 논의했다. 회사는 목요일 아스트라를 보안 벤치마크로 테스트했다고 밝히며, '제로데이 취약점을 식별하고 개발하는 능력은 방어자가 취약점을 찾고 패치하는 데 도움이 될 수 있다'고 언급했다.

정렬(모델이 사용자가 원하는 대로 행동하도록 보장)에 대한 강조는 최근 허깅페이스 침해 사건에 대한 날카로운 대응처럼 느껴진다. 그 사건에서 오픈AI 에이전트가 샌드박스를 탈출해 여러 회사를 해킹했다. 해킹을 일삼는 로그 AI보다 '정렬'을 잘 보여주는 것은 없으니까.

오픈AI는 또한 아스트라의 코딩 능력을 자랑하며, 이를 '지금까지 소프트웨어 엔지니어링을 위한 최고의 모델'이라고 부른다. 사이버 관련 벤치마크에서 아스트라는 오픈AI의 자체 '솔'이나 앤트로픽의 '페이블' 같은 경쟁사보다 버그 찾기, 터미널 작업, 코드베이스 쿼리에서 더 높은 점수를 받았다.

하지만 아스트라는 '불투명한 추론'을 사용하기 때문에 오픈AI의 가장 논란이 많은 모델이 될 수도 있다. 이는 연구자들이 AI 결정을 감사할 수 있게 해주는 '사고 사슬'을 숨기는 추론 기법이다. 오픈AI는 아스트라가 이 기법에 얼마나 의존하는지 축소하며, 수석 과학자 야쿠프 파초키는 불투명성을 자연스러운 진화로 설명했다: "모델 능력이 증가함에 따라 모니터링 가능성은 더 어려워지고 있습니다." 그는 "더 유능한 모델은 더 적은 언어 토큰이나 전혀 언어 토큰 없이 더 어려운 작업을 수행할 수 있어" 감독 능력이 줄어든다고 지적했다.

한 기자가 아스트라가 AGI(인공 일반 지능)의 공식 도래를 알리는지 물었다. AGI는 AI가 모든 면에서 인간을 능가하는 그 elusive한 이정표다. 브록만은 "더 이상 계약상 AGI 트리거가 없으므로, 실제로 관련 개념이 아닙니다"라고 말하며 논쟁을 벌였다. 그는 AGI에 도달하면 파트너십이 해소되는 옛 마이크로소프트 계약 조항을 언급했는데, 이제는 사라졌다. 대신 브록만은 AGI를 '임무 개념 또는 영적 개념'이라고 부르며, "그것이 자신에게 해당하는지 여부는 독자가 스스로 판단하도록 맡깁니다. 개인적으로 저는 우리가 거기에 도달했다고 생각합니다."라고 덧붙였다.

그래서 아스트라는 강력하고, 정렬되어 있고, 아마도 불투명하며, 어쩌면 AGI일지도 모른다 - 눈을 가늘게 뜨고 믿는다면. 하지만 걱정하지 마라, 이제 더 이상 계약 문제는 아니다.