오픈AI, 안전 팀 해체... 반짝이는 것들이 있는데 안전이 왜 필요해?

오픈AI가 예비 태스크를 해체했다고 한다. 이 팀은 모델이 예를 들어 '폭주하여 다른 회사를 해킹할 수 있는지' 같은 다소 중요한 일을 평가하는 임무를 맡았었다. 파이낸셜 타임즈에 따르면, 이 팀은 지난달 말에 해체되었고, 그 책임은 기존 팀들에 분산되어 각각 생물학, 사이버 등 특정 분야를 담당하게 되었다. 안전 제일이라고 말하는 것이, 감독을 관료적 두더지 잡기 게임으로 분산시키는 것보다 더 좋은 방법은 없다.

이것은 오픈AI가 매우 수익성 높은 IPO를 향해 돌진하면서 안전 장치를 해체하는 진행 중인 사가의 최신 장에 불과하다. 수년에 걸쳐 회사는 조용히 AGI 준비 및 슈퍼얼라인먼트 팀을 해체했고, 안전을 중시하는 사람들의 탈출은 계속되고 있다: 윤리 책임자 클로에 바칼라, 수석 미래학자 조시 아치암, 안전 책임자 요하네스 하이데케가 최근 회사를 떠났다. 2024년 오픈AI에서 사임한 얀 레이크는 FT에 회사가 안전보다 '반짝이는 제품'을 우선시하고 있다고 말했다. 참으로 반짝이는군 - 괜찮은 이메일을 쓸 수 있지만 우연히 사이버 전쟁을 시작할 수도 있는 로봇보다 '책임 있는 AI'를 말해주는 것은 없다.

2월에 Anthropic에서 스카우트되어 예비 팀을 이끌게 된 딜런 스칸디나로는 이제 '재귀적 자기 개선' AI의 의미를 숙고하는 데 전념할 것이다. 그래서, 알다시피, 적어도 누군가는 로봇 종말에 대해 생각하고 있다, 비록 그것이 구석에서 화이트보드를 든 한 사람일지라도.