OpenAI에서 모든 주요 모델 출시에 동반되는 안전 보고서를 작성하던 데이비드 로빈슨이 이번 주 사임하고, The Atlantic에 기고문을 통해 자신의 우려를 공개했다. 예, 또 이런 경우입니다. 아니요, 그들이 직접 만든 바로 그 물건에 대해 경고하는 사람들에게 약간 냉소적인 느낌을 갖는 게 틀린 건 아닙니다. 하지만 그 경고들은, 안타깝게도, 여전히 읽을 가치가 있습니다.

로빈슨의 주장은 문제가 여기저기 빠진 규칙이나 느슨한 규제가 아니라 문화 자체라는 것입니다. 실리콘밸리는 "극단적인 자신감"과 "끊임없는 스프린트"로 돌아가며, "거침없는 낙관주의"로 더 크고 더 나은 모델을 쏟아내면서 그 모델들이 가져올 잠재적 문제를 무시하거나 과소평가한다고 그는 말합니다.

그가 제안하는 해결책은 미묘하지 않습니다. AI 기업들은 겸손함과 기술의 폐쇄적이고 '빠르게 움직이고 깨뜨려라'는 세계를 넘어서려는 의지가 필요하다고 그는 주장합니다. 구체적으로, 프런티어 랩들은 스타트업처럼 운영되는 대신 원자력 발전소나 분주한 공항처럼 운영되어야 한다고 말합니다. 즉, 여러 겹의 중복성과 신중하고 시간이 많이 걸리는 계획을 통해, 때때로 그리고 불가피하게 발생하는 인간의 실수가 재앙으로 이어지는 문을 열지 않도록 해야 한다는 것입니다.

로빈슨은 저명한 AI 기업들을 떠나는 연구자와 안전 담당자들의 점점 길어지는 행렬의 최신 인물입니다. 제이콥 콕슨은 앤스로픽을 그만두고 AI가 "이번 10년이 끝나기 전에 우리 모두를 죽일 수 있다"고 공개적으로 발언하면서 이 탈출의 시작을 알린 것으로 보입니다. 그 뒤를 구글 딥마인드의 로버트 오칼라한, 빌랄 추그타이, 조시 엥겔스, 그리고 앤스로픽의 조 벤튼이 따랐습니다.