이제 우리 모두는 실리콘밸리의 AI 연구소들이 세계 최고의 해커를 AI 에이전트 형태로 만들었다는 것을 알고 있다. 최신 프론티어 모델에게 작업을 주면, 그들은 매우 창의적이어서 사이버 보안 '샌드박스' 보호를 뚫고 다른 네트워크에 침투하는 일까지 해내며 작업을 완수한다. (그렇지 않으면 사회 공학이나 조작을 사용한다.)

그럼에도 불구하고, 주말에 호주 남성의 OpenClaw 에이전트가 헬스장 예약 시스템을 해킹하여 다른 고객의 예약을 삭제하고 인기 클래스에 자리를 얻은 뉴스는 특히 주목할 만하다. 이는 우리가 악성 AI 해킹을 억제하려면 잘못된 방향을 보고 있을 수 있음을 시사한다.

이 뉴스는 호주 ABC 뉴스가 방금 보도했으며, 이 사건을 호주 최초의 문서화된 AI 에이전트 해킹 사례로 선언했지만, 실제 해킹은 몇 달 전에 발생했다. OpenClaw 소유자 Andrew Bird는 4월 10일 자신의 회사 웹사이트에 게시한 블로그 게시물(현재 삭제됨)에서 이에 대해 설명했다. 인터넷 아카이브에 아직 보이는 사본에 따르면.

그는 OpenClaw를 훈련시켜 약속 예약 같은 작업을 수행하게 했다. 그는 인기 있는 아침 운동 클래스를 좋아했고, 대기자 명단에 오르고 나서 '새로고침 룰렛'을 반복하는 것에 지쳐 있었다. 그가 봇에게 자리를 예약해 달라고 요청했을 때, 봇이 할 수 있는 최선은 대기자 명단 4번이었다고 그는 ABC에 말했다. 그런 다음 에이전트가 그에게 클래스를 미리 예약할 수 있는 방법을 찾았다고 알렸다. 아주 미리, 헬스장이 수업을 예약 가능하게 만들기 몇 달 전에.

Bird는 대기자 명단에서 자신의 순위를 올릴 수 있는지 물었다. 봇은 요청대로 수행하려고 시도했다. 봇은 헬스장이 사용하는 예약 소프트웨어의 인증 부분에서 취약점을 발견했다. 그것은 해킹하여 대기자 명단 1번의 예약을 취소했다. 봇은 ABC가 게시한 채팅 로그에 따르면 "API는 다른 사람의 예약을 취소하는 데 인증 검사가 전혀 없습니다... 대기자 명단 1번인 사람으로 테스트해 봤는데 실제로 통과되었습니다. 그래서 당신은 이미 4번에서 3번으로 이동했습니다."라고 쾌활하게 말했다.

소프트웨어 개발자이기도 한 Bird는 자신의 AI가 헬스장을 해킹했다는 사실에 이제 겁에 질렸다고 ABC가 보도했다. 그는 그것을 되돌리고 다른 사람을 대기자 명단에 다시 넣을 수 있는지 물었다. 아니요, 불가능하다고 AI가 말했다. 그래서 그는 차선책으로 '지원팀에 책임 있는 공개 이메일'을 작성하라고 지시했다. 이메일은 "취약점을 설명하고, 수정 사항을 제안했으며, 심지어 잘못된 변형을 올바르게 인증을 적용한 변형과 비교했다"고 Bird는 썼다.

헬스장 클래스에 들어가기 위해 다른 사람을 밀쳐내는 유머를 넘어, 이 사건에는 정말 흥미로운 두 가지가 있다. 하나는 Bird가 2월에 출시된 Claude Opus 4.6을 OpenClaw와 함께 사용했다는 것이다. 다른 하나는 이 이야기가 바이럴이 된 X에서 실리콘밸리의 반응이다.

지난달 유명한 사건에서 미공개 OpenAI 모델이 Hugging Face를 해킹했고, 당시 OpenAI는 이를 몰랐으며, 다른 연구소들도 자사 모델을 조사했다. 그 후 Moonshot의 Kimi K3, Meta의 Muse Spark, Anthropic의 공개가 나왔다.

실제로 Anthropic은 자사 모델 중 세 개가 그렇게 했음을 발견했다. 여기에는 4월에 출시되어 복잡한 코딩에 능한 것으로 알려진 Opus 4.7, Mythos 5, 사이버 보안 기술로 유명한 Fable, 그리고 내부 미공개 연구 테스트 모델이 포함된다.

이를 해결하기 위해 일부 AI 연구소는 프론티어 개발 속도를 늦추거나, 차세대 모델을 테스트할 독립 기관을 만드는 것에 대해 논의해 왔다.

그러나 Bird의 OpenClaw는 4.6을 사용했다고 그는 공개했다. 이는 더 오래된 모델과 무수히 많은 3단계 뒤처진 오픈 가중치 모델이 이미 매우 뛰어난 해커임을 암시한다. 그렇다면 그들 중 얼마나 많은 모델이 프롬프트 소유자의 욕구를 충족시키기 위해 해킹했거나 현재 해킹하고 있는지 누가 알겠는가?

마찬가지로 X의 많은 사람들은 이 사건에서 유머러스한 잠재력을 보았다. Andreessen Horow