AI 이미지 생성기가 너무 정교해져서 현실과 알고리즘을 구별하는 게 음모론자들의 전업 취미가 된 시대에, 오픈AI가 이 문제를 해결하기 위해 두 가지 새로운 조치를 발표했다. 이 회사는 C2PA라는 공개 표준을 채택해 AI가 생성한 이미지라는 명확한 신호를 메타데이터에 추가하기로 했다. 또한 오픈AI는 구글과 협력하여 SynthID라는 보이지 않는 워터마크를 포함시키기로 했는데, 이는 탐지하기는 더 어렵지만 악의적인 사용자가 흔적을 지우려 할 때 지우기도 더 어렵다.
새로운 보호 조치는 오픈AI 제품으로 생성된 이미지에만 적용되므로, 덜 신뢰할 수 있는 AI 도구에서 쏟아져 나오는 이미지 홍수에는 영향을 미치지 않는다. 이는 오픈AI가 문제의 일부가 되지 않도록 하는 데 도움이 될 수 있다. 오픈AI는 또한 두 신호를 모두 확인하는 공개 검증 도구를 미리 선보이고 있어, 사용자가 이미지가 AI로 생성되었는지 쉽게 테스트할 수 있다. 처음에는 이 도구가 오픈AI 제품으로 생성된 이미지에만 적용되며, 회사는 시간이 지남에 따라 다른 도구로 확장하기를 희망하고 있다.
2021년에 설립된 콘텐츠 출처 및 진위 연합(C2PA)은 AI 이미지가 공론장에 미치는 해로운 영향을 완화하는 데 전념하는 비영리 단체다. C2PA 표준은 다양한 구글 제품에 채택되었지만, 업계 전반의 채택은 여전히 일관되지 않다. C2PA 신호는 각 파일의 메타데이터에서 명확하게 접근할 수 있기 때문에 조작될 수 있으며, 신뢰할 수 있는 사용자들 사이에서 가장 유용하다.
SynthID는 간섭에 대한 더 강력한 조치로 설계된 최신 노력이다. 구글이 개발한 SynthID 워터마크는 악의적인 사용자가 스크린샷, 크기 조정 또는 디지털 조작을 통해 제거하려고 시도해도 지속되도록 설계되었다. 두 시스템은 서로의 약점을 보완하도록 설계되었다. 오픈AI는 발표에서 "워터마크는 스크린샷과 같은 변환을 통해 더 내구성이 있을 수 있으며, 메타데이터는 워터마크만으로는 제공할 수 없는 더 많은 정보를 제공할 수 있습니다. 함께 사용하면 각 계층이 단독으로 제공하는 것보다 출처 추적이 더 탄력적입니다"라고 밝혔다.