在这个AI图像生成器已经变得如此精妙,以至于区分现实与算法成了阴谋论者的全职爱好的时代,OpenAI宣布了两项新措施来帮助解决这个问题。该公司承诺采用名为C2PA的开放标准,该标准在元数据中添加了明确的信号,表明图像是由AI生成的。OpenAI还与谷歌合作,加入了一种名为SynthID的隐形水印,这种水印更难检测,但如果恶意行为者试图掩盖痕迹,也更难去除。

这些新保护措施仅适用于OpenAI产品生成的图像,因此不会影响来自不太可靠的AI工具的图像洪流;它们可以帮助确保OpenAI不是问题的一部分。OpenAI还预览了一个公共验证工具,该工具将检查这两种信号,使用户能够轻松测试图像是否由AI生成。最初,该工具仅适用于OpenAI产品生成的图像;该公司希望随着时间的推移将其扩展到覆盖其他工具。

成立于2021年的内容来源与真实性联盟(C2PA)是一个非营利组织,致力于减轻AI图像对公共话语的有害影响。C2PA标准已被一系列谷歌产品采用,但整个行业的采用情况仍然不一致。由于C2PA信号在每个文件的元数据中清晰可访问,因此它可以被操纵,并且在可信用户中最有用。

SynthID是一项较新的努力,旨在成为更强大的防篡改措施。由谷歌开发的SynthID水印旨在即使恶意行为者试图通过截图、调整大小或数字操作来移除它时也能持续存在。这两个系统旨在相互补充,各自解决对方的弱点。OpenAI在公告中指出:“水印可以通过截图等变换更持久,而元数据可以比单独的水印提供更多信息。它们共同使来源验证比任何一层单独使用都更具弹性。”