В эпоху, когда генераторы изображений ИИ стали настолько изощренными, что отличать реальность от алгоритма стало хобби для конспирологов на полный рабочий день, OpenAI объявила о двух новых мерах, помогающих бороться с проблемой. Компания присоединилась к открытому стандарту C2PA, который добавляет четкий сигнал в метаданные о том, что изображение создано ИИ. OpenAI также сотрудничает с Google, чтобы включить невидимый водяной знак под названием SynthID, который будет сложнее обнаружить, но и сложнее стереть, если злоумышленники попытаются скрыть следы.

Новые меры защиты применяются только к изображениям, созданным продуктами OpenAI, поэтому они не повлияют на поток изображений из менее надежных инструментов ИИ; они могут помочь гарантировать, что OpenAI не является частью проблемы. OpenAI также представляет публичный инструмент проверки, который будет проверять оба сигнала, позволяя пользователям легко проверить, было ли изображение создано с помощью ИИ. Изначально инструмент будет работать только с изображениями, созданными продуктами OpenAI; компания надеется со временем расширить его на другие инструменты.

Основанная в 2021 году, Коалиция за происхождение и подлинность контента (C2PA) является некоммерческой организацией, занимающейся смягчением вредного воздействия изображений ИИ на общественный дискурс. Стандарт C2PA принят рядом продуктов Google, но его внедрение остается неравномерным по отрасли. Поскольку сигнал C2PA четко доступен в метаданных каждого файла, им можно манипулировать, и он наиболее полезен среди доверенных пользователей.

SynthID — это более новая разработка, предназначенная для более надежной защиты от вмешательства. Разработанный Google водяной знак SynthID спроектирован так, чтобы сохраняться даже при попытках злоумышленников удалить его с помощью скриншотов, изменения размера или цифровых манипуляций. Две системы призваны дополнять друг друга, каждая устраняя слабые места другой. «Водяные знаки могут быть более устойчивыми к таким преобразованиям, как скриншоты, в то время как метаданные могут предоставить больше информации, чем один водяной знак», — отметил OpenAI в своем объявлении. «Вместе они делают происхождение более устойчивым, чем каждый слой по отдельности».