ChatGPT будет снабжать изображения, созданные DALL-E 3, цифровой маркировкой, чтобы помочь бороться с дезинформацией

В эпоху, когда мошенники используют генеративный искусственный интеллект для выманивания денег или запятнания репутации, технологические компании придумывают методы, помогающие пользователям проверять контент — по крайней мере, для начала неподвижные изображения. Как указано в стратегии дезинформации на 2024 год, OpenAI теперь включает метаданные о происхождении в изображения, созданные с помощью ChatGPT в Интернете и API DALL-E 3, а их мобильные аналоги получат такое же обновление к 12 февраля.

  Мы в Telegram

Метаданные соответствуют открытому стандарту C2PA (Коалиция за происхождение и подлинность контента), и когда одно такое изображение загружается на Проверка учетных данных контента инструмент, вы сможете проследить его происхождение. Например, изображение, созданное с помощью ChatGPT, покажет первоначальный манифест метаданных, указывающий его происхождение API DALL-E 3, за которым следует второй манифест метаданных, показывающий, что оно появилось в ChatGPT.

Несмотря на необычную криптографическую технологию, лежащую в основе стандарта C2PA, этот метод проверки работает только в том случае, если метаданные не повреждены; инструмент бесполезен, если вы загружаете изображение, созданное искусственным интеллектом, без метаданных — как в случае с любым скриншотом или загруженным изображением в социальных сетях. Неудивительно, что текущие примеры изображений на официальная страница DALL-E 3 тоже вернулся пустым. На его Страница часто задаваемых вопросовOpenAI признает, что это не панацея для борьбы с войной дезинформации, но считает, что ключом является поощрение пользователей к активному поиску таких сигналов.

Хотя последние усилия OpenAI по предотвращению фейкового контента в настоящее время ограничиваются неподвижными изображениями, DeepMind от Google уже сделал это. SynthID для нанесения цифровых водяных знаков на изображения и аудио, созданные искусственным интеллектом. Тем временем Meta тестирует невидимые водяные знаки с помощью своего генератора изображений AI, который, возможно, менее подвержен взлому.


Нажмите здесь, чтобы узнать больше новостей


Leave a Comment

Your email address will not be published. Required fields are marked *