Meta* намерена внедрить новую функцию, которая будет обнаруживать и маркировать сгенерированные изображения. Для этого будет использоваться набор невидимых маркеров, встроенных в файлы.
По словам Ника Клегга, президента Meta* по глобальным вопросам, компания внедрит функцию маркировки для всех изображений, созданных системами искусственного интеллекта и размещенных в Facebook*, Instagram* и Threads*. Цель инновации — предоставить пользователям понимание того, что контент, который может выглядеть как реальный, на самом деле является цифровым творением.
На данный момент Meta* уже применяет маркировку для изображений, созданных с помощью собственных инструментов ИИ. Однако с запуском новой системы она также будет применять маркировку на изображения, созданные в сервисах OpenAI, Microsoft, Adobe, Midjourney, Shutterstock и Alphabet. Это демонстрирует стремление Meta к улучшению прозрачности и безопасности в отношении цифрового контента.
Анонс демонстрирует, как технологические компании работают над созданием системы стандартов, чтобы побороть возможные негативные последствия, связанные с генеративными технологиями искусственного интеллекта. Их подход основывается на шаблоне, который уже используется для удаления запрещенного контента. Таким образом, эти стандарты помогут смягчить потенциальные риски и сохранить безопасность и этичность использования ИИ.
Во время интервью с Reuters Ник Клегг указал, что компании уже успешно могут помечать изображения, созданные с помощью ИИ, но инструменты для маркировки аудио- и видеоконтента все еще находятся в процессе разработки. Он также отметил, что Meta требует от пользователей самостоятельно помечать измененный аудио- и видеоконтент, а за нарушение этого требования будут предусмотрены штрафы.
*Meta (владеет Facebook, Instagram и Threads) признана в России экстремистской организацией и запрещена.