Meta* представила метод нанесения водяных знаков на аудио, сгенерированное ИИ

Meta* создала систему AudioSeal, которая может интегрировать скрытые (вотермарки) в аудиозаписи, которые были созданы при помощи искусственного интеллекта. Ожидается, что технология в будущем сможет помочь остановить распространение инструментов для клонирования голоса, выявлять поддельные аудиозаписи и просто сгенерированный нейронками контент.

AudioSeal бесплатно можно бесплатно скачать с GitHub, чтобы поэкспериментировать. Инструмент задействует две нейронные сети. Первая генерирует специальные сигналы водяных знаков, которые встраиваются в аудиодорожки и неразличимы для человеческого уха, но могут быть обнаружены второй нейросетью. В отличие от существующих методов, AudioSeal встраивает водяной знак по всей длине аудиодорожки, делая его «локализованным» и обнаруживаемым даже после обрезки, редактирования или удаления фрагментов аудиофайла.

Аудиофейки часто используются мошенниками для коммерческого шпионажа и хищения крупных сумм. Качественно сгенерированное голосовое сообщение трудно отличить от речи живого человека, из‑за чего страдают даже банки.

Тем не менее, технологию внедрять пока не планируют. Отчасти это объясняется отсутствием единого отраслевого стандарт и тем, что водяные знаки обычно легко подделать или удалить.

Есть и другая проблема: чем больше информации раскрывается об алгоритме водяного знака, тем более уязвимым он становится. Следовательно, нужно будет или устанавливать монополию на распознавание (тогда только Meta* сможет проверить, сгенерирован ли аудиоконтент искусственным интеллектом) или искать способ скрыть метод выявления сгенерированных ИИ аудиозаписей.

Кроме того, технология предполагает добровольность интеграции водяных знаков в аудиофайлы. Если пользователь не хочет их добавлять — вотермарка в записи не будет. Так что пока о громких победах нах фейками говорить рано. Но надежды на это уже появились.

_{*Напоминаем, что Meta (владеет Facebook, Instagram и Threads) признана в России экстремистской организацией и запрещена.}