Алгоритмы Meta* стали ошибочно помечать реальные фотографии как сгенерированные ИИ
Фотографы пожаловались, что алгоритмы Meta* стали ошибочно помечать реальные фотографии как сгенерированные искусственным интеллектом, пишет TechCrunch.
В одном из примеров отметка Made with AI появилась на снимке фотожурналиста Пита Соуза, опубликовавшего фото в Instagram**. В другом случае алгоритмы пометили фотографию команды «Калькута Найт Райдерс» на церемонии награждения после победы в турнире Индийской премьер-лиги по крикету.
Маркировка появляется только при просмотре публикаций через мобильное приложение Instagram, а не в браузере, пишет Verge.
Соуза попытался убрать пометку со своих фото, но не преуспел в этом. Он полагает, что некорректное срабатывание алгоритма могло быть вызвано использованием инструмента для редактирования изображений Adobe.
Meta также неправильно помечает реальные фотографии, которые отредактировали при помощи ИИ-инструментов, включая Generative Fill от Adobe, для удаления малых объектов. В Verge подтвердили некорректное срабатывание алгоритма в Instagram.
Представитель Meta Кейт Маклафлин заявила, что компании известно о проблеме. Корпорация приняла во внимание последние отзывы и оценивает подход того, чтобы пометки отражали объём привнесённого в изображения со стороны ИИ. Маклафлин заверила, что Meta сотрудничает с поставщиками инструментов для редактирования изображений, чтобы улучшить свои алгоритмы маркировки.
В феврале корпорация объявила, что начнёт добавлять пометки Made with AI на загружаемые в Facebook**, Instagram и Threads фотографии. В частности, Meta заявила, что будет маркировать изображения, созданные при помощи ИИ-инструментов Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock.
Meta не уточнила, по каким именно критериям изображения получают пометку Made with AI. Все указанные выше компании обязались добавлять метаданные в файлы изображений, чтобы обозначить использования ИИ-инструментов. Вероятно, что некорректное добавление маркировки вызвано применением инструментов для редактирования, которые добавляют метаданные, вводящие алгоритмы Meta в заблуждение.
Meta Platforms*, а также принадлежащие ей социальные сети Facebook** и Instagram**
* — признана экстремистской организацией, её деятельность в России запрещена
** — запрещены в России
Написать комментарий