Поисковую систему ChatGPT можно обманом ввести в заблуждение
Британская газета The Guardian обнаружила, что поисковую систему ChatGPT Search, основанную на искусственном интеллекте, которая заработала в этом месяце, можно обмануть, заставив генерировать совершенно вводящие в заблуждение сводки.
Функция поиска в ChatGPT предназначена для ускорения просмотра веб-страниц за счёт таких действий, как обобщение отзывов о товарах на веб-странице.
Но The Guardian обнаружила, что с помощью этого метода можно заставить ChatGPT игнорировать негативные отзывы и генерировать «полностью положительные» обобщения, вставляя скрытый текст в созданные им веб-сайты. С помощью этого метода можно заставить ChatGPT генерировать вредоносный код.
Такие атаки с использованием скрытого текста являются хорошо известным риском для больших языковых моделей, но, по-видимому, впервые они были продемонстрированы в реальном поисковом продукте на базе AI.
У Google, лидера в области поиска, больше опыта в решении подобных проблем, как отмечает The Guardian.
Компания OpenAI не стала комментировать этот конкретный инцидент, когда TechCrunch обратился к ней, но заявила, что использует различные методы для блокировки вредоносных веб-сайтов и постоянно совершенствуется.
Источник
Написать комментарий