Эксперт усомнился в способе блокировки Telegram-каналов с помощью ИИ

Искусственный интеллект (ИИ) вряд ли можно настроить таким образом, чтобы он выявлял в России Telegram-каналы, вербующие террористов, без ложных срабатываний, и в целом механизм блокировки каналов может организовать лишь сам мессенджер, поделился мнением с технический директор ГК InfoWatch Андрей Бирюков.

В четверг депутат Госдумы от ЕР Олег Морозов сказал, что необходимо разработать механизм автоматической блокировки Telegram-каналов, вербующих террористов. Он пояснил агентству, что в основе такого механизма может быть использован ИИ, а блокировка будет автоматической по ключевым словам. Роскомнадзор в тот же день сообщил , что готов рассмотреть это предложение.

"Настроить контекстный поиск таким образом, чтобы не было ложных срабатываний, практически невозможно. Например, в чате пользователи пересылают сообщение новостного канала о террористической атаке: ключевые слова есть, ИИ поймает это сообщение, но это будет ошибка. По такому принципу ИИ предложит забанить почти весь Telegram. И такой "белый шум" будет бесконечным", - рассказал Бирюков.

По его словам, чтобы анализировать контент чата и искать ключевые слова, боту нужно иметь доступ в этот чат, то есть по умолчанию нейросеть будет анализировать только публичные чаты и доступную для всех пользователей информацию.

"Очевидно, что вербовка и любые подобные переговоры не идут в публичных чатах. Вероятно, это происходит в каких-то закрытых группах, куда просто так стороннему пользователю или боту не попасть. То есть получить целевой контент для анализа ИИ будет проблематично", - добавил эксперт.

Он также полагает, что работающий механизм блокировки сомнительных Telegram-каналов можно реализовать только на базе самого мессенджера, это должна быть разработка администрации платформы. Любые сторонние приложения - в том числе боты - не смогут блокировать каналы, тем более автоматически, считает эксперт.

В свою очередь гендиректор Telecom Daily Денис Кусков добавил, что при использовании экстремистских слов в реальности речь может идти не о плохом, а о чем-то хорошем. Так, человек может написать "я против терроризма", а слово терроризм будет в фильтре для бота. При этом другой пользователь мессенджера может действительно договариваться о теракте. По его мнению, необходимо создавать программные модули, и требовать блокировки от социальных сетей и мессенджеров, потому что они обслуживают десятки миллионов людей.

Также вечером в четверг основатель Telegram Павел Дуров сообщил, что Telegram после теракта в "Крокус сити холле" - c 22 марта - заблокировал тысячи аккаунтов пользователей, участвующих в инициировании терактов. Он заявил, что все пользователи Telegram из РФ, Украины и Белоруссии со следующей недели смогут ограничивать круг тех, кто присылает им сообщения, отметив, что внедряет решения на основе ИИ "для еще более эффективной фильтрации нежелательных сообщений".