Инструмент ИИ обнаружил скрытые риски для здоровья в соцсетях

В эпоху стремительного роста рынка потребительских товаров для здоровья, включая продукты на основе конопли и пищевые добавки, традиционные системы мониторинга безопасности демонстрируют свою несостоятельность. Например, в США существующая система отчетности о нежелательных явлениях Управления по контролю за продуктами и лекарствами (FDA) полагается преимущественно на добровольные заявления врачей и производителей, оставляя без внимания огромный массив информации, которой потребители делятся в социальных сетях. Именно этот пробел призван заполнить новый инструмент искусственного интеллекта, разработанный исследователями под руководством Джона Айерса из Калифорнийского университета в Сан-Диего.

В ходе масштабного исследования ученые проверили эффективность ИИ на примере анализа сообщений на форумах. Точность алгоритма составила впечатляющие 99,7 процента, что значительно превосходит показатели чат-бота общего назначения, протестированного на том же наборе данных. Как отмечает исследователь Каран Десаи, «ИИ показывает, что информация о здоровье, которой люди делятся в Интернете, — это не просто шум, это ценные сигналы безопасности». Действительно, при анализе 437 132 сообщений на социальном новостном сайте инструмент выявил 28 832 потенциальных сообщения о вреде для здоровья, причем последующая ручная проверка случайной выборки подтвердила достоверность 86 процента из них.

С технической точки зрения, как объясняет соавтор проекта Виджай Тийяла, успех алгоритма демонстрирует преимущества специализированных моделей машинного обучения перед универсальными чат-ботами.

«Мы продемонстрировали, что такая тщательно обученная модель, как Роберта, может превзойти самых современных чат-ботов в обнаружении нежелательных явлений», — отмечает исследователь. Особую ценность этому проекту придает решение разработчиков сделать ИИ инструментом с открытым исходным кодом, что позволяет исследователям, клиницистам и регулирующим органам по всему миру использовать его для защиты пациентов.

Джон Айерс подчеркивает трансформационный потенциал этого подхода: «Этот проект показывает, как цифровые инструменты здравоохранения могут трансформировать постмаркетинговый надзор». Действительно, способность искусственного интеллекта анализировать огромные объемы пользовательского контента в реальном времени открывает новые возможности для выявления редких или отсроченных побочных эффектов, которые часто остаются незамеченными в традиционных системах мониторинга. Более того, алгоритм демонстрирует универсальность: он может быть адаптирован для мониторинга безопасности любых потребительских товаров для здоровья, включая те, которые не подпадают под строгий регуляторный контроль.

Разработчики видят в новом изобретении не просто инструмент для сбора данных, а механизм демократизации доступа к информации о безопасности продуктов здоровья. Как отмечают авторы, «демократизируя доступ к нашему ИИ, команда надеется ускорить развитие открытой науки и повысить безопасность пациентов». По их мнению, в перспективе это может привести к созданию глобальной системы раннего предупреждения о рисках, связанных с потребительскими товарами для здоровья, где каждый случай, описанный пользователем в социальных сетях, будет учитываться при оценке безопасности продуктов.