Исследование предупреждает: развитие AI может привести к «постепенному ограничению наших возможностей»

Группа исследователей под руководством Яна Кульвейта из Карлова университета в Праге и Рэймонда Дугласа из Telic Research предупреждает о менее известном экзистенциальном риске, связанном с искусственным интеллектом: «постепенном лишении власти», когда человечество медленно, но верно теряет влияние из-за постепенного развития AI.

Команда исследователей утверждает, что даже небольшие улучшения в возможностях AI могут подорвать влияние человека на такие крупные системы, как экономика, культура и национальные государства. Это отличается от обычно обсуждаемых сценариев, в которых системы AI внезапно берут всё под свой контроль.

По мнению исследователей, по мере того как системы искусственного интеллекта всё больше заменяют человеческий труд и когнитивные способности в этих областях, они ослабляют как явные механизмы контроля, такие как выборы и решения потребителей, так и неявное соответствие интересам людей, которое возникает в социальных системах, зависящих от участия человека. Проще говоря: когда эти системы меньше полагаются на человеческий вклад, люди теряют как прямые, так и косвенные способы влияния на них.

Исследователи говорят, что AI-системы могут также более агрессивно оптимизировать результаты, которые не соответствуют предпочтениям людей. Эти эффекты могут усиливать друг друга в разных областях: экономическая власть формирует культурные нарративы и политические решения, а культурные сдвиги меняют экономическое и политическое поведение.

Предполагается, что такая динамика может привести к фактически необратимой потере человеком влияния на важнейшие общественные системы, что приведёт к экзистенциальной катастрофе из-за постоянного ослабления позиций человечества. Люди потеряют контроль над жизненно важными системами и не смогут его восстановить.

Исследователи предлагают несколько подходов к устранению этих рисков:

• Разработка показателей для измерения ослабления позиций человека в бизнесе, культуре и политике.

• Создание мер по предотвращению чрезмерного влияния AI с помощью регулирования, налогообложения и культурных норм.

• Усиление влияния человека за счёт улучшения демократических процессов, повышения осведомлённости общественности о системах AI и делегатов AI, представляющих интересы человека.

• Проведение фундаментальных исследований по системному согласованию сложных социально-технических систем.

  Читайте так же:

  • Представлен открытый проект global-capslock для общей синхронизации состояния CAPS LOCK со всеми пользователями

Также подчёркивается необходимость междисциплинарных подходов и международной координации в качестве стимулов для внедрения AI, поскольку, по мнению авторов, будущее человечества зависит не только от предотвращения использования систем AI для достижения откровенно враждебных целей, но и от того, чтобы наши основные социальные системы по-прежнему в значительной степени руководствовались человеческими ценностями и предпочтениями. Это, по их мнению, требует более глубокого понимания того, что значит для людей сохранять реальное влияние во всё более автоматизированном мире.

Источник