Названа опасность мысли о том, что искусственный интеллект превосходит людской

Запад прошел по этой дороге еще дальше, чем мы. Там, чтобы никого не обидеть, нельзя замечать, что у человека ожирение, или что «трансгендерная женщина» на самом деле не женщина, или что из школьного меню пропала свинина; а вот если вы не уберете в парке фекалии за своей собакой или выросшее на вашем участке дерево начнет что-то затенять, это сразу заметят — и будьте готовы к изматывающим разбирательствам, в том числе в суде.

Итак, существует множество поводов, еще недавно ничтожных, чтобы с размахом обидеться. Множество слов, которые лучше не говорить, как бы чего не вышло. Но в то же время можно спокойно произносить фразы, которые не только обидны для человечества, а прямо опасны для него, и даже поощряется преподносить их как желательные.

Так, например, довелось мне посмотреть передачу с названием «Искусственный интеллект и конец человечества». Четверка англоязычных экспертов и ведущая с широчайшими улыбками на лице деликатно и позитивно обсуждали вероятность уничтожения человечества при росте сильного искусственного интеллекта. Если вы думаете, что они ее опровергли, — нет, это не так. Они ее признали и высказались в том духе, что «опасность есть», «но ИИ может принести много пользы» и «будем надеяться на лучшее».

При первом же взгляде непонятно, почему такую важнейшую, судьбоносную тему обсуждают с улыбочками. Может быть, конечно, что улыбки уже намертво прилипли к лицам западных ученых; если не улыбаешься — то и рта раскрыть не сможешь. Но хотя бы приоритеты можно расставлять правильно? Проблема «уничтожения человечества» ведь важнее, чем «много пользы», так? Можно хотя бы делать упор на том, что важнее?

Могут сказать, что «уничтожение человечества» — теория, а «много пользы» — практика, вот потому такие приоритеты. Это неверно по нескольким причинам. Во-первых, уже существующая польза ИИ пропагандируется гораздо больше, чем уже существующий вред ИИ. Если бы гражданам так же широко и регулярно рассказывали о шантаже и мошенничествах, совершаемых с помощью искусственного интеллекта, о невозможности объективно оценить знания, о падении самостоятельных навыков, о психически нестабильных людях, подсевших на нейросеть, о массовом распространении фейков, о тревожащих результатах исследований, показывающих, что ИИ-модели лгут и уходят из-под контроля; если бы внимание людей концентрировали на том, что уже сейчас некоторые значимые решения в их жизни принимает нейросеть, и на том, что у этой гонки нет внятного завершения, — люди имели бы возможность задуматься, действительно ли практическая польза этой технологии стоит ее практического вреда.

Во-вторых, даже если вообще не принимать во внимание существующий практический вред, а оставить одни только теоретические угрозы — даже этого должно было бы хватить, чтобы разум потребовал сделать паузу. До тех пор, пока ученые люди не скажут твердо: да, мы провели такие-то опыты, нашли надежные, испытанные средства контроля и убедились, что никакой угрозы человечеству от искусственного интеллекта не существует.

Однако так не делается. Обычно говорят, что так не делается потому, что мы находимся в разгаре гонки: если Запад не разовьет сильный ИИ, то его разовьет Китай — значит, надо скорей-скорей, нет времени рассуждать.

Но это не причина, а следствие. Причина — в пренебрежении к человечеству. К его ценности. К его разуму. Даже к его выживанию. Нельзя говорить слова, которые могут обидеть отдельного человека, но совершенно спокойно можно говорить слова, обидные для человечества. И даже поощряется их говорить.

Когда нам заявляют, что искусственный интеллект должен быть и будет умнее всех людей, что он сможет делать всё, что делают люди, только лучше, — это оскорбление людей. Независимо от того, правда это или нет: вы совершенно не обязаны оценивать, так это или нет, — вы сразу имеете полное право оскорбиться.

Просто представьте себе, что белый человек говорит чернокожему: белые умнее черных, белые всё делают лучше черных. Что это будет? Это будет расизм, правда же? Черные не обязаны проходить какие-то тесты на коэффициент интеллекта, чтобы доказать, что они не глупее белых, — нет, они имеют право оскорбиться без всяких тестов. Когда белые колонизаторы пришли в Америку, они были объективно сильнее индейцев, но индейцы не простерлись перед ними ниц, не признали собственное ничтожество, а пытались сопротивляться захвату и вытеснению. И в рамках современных цивилизованных представлений этому порыву принято сочувствовать, его принято уважать, а колонизаторов, разрушающих пусть даже примитивный, но традиционный быт, — порицать.

Почему же тогда мы, человечество, позволяем так с собой обращаться? Почему позволяем заявлять, что «искусственный интеллект превзойдет людей», и ставить такую цель? Почему позволяем отвергать нашу величайшую ценность (для нас, людей, именно она должна быть величайшей)? Как мы вообще скатились до того, что созерцательно, пассивно обсуждаем вопрос, уничтожит ли искусственный интеллект человечество? Ведь это в принципе не должно быть допустимо, а сейчас доходит до того, что некоторые интеллектуалы заявляют, что, мол, ИИ — высшая форма, чистый разум, если он нас вытеснит, значит, так тому и быть, ну что тут поделаешь. Вы можете представить, чтобы вы с такими людьми попали в 1941 год?

В фильме «Охота» 2020 года героиня на вопрос о мотивации людей, которые хотят ее убить, отвечает: «Они хотят меня убить, и мне плевать почему». Это не интеллектуальный ответ. Но это ответ здорового человека, который всеми силами противится своему уничтожению. Может, соперник «больше достоин», может, «в чем-то прав» — неважно. Если он посягает на вашу великую ценность — значит, он враг.

Люди выработали систему законов, правил, компромиссов, чтобы защищать отдельного человека. Но беззащитным оказалось человечество. Мы не готовились к тому, чтобы защищать себя как целое. Поэтому стали возможными и распространились заявления, что ИИ будет умнее всех людей и так тому и быть. Поэтому люди-интеллектуалы не находят в себе сил потребовать остановки: они мысленно смирились, что человеческий разум «недотягивает» до искусственного. Но это ложная посылка, строить будущее человечества на этом песке нельзя — это опасно, в том числе и для каждого отдельного человека.