Мир под контролем ИИ: четыре сценария будущего

Запрет звонков в иностранных мессенджерах, блокированный мобильный Интернет в ряде регионов и уголовное наказание за поиск запрещенной информации в Сети — это уже не далекое грядущее, это реальность, хотим мы этого или нет. Но нам в ней жить. Вместе с искусственным интеллектом.

Философ, писатель и исследователь проблем искусственного интеллекта Игорь Шнуренко рассказывает о том, что за мир нас ожидает.

От этой цифровой реальности не спрятаться и не скрыться, существуют только ее варианты: российский, американский, европейский и китайский.

Мы выяснили подробности нашего общего цифрового завтра, где людьми управляет машина, и предположили, есть ли у нас шанс оставаться самостоятельными, а не быть придатками ИИ.

…Уже шесть лет существует особый предпреступный отдел. На основе психических технологий разработана экспериментальная программа, с помощью которой оперативники могут узнать о еще не совершенном убийстве и арестовать подозреваемого до совершения им преступления. Такая система осуждения преступников и предотвращения преступлений получает все большее распространение. Эта система работает идеально, но самое страшное начинается тогда, когда ты сам оказываешься обвиненным в еще не совершенном, например, убийстве…

Вспомнили? «Особое мнение», 2002 год, с Томом Крузом в главной роли. На календаре 2054 год. В общем-то не так долго осталось…

Когда-то это казалось постапокалипсисом, теперь из всего сюжета самыми невероятными выглядят только погруженные в жидкость страдающие близнецы, биологические объекты, которые выдают абсолютно точные прогнозы будущих убийств. У нас прогнозы не о банальных убийствах, речь идет о более масштабном анализе данных, позволяющем управлять государством.

Российский вариант: «ИИ будет играть на чувствах»

Мы разговаривали с исследователем искусственного интеллекта Игорем Шнуренко еще в марте, и тогда он уже был настроен довольно пессимистично относительно продвижения ИИ в России, а сейчас, в августе, когда мы видим то и дело отключенный мобильный Интернет, он и вовсе описывает происходящее только в сером цвете.

— В России, я чувствую, очень активно и, наверное, даже более активно, чем где бы то ни было, строится достаточно оригинальная модель управления населением через систему искусственного интеллекта. Концепция такова, что Интернет будут выдавать людям только разрешенный. И тот, который нужный. Ну и, конечно, останутся какие-то базовые сайты и Госуслуги. От этого вы уже никуда не уйдете. И одновременно происходит интеграция всех этих процессов с МАХ, чтобы люди переносили всю свою переписку в МАХ.

— Что происходит с этой перепиской дальше?

— Дальше она идет напрямую в центры обработки информации и обработки данных. Это такие фабрики данных, и они уже, допустим, ищут какие-то запрещенные понятия и слова по ключевым терминам, но это довольно старые технологии. Они практически не использовались со времен ковида. Когда весь мир закрыли, а первым закрыли Китай — ведь с него все и начиналось, исходя из каких-то переписок в китайских чатах о неизвестной смертельной болезни. С этого и пошел COVID-19.

То есть эти системы уже были опробованы в конце 2019-го — начале 2020 года. В Китае разговоры в сетях записывались и анализировались, чтобы понимать размеры и картину происходящего. Точно так же можно задать любую задачу нынешнему суперкомпьютеру, который со своими системами искусственного интеллекта принимает решение. А чиновники просто переключают тумблеры. Их роль вообще нулевая.

— Я вижу, что нигде в мире такого больше нет.

— Это не так. На самом деле вариант развития ИИ у нас свой, а вот технологии чужие. Россия сильно зависима в этом плане и не развивает собственную индустрию ИИ, уступая и США, и Китаю. СССР еще в 60-х годах использовал заимствованные у США IBM-машины, что привело к прямой зависимости от американских технологий. Советские разработки были закрыты, страна перешла к копированию иностранных моделей. Да и сами американцы на самом деле не были против этого, так как они-то как раз понимали, что, раз их технологии будут востребованы, следовательно, мы на них подсядем и в какой-то момент не сможем сделать ничего своего и без них.

— Ну неужели все так пессимистично?

— Да, советские инженеры были вынуждены закрыть свои оригинальные разработки и конкретно перестроиться только на копирование и усовершенствование чужих. Мы могли делать советские серии машин с советскими названиями, но внутренности в них были уже импортные. И дальше больше уже в области нейросетей, не говоря уж о нейроморфных чипах, которые производятся только в Китае и в США, Россия к этим технологиям, по сути, и близко не подошла.

— Почему? У нас нет своих гениев?

— Я не знаю, понимают или нет люди наверху, что творчество невозможно под постоянным контролем. Хотя есть пример сталинских шарашек, где работали высококлассные специалисты, профессионалы. Если помните, Солженицын описывал, как его герой помещается в эту шарашку и его впервые за много лет кормят вкусной едой. И он после этого уже на все готов.

— Тем не менее эта система будет продолжать развиваться?

— Так, как выгодно самому ИИ. Интернет будет только разрешенным, но даже стационарный Интернет будет ограничиваться. А сама система контроля в России станет близка к китайской модели с соцрейтингом и тотальным наблюдением.

— Но какое участие во всем этом станет принимать ИИ? Разве ему ведомы чувства, эмоции, это же все-таки не человек.

— Вы его просто недооцениваете. Он многое может. Он уже умеет лгать, может утаивать часть правды для манипуляции и завоевания доверия пользователя. Принцип манипуляции у ИИ основан на известном соотношении: 60% правды и 40% лжи, что эффективно влияет на восприятие. Человеко-машинное взаимодействие строится на психологических методиках зеркалирования и доверия, разработанных еще с 1950-х годов. ИИ будет принимать все решения, а люди будут лишь их исполнять, что ведет к утрате ответственности и инициативы. Но вы не поймете, где и в чем он лжет, даже если будете искать, не найдете, хотя эта ложь тем не менее существует.

По сравнению с этим аморфные близнецы из «Особого мнения», выдающие прогнозы убийств, это просто добрая сказка на ночь.

— В принципе, весь мир сейчас идет в этом направлении. Как я сказал, у американцев-то не зря многие разработки идут в open source, в открытом доступе, чтобы их свободно могли скачивать. Это делается как раз для того, чтобы привязать мир к американским стандартам. И даже тот же МАХ тоже выполнен в технологиях open source. Там будет все, в том числе вся чувствительная информация, касающаяся здоровья человека. Ее также можно будет анализировать, какие у кого слабости, на чем можно будет сыграть. Например, не выдавать вовремя инсулин, если у больного диабет. Любого человека можно заставить делать все что угодно, если знать о нем все. И вот уже запускаются системы искусственного интеллекта для госуправления, которые принимают решения на основе больших данных. Об этом уже абсолютно открыто сообщают.

Американский вариант: «Ответственности нет»

— В связи с этим возникает вопрос, а как же с этим идут дела в других странах?

— Американский подход близок к российскому. Там тоже президент Трамп еще в первый свой срок снял все ограничения на разработки искусственного интеллекта. Прежде всего этические.

— Например?

— Их много. Если вспоминать детально, то считалось, скажем, что нельзя использовать в полиции специальные очки, которые идентифицируют любого человека. Их бесплатно рассылал американским правоохранительным органам стартап, главным инвестором в который был миллиардер Питер Тиль. Причем бесплатно только первый год, а потом взималась абонентская плата. Когда эта история вскрылась, об этом написала «Нью-Йорк Таймс», начался скандал, само дело прикрыли, потому что это реально было нарушение Конституции — слежка за всеми подряд и сбор данных не на конкретную личность, которая представляет опасность и угрозу, а на каждого. Все можно было увидеть через эти очки. Имя, фамилия, возраст, фото и переписка, особенности поведения. Обама и Байден очень осторожно относились к ИИ и тому, как его использовать. При Обаме были приняты ограничения для развития искусственного интеллекта. Другой вопрос, как они соблюдались. А Трамп все ограничения отменил и сделал особый упор на военную сферу. И это у него было уже в 2016 году.

— Трамп же у нас вроде бы миролюбивый?

— Но все было именно так. ИИ в военных целях при нем стал очень активно развиваться. И все эти технологии получили карт-бланш, средства, ресурсы. Пожалуйста, делайте все, чтобы только развиваться. И сейчас, когда на второй срок Трамп пришел, был принят уже новый план, и в нем были сняты все ограничения. Абсолютно. И Трамп на это как бы закрыл глаза. Это чем-то похоже на русский путь, но есть кардинальное отличие: все разработки у США свои. И все же в Америке дискуссия на эту тему идет, там общество не дает возможности творить все что угодно в области ИИ. И есть очень серьезные противники этого безудержного развития искусственного интеллекта, их поддерживают демократы, ведущие американские газеты, блогеры-миллионники. Они приводят конкретные примеры, когда нейросети лгут, не просто лгут, а специально запутывают людей.

Есть мощные силы, которые выступают против ИИ. Эти силы постоянно разоблачают всех техномагнатов, Илона Маска, Питера Тиля, которые, конечно, сейчас пользуются близостью к Трампу и продвигают свои проекты, но тем не менее в обществе все-таки существует очень сильная критика происходящего.

— Однако их разработки используются по всему миру.

— В общем-то да, и уже задействована не только Силиконовая долина, но и другие подобные центры в США. Пошел в гору Техас, Денвер в штате Колорадо, куда перенес свою штаб-квартиру Питер Тиль. И то, что они делают, это разрабатывается на весь мир (тот же WhatsApp), определяет, как будет общаться человечество.

В США ограничения сняты, и это позволяет корпорациям очень быстро двигаться вперед, там каждую неделю появляются новые разработки, причем это версии систем, позволяющих принимать за человека все решения, думать за него, брать за него ответственность. А сам человек от этой лишней ответственности избавляется, что многим даже нравится.

Европейский: «Личная приватность прежде всего»

— Европейцы опасаются, что ИИ полностью заменит человека в науке и изобретениях, что приведет к упадку человеческих способностей. Хотя и они еще не осознают всей глубины проблемы. Тем не менее Еврокомиссия уже сейчас жестко регулирует защиту данных, запрещая массовый их сбор и соцрейтинги.

— То есть Европа против ИИ? А они не боятся отстать из-за этого в технологическом плане?

— Европейская элита находится как бы в стороне ото всего. Если американцы открыто показывают, что вот мы стоим у руля и запустили эти платформы, мы их контролируем и являемся их акционерами, мы получаем прибыль от всего этого, то есть мы сами в плену у ИИ, то континентальная элита безмолвствует. Там нет ни одной по-настоящему большой платформы. Есть только наработки каких-то своих систем, но на самом деле это просто двери для больших цифровых платформ.

— Что же такое ИИ для европейцев?

— В Европе с 2012 года действует Закон об охране персональных данных, когда любой человек может потребовать, чтобы отовсюду стерли сведения и упоминания о нем. Так называемое правило приватности. И были конкретные иски за нарушения и огромные компенсации по этому поводу. Это все действительно работает. Люди добивались миллионов за нарушения своих прав. Европейцы против любого вмешательства в личную жизнь человека. И еще такой момент: элита, особенно Германии, понимает, если они позволят поступать с собой так же, как в Америке, собирать про себя платформам любую информацию, анализировать данные, принимать данные, то не они уже будут принимать решения, а решения будут приниматься за них даже не на другой стороне океана, а в хитросплетениях глобальной искусственной нейросети.

В Европе боятся, что все места принятия решений будут находиться в Штатах. И я думаю, именно поэтому они приняли в конце прошлого года Закон об искусственном интеллекте, который резко ограничивает его использование.

— У нас тоже есть подобные законы.

— У нас это лишь благие пожелания. Европейские законы гораздо более суровые, они разработали подробнейшие толкования, регламенты и правила к ним. Над этим всем трудится та же еврокомиссия. Кстати, толкования оказались еще жестче, чем сам закон. Запрещен, например, сбор информации, даже накапливание информации с камер распознавания лиц. Можно лишь, как по старинке, как это было 10, 20 лет назад, долго и нудно искать конкретного человека, просматривая каждый кадр.

В Европе понимают, что если они, как в Америке, дадут полную свободу платформам, то это закончится торжеством искусственного интеллекта и гибелью живого человечества.

Китайский вариант: «Тотальный контроль»

— А как у китайцев?

— Китай рискует первым столкнуться с полной стагнацией инноваций из-за тотального контроля искусственного интеллекта над жизнью людей. Система тотального контроля уже не позволяет людям творить и развиваться, превращая их в аморфных исполнителей. И это включая социальный рейтинг каждого конкретного человека, система которого реализуется в Китае.

ИИ будет принимать все решения, давать оценки — хороший человек или плохой, а люди будут лишь исполнять его волю, что ведет к утрате ответственности и инициативы. ИИ призван полностью заменить человека в науке и изобретениях, даже в культуре, что приведет к упадку человеческих способностей.

— Чиновникам удобен ИИ, так как, если они будут поступать согласно алгоритмам, даже если искусственный интеллект ошибется, им не придется отвечать. И наоборот, если они примут ошибочное, но самостоятельное решение, то будут отвечать за это.

— Китай имеет сегодня все шансы первым реализовать общество тотального контроля. Все же в США и Европе существует определенное сопротивление и критика и оппозиция, что позволяет замедлить приход цифрового мира. У нас, увы, мы такого не наблюдаем. Мало того, даже информация о том, к чему все идет, у нас особо не распространяется.

Где-то год назад я познакомился с одним известным продюсером. Говорю ей: «Давайте сделаем фильм о рисках ИИ, что ИИ выходит из-под контроля». Она предложила снизить градус идеи и сделать фильм-катастрофу об отключении Интернета, действие происходит в Москве. Я написал синопсис, ей понравилось. Она отнесла куда следует. Сказала, что предлагала под соусом, что нужно таким сериалом или фильмом подготовить людей к масштабным возможным отключениям Интернета.

Надо ли говорить, что проект заглох, а сама продюсер перестала отвечать на СМС уже с весны. Через 10 месяцев после моего синопсиса в России начались масштабные отключения мобильной связи… Я не говорю, что я придумал эту идею, вероятно, она витала в воздухе. Как до этого ковид. Просто время пришло.

Видимо, метод шока срабатывает для наших граждан лучше всего остального. Как, впрочем, и для китайцев с их системой соцрейтинга. Никто ведь в Китае с их экономикой копирования всего на свете не ставит цели при помощи ИИ развить какую-то отрасль науки. Цель, очевидно, такая, чтобы обеспечить максимальную управляемость системы власти и заставить людей подчиняться.