Угроза для всех. Как уроженец Смоленщины влияет на будущее человечества

Научную фантастику принято относить к "несерьезной" литературе. Однако именно книги о межпланетных путешествиях и роботах послужили идеологической основой для тех, кто прямо сейчас определяет облик будущего. Сегодня — юбилей писателя, который сильнее других повлиял на разработчиков современных технологий, в том числе искусственного интеллекта.

Эмигрант

Дата 2 января 1920-го — условная. Когда родился Исаак Юдович Азимов, точно не знал даже он сам. Дело было в деревне Петровичи Смоленской губернии. Охваченная хаосом Россия запуталась в смене властей и календарей. Новорожденных толком не регистрировали. Дату писатель, уже взрослым, назначил себе сам.

Его родителями были русские евреи. Фамилия — от слова "озимые". У Юда Ароновича и Анны-Рахиль Исааковны была мельница. В 1923-м вслед за многими земляками они перебрались за океан. Поселились в Бруклине, открыли кондитерскую.

В семье говорили на идише. Мальчик, разумеется, освоил английский. Русского же не знал — мать и отец использовали язык родной страны для "секретных бесед", которые не должен был слышать ребенок.

Айзек выучился на химика в нью-йоркском Колумбийском университете. Работал по специальности на армейской судоверфи в Филадельфии (где по совпадению трудился и другой гуру сай-фая Роберт Хайнлайн). В первые послевоенные годы служил в армии. Там измерили интеллект смолянина — IQ оказался чрезвычайно высоким: 160. Демобилизовавшись, продолжил научную карьеру — получил степень профессора биохимии. Вплоть до конца 1950-х преподавал в вузе, пока доходы от книг не превысили зарплату.

Классическая научная фантастика — это не "Звездные войны", чьи создатели наплевали на все известные законы физики; такая литература должна быть убедительна в том числе с научной точки зрения. Впечатленные познаниями Азимова, реальные разработчики передовых систем пытались привлекать его к участию в проектах — так, писателя звали в DARPA, секретную структуру Пентагона. Тот отказался: опасался, что это помешает творчеству.

Вот еще интересные факты: боялся летать на самолетах и обожал морские круизы; был клаустрофилом — то есть любил замкнутые пространства и всячески стремился в них оказаться; вел трезвый образ жизни; в последние годы носил пышные бакенбарды. Умер в 1992-м — как выяснилось позже, за девять лет до этого был заражен ВИЧ во время переливания крови.

Писательское мастерство проявил в раннем подростковом возрасте. Публиковался с конца 1930-х. Спустя 20 лет стал звездой первой величины. Самым значительным трудом считается цикл из семи романов "Основание" — о событиях в Галактической империи, государстве, которое охватывает весь Млечный Путь.

Не менее значим и сборник рассказов "Я, робот". В одном из них — "Хоровод" (1941 год) — писатель впервые формулирует Три закона роботехники (именно Азимов изобрел это слово):

Законы стали своего рода заповедями для всех любителей научной фантастики. На них выросли не только многочисленные ценители и производители подобной литературы (разного качества), но и нынешние звезды высокотехнологичного бизнеса.

Судьба человека

Именно в книгах Азимова и Хайнлайна находил утешение после столкновения с жестокой реальностью южноафриканский подросток Илон Маск, который из-за расстройства аутистического спектра имел серьезные проблемы со сверстниками. Там же будущий глава SpaceX искал выход и из экзистенциального кризиса: любимая наука — физика — убедительно объясняла, как устроена Вселенная, а вот на вопросы "почему" и "зачем" ответить не могла. Обращение к трудам философов вроде Ницше лишь усугубило проблему. Тогда как легкое чтиво о выдуманных мирах настроило на позитивный лад, помогло подобрать правильную "жизненную интонацию" и определиться с целями. Именно Азимов и компания вдохновили Маска на то, чтобы устремиться к Марсу (а по пути — в Белый дом).

Тот же набор авторов определил судьбу и основателя Amazon Джеффа Безоса, и создателей Microsoft Билла Гейтса и Пола Аллена, и других звезд биг-теха, которые во многом из-за детских увлечений решили заняться инновационным бизнесом.

Сегодня наследие Азимова особенно актуально в связи с развитием систем искусственного интеллекта. Крупнейшие мировые компании вступили в "гонку вооружений" в этом направлении — тратят миллиарды на вычислительные мощности и питающие их источники энергии (в том числе атомные реакторы). По некоторым прогнозам, не за горами появление так называемого общего ИИ — то есть искусственного разума, не уступающего человеческому. И от того, будет ли такая система соблюдать азимовские "заповеди", зависит в буквальном смысле судьба вида Homo sapiens.

Разработчики ИИ разделились на два лагеря в зависимости от отношения к Трем законам. Известен спор между Маском и сооснователем Google Ларри Пейджем. Первый называет бесконтрольный цифровой разум "фундаментальной угрозой" для человечества, второй — просто очередным этапом эволюции, который придет нам на смену. По мнению Пейджа, в этом не будет ничего плохого. И тот и другой разрабатывают собственные, конкурирующие системы ИИ.

Маск подчеркивает, что его беспилотные автомобили Tesla, андроиды Optimus и чат-бот Grok созданы для помощи людям. В Google вроде бы тоже делают полезные вещи. Но, что характерно, их языковая модель Gemini недавно пожелала пользователю "умереть", назвав человечество "тратой времени и ресурсов" и "пятном на Вселенной". Вроде бы из-за сбоя. Но это не точно.

Поправки в законы

Надо отметить, что Три закона — это прежде всего литературный конструкт. В нем специально заложены противоречия, на которых и построены произведения писателя — начиная с "Хоровода". Перенести законы в реальную жизнь практически невозможно.

Проблема хотя бы в том, что они написаны на человеческом языке. Например, как корректно объяснить роботу, что такое "вред"? А если ошибочно трактовать понятие "человек", то искусственный разум может отнести к этой категории не всех людей, а лишь часть — и страшно представить, что в таком случае будет с остальными.

Тем не менее на основе Трех законов уже сегодня предпринимаются попытки разработать протоколы безопасности. Так, команда робототехники DeepMind в январе 2024-го опубликовала так называемую Конституцию роботов, которой будут руководствоваться механические домашние помощники. Правда, оригинальный текст фантаста пришлось скорректировать — так, оттуда убрали часть про "вред через бездействие", поскольку функционал машин пока ограничен.

Тем временем множество роботов уже давно нарушают как первый, так и третий законы Азимова: убивают людей и иногда себя (дроны-камикадзе). Не всегда такие аппараты полностью управляются людьми.

Роботы-убийцы: хорошо или плохо?

Уже сегодня существуют нейросети военного назначения, способные определять характер цели и самостоятельно принимать решение о нанесении ударов. На такие технологии, в частности, делают ставку новые американские оборонные компании, созданные выходцами из Силиконовой долины (Palantir, Anduril).

Часть разработчиков считает, что наделение ИИ правом распоряжаться жизнью людей — это "ящик Пандоры, который невозможно будет закрыть". Об этом заявили в обращении к ООН 116 специалистов в области нейросетей, в том числе Маск и основатель DeepMind Мустафа Сулейман.

Однако есть мнение, что роботы-убийцы, напротив, сделают войны гуманнее: ведь механизм никогда не руководствуется страхом или ненавистью. "Он получит доступ к информации и данным, которые ни один солдат-человек не смог бы обработать так быстро, что делает менее вероятной ошибку в пылу битвы. Он никогда не будет намеренно убивать мирных жителей в отместку за смерть товарища. И он сможет следить за солдатами, чтобы те не совершали злодеяния", — говорил ранее профессор Рональд Аркин из Технологического института Джорджии, один из разработчиков боевых роботов.

На самом деле Три закона в какой-то момент перестали удовлетворять и их создателя, и Азимов придумал четвертый — вернее, нулевой: "Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред".

Это значит, что нанесение урона отдельному индивиду все-таки допустимо, если это позволит спасти большинство. По сути, робота ставят перед "проблемой вагонетки". Уже сегодня ее приходится решать вполне себе мирным системам ИИ. Так, недавно машина Tesla S, управляемая, как утверждается, автопилотом, сделала непростой выбор. Прямо перед ней на проезжую часть упал пешеход. Робот на колесах моментально вырулил на встречку, где допустил столкновение с другой легковушкой. Таким образом была спасена одна жизнь, но подверглись угрозе еще несколько.

Сможет ли робот принять правильное решение, когда на кону будет судьба не участников мелкого ДТП, а всего человечества? Ответа не знает никто.