«Крестный отец ИИ» оценил вероятность уничтожения технологией человечества в ближайшие 30 лет

Британско-канадский ученый-компьютерщик, которого часто называют “крестным отцом” искусственного интеллекта, сократил вероятность того, что ИИ уничтожит человечество в течение следующих трех десятилетий, предупредив, что темпы изменений в технологии “намного быстрее”, чем ожидалось, пишет The Guardian.

Профессор Джеффри Хинтон, который в этом году был удостоен Нобелевской премии по физике за свою работу в области искусственного интеллекта, сказал, что существует “от 10% до 20%” вероятности того, что искусственный интеллект приведет к вымиранию человечества в течение следующих трех десятилетий.

Ранее Хинтон говорил, что вероятность того, что эта технология приведет к катастрофическим последствиям для человечества, составляет 10%.

Когда его спросили в программе Today на BBC Radio 4, изменил ли он свой анализ потенциального апокалипсиса искусственного интеллекта и вероятности того, что это произойдет, он сказал: “На самом деле нет, от 10% до 20%”.

Оценка Хинтона побудила приглашенного редактора Today, бывшего канцлера Саджида Джавида, сказать: “Вы идете в гору”, на что Хинтон ответил: “Во всяком случае, так оно и есть. Видите ли, нам никогда раньше не приходилось иметь дело с более умными существами, чем мы сами”.

Ученый добавил: “А сколько вы знаете примеров, когда более разумное существо управляется менее разумным существом? Примеров очень мало. Вот мать и ребенок. Эволюция приложила немало усилий, чтобы позволить ребенку контролировать мать, но это, пожалуй, единственный известный мне пример”.

Уроженец Лондона Хинтон, почетный профессор Университета Торонто, сказал, что люди будут похожи на малышей по сравнению с интеллектом мощных систем искусственного интеллекта.

“Мне нравится думать об этом так: представьте себя и трехлетнего ребенка. Мы будем трехлетними детьми”, - сказал он.

Искусственный интеллект можно в общих чертах определить как компьютерные системы, выполняющие задачи, для решения которых обычно требуется человеческий интеллект, поясняет The Guardian.

В прошлом году Хинтон попал в заголовки газет после того, как уволился со своей работы в Google, чтобы более открыто говорить о рисках, связанных с неограниченным развитием искусственного интеллекта, ссылаясь на опасения, что “злоумышленники” будут использовать эту технологию во вред другим. Основная проблема активистов кампании за безопасность ИИ заключается в том, что создание искусственного общего интеллекта или систем, которые умнее людей, может привести к тому, что технология будет представлять угрозу существованию, поскольку выйдет из-под контроля человека.

Размышляя о том, чего, по его мнению, достигло развитие искусственного интеллекта, когда он только начинал свою работу над этой технологией, Хинтон сказал: “Я не думал, что это произойдет там, где мы находимся сейчас. Я думал, что в какой-то момент в будущем мы придем к этому”.

«Крестный отец ИИ» добавил: “Поскольку ситуация, в которой мы сейчас находимся, такова, что большинство экспертов в этой области считают, что когда-нибудь, возможно, в течение следующих 20 лет, мы создадим ИИ, которые будут умнее людей. И это очень пугающая мысль”.

Хинтон сказал, что темпы разработки были “очень, очень быстрыми, намного быстрее, чем я ожидал”, и призвал к государственному регулированию технологии.

“Меня беспокоит то, что невидимая рука не собирается обеспечивать нашу безопасность. Так что, если крупные компании будут стремиться к получению прибыли, этого будет недостаточно для обеспечения безопасности их разработки”, - сказал он. “Единственное, что может заставить эти крупные компании проводить больше исследований в области безопасности, - это государственное регулирование”.

Хинтон – один из трех “крестных отцов искусственного интеллекта”, которые получили премию ACM AM Turing award – эквивалент Нобелевской премии в области компьютерных наук - за свою работу. Однако один из этой троицы, Ян Лекун, преуменьшил угрозу существованию и сказал, что ИИ “действительно может спасти человечество от вымирания”.