OpenAI и концепция AGI: планы генерального директора Сэма Альтмана

«Историческое влияние технологического прогресса говорит о том, что большинство показателей, которые нас волнуют (состояние здоровья, экономическое процветание и т. д.), в среднем и в долгосрочной перспективе становятся лучше, но повышение уровня равенства, по-видимому, не зависит от технологий, и для решения этой проблемы могут потребоваться новые идеи, — написал Альтман. — В частности, похоже, что баланс сил между капиталом и рабочей силой может легко нарушиться, и это может потребовать раннего вмешательства».

Способы решения этой проблемы, например, концепция «вычислительного бюджета» Альтмана, могут показаться более простыми в теории, чем на практике. Уже сейчас AI влияет на рынок труда, что приводит к сокращению рабочих мест и урезанию штатов. Эксперты предупреждают, что массовая безработица может стать возможным результатом развития технологий AI, если не будут приняты правильные меры со стороны правительства и не будут реализованы программы переподготовки и повышения квалификации.

Уже не в первый раз Альтман утверждает, что искусственный общий интеллект (AGI), который он определяет как «систему AI, способную решать всё более сложные задачи на уровне человека во многих областях», уже близок. В какой бы форме он ни появился, этот AGI не будет идеальным, предупреждает Альтман, в том смысле, что он может «потребовать большого количества человеческого контроля и управления».

«Системы AGI не будут генерировать самые смелые новые идеи, — писал Альтман, — и в чём-то они будут хороши, но в чём-то — на удивление плохи».

Но реальная ценность AGI будет заключаться в использовании этих систем в массовом масштабе, утверждает Альтман. Как и генеральный директор конкурирующей с OpenAI компании Anthropic Дарио Амодей, Альтман представляет себе тысячи или даже миллионы сверхмощных систем AI, выполняющих задачи «во всех областях знаний».

Можно предположить, что реализация этой концепции потребует больших затрат. Действительно, Альтман заметил, что «вы можете тратить любые суммы денег и получать постоянный и предсказуемый прирост» в производительности AI. Возможно, именно поэтому OpenAI, по имеющимся данным, ведёт переговоры о привлечении до 40 миллиардов долларов в рамках раунда финансирования и пообещала потратить до 500 миллиардов долларов с партнёрами на создание огромной сети передачи данных.

Однако Альтман также утверждает, что стоимость использования «определённого уровня AI» снижается примерно в 10 раз каждые 12 месяцев. Другими словами, развитие технологий AI не станет дешевле, но пользователи получат доступ к более совершенным системам.

Мощные и недорогие модели искусственного интеллекта от китайского стартапа DeepSeek в области искусственного интеллекта и других, похоже, подтверждают эту идею. Есть основания предполагать, что затраты на обучение и разработку также снижаются, но и Альтман, и Амодей утверждают, что для достижения AI уровня AGI — и выше — потребуются огромные инвестиции.

Что касается того, как OpenAI планирует выпускать системы уровня AGI (при условии, что компания действительно сможет их создать), Альтман сказал, что компания, скорее всего, примет «несколько важных решений и введёт ограничения, связанные с безопасностью AGI». OpenAI однажды пообещала, что прекратит конкурировать и начнёт помогать любому «ориентированному на ценности» и «заботящемуся о безопасности» проекту, который приблизится к созданию AGI, прежде чем это сделает сама компания, из соображений безопасности.

Конечно, в то время OpenAI намеревалась оставаться некоммерческой организацией. Компания находится в процессе преобразования своей корпоративной структуры в более традиционную, ориентированную на получение прибыли организацию. OpenAI, по имеющимся данным, планирует к 2029 году достичь выручки в 100 миллиардов долларов, что равно текущим годовым продажам Target и Nestle.

В таком случае, Альтман добавил, что цель OpenAI по мере создания более мощного AI будет заключаться в том, чтобы «больше ориентироваться на расширение возможностей человека», предотвращая при этом «использование AI авторитарными правительствами для контроля над населением с помощью массовой слежки и потери автономии». Недавно Альтман сказал, что, по его мнению, OpenAI оказалась не на той стороне истории, когда дело дошло до открытого доступа к технологиям. Хотя в прошлом OpenAI предоставляла доступ к технологиям, компания в целом предпочитала проприетарный подход к разработке с закрытым исходным кодом.

«Искусственный интеллект проникнет во все сферы экономики и общества; мы будем ожидать, что всё будет умным, — сказал Альтман. — Многие из нас ожидают, что людям нужно будет предоставить больше контроля над технологиями, чем мы имели исторически, в том числе больше возможностей для открытого исходного кода, и признать, что существует баланс между безопасностью и расширением возможностей для отдельных людей, который потребует компромиссов».

Пост Альтмана в блоге опубликован в преддверии саммита AI Action Summit, который пройдёт на этой неделе в Париже и уже побудил других известных технологических специалистов изложить свои собственные представления о будущем AI.

В примечании Альтман добавил, что OpenAI на самом деле не планирует в ближайшее время прекращать свои отношения с близким партнером и инвестором Microsoft, используя термин AGI. У Microsoft и OpenAI, как сообщается, было договорное определение AGI — систем искусственного интеллекта, которые могут приносить прибыль в размере 100 миллиардов долларов, — которое после выполнения позволило бы OpenAI договориться о более выгодных условиях инвестирования. Однако Альтман сказал, что OpenAI «полностью ожидает сотрудничества с Microsoft в долгосрочной перспективе».

Источник