Инвесторы делают большие ставки на новые стартапы в сфере сверхразумного AI

Их теория предполагает, что как только система освоит автономное программирование, за ней естественным образом последует прогресс во всех других компьютерных задачах. Компания объединяет обучение с подкреплением с большими языковыми моделями, работая над тем, чтобы дать LLM тот же уровень автономии, который AlphaGo продемонстрировал в игре Го.

Стартап привносит значительный опыт в эту задачу. За последнее десятилетие члены команды помогли разработать некоторые из самых передовых систем AI, включая AlphaGo, AlphaZero и GPT-4.

Reflection AI присоединяется к Safe Superintelligence (SSI), основанной бывшим главным исследователем OpenAI Ильей Суцкевером, в целях прямого поиска сверхразума. Сообщается, что SSI ведет переговоры о финансировании, которое оценит компанию в размере до 30 миллиардов долларов, несмотря на отсутствие краткосрочных перспектив доходов.

Bloomberg сообщает, что Reflection AI уже получила $130 млн финансирования при оценке в $555 млн. Среди инвесторов — Рид Хоффман, генеральный директор Scale AI Александр Ванг, SV Angel и венчурное подразделение Nvidia.

Обе компании используют необычный подход, сосредоточившись непосредственно на суперинтеллекте, а не на разработке коммерческих продуктов в первую очередь. Эта стратегия, по-видимому, соответствует видению Суцкевера — он покинул OpenAI в мае 2024 года, как сообщается, из-за растущего внимания компании к коммерческим интересам.

Тем временем OpenAI изменила свои публичные сообщения. Теперь компания меньше говорит о сверхинтеллекте и начала дистанцироваться от искусственного интеллекта общего назначения (AGI). Хотя AGI остается заявленной целью OpenAI, теперь компания описывает его как постепенную эволюцию, а не как конкретную веху, которую необходимо достичь.

Этот сдвиг отражает более широкую тенденцию отрасли. Anthropic отошла от термина AGI в пользу «мощного ИИ». Обе компании сосредоточены на том, что в отрасли называют «моделями рассуждений», последней парадигме масштабирования, которая также в значительной степени опирается на обучение с подкреплением. Этот подход показал особую перспективность в математике и кодировании, где четкие правильные и неправильные ответы делают обучение с подкреплением особенно эффективным.

Business Insider сообщает, что Thinking Machines Lab, новое предприятие бывшего технического директора OpenAI Миры Мурати, ведет переговоры о привлечении $1 млрд при оценке в $9 млрд. Потенциальная сделка подчеркивает растущую тенденцию в финансировании AI: стартапы на ранних стадиях, особенно основанные выпускниками OpenAI, все чаще выходят напрямую на территорию единорогов.

В отличие от Reflection AI и SSI, Thinking Machines Lab избегает обсуждения суперинтеллекта или AGI в своем объявлении. Вместо этого компания делает акцент на научном сотрудничестве, сотрудничестве человека и AI, адаптивных системах AI и эмпирическом, итеративном подходе к безопасности AI. Компания планирует публиковать технические записи в блогах, статьи и код для улучшения понимания AI общественностью.

Источник