Разработчиков испугала мощность разрабатываемой модели искусственного интеллекта

В отчетах говорится, что новая модель Q* вызвала опасения по поводу безопасности, и работники высказали свои опасения совету директоров перед увольнением генерального директора Сэма Альтмана, пишет The Guardian.

Сообщается, что OpenAI до увольнения Сэма Альтмана работала над продвинутой системой, которая была настолько мощной, что вызвала опасения по поводу безопасности у сотрудников компании.

Модель искусственного интеллекта вызвала такую тревогу у некоторых исследователей OpenAI, что они написали совету директоров перед увольнением Альтмана, предупредив, что это может угрожать человечеству, сообщает Reuters.

Модель, получившая название Q* – и произносимая как “Q-Star” («Кью-Стар») – способна решать базовые математические задачи, с которыми она раньше не сталкивалась, согласно техническому новостному сайту the Information, который добавил, что темпы разработки системы встревожили некоторых исследователей безопасности. Способность решать математические задачи рассматривалась бы как значительное развитие искусственного интеллекта.

Сообщения последовали за днями хаоса в базирующейся в Сан-Франциско OpenAI, правление которой уволило Альтмана в прошлую пятницу, но затем восстановило его во вторник вечером после того, как почти все 750 сотрудников компании пригрозили уволиться, если его не вернут. Альтман также заручился поддержкой крупнейшего инвестора OpenAI, Microsoft.

Многие эксперты обеспокоены тем, что такие компании, как OpenAI, слишком быстро продвигаются к разработке искусственного общего интеллекта (AGI), термина, обозначающего систему, которая может выполнять широкий спектр задач на уровне человеческого интеллекта или выше человеческого, и которая теоретически может ускользать от контроля человека.

Эндрю Рогойски из Института ИИ, ориентированного на людей, при Университете Суррея сказал, что существование модели большого языка для решения математических задач (LLM) стало бы прорывом. Он отметил: “Присущая LLM способность заниматься математикой - это важный шаг вперед, позволяющий ИИ предлагать совершенно новый спектр аналитических возможностей”.

Выступая в четверг на прошлой неделе, за день до своего неожиданного увольнения, Альтман указал, что компания, стоящая за ChatGPT, совершила еще один прорыв.

Выступая на саммите Азиатско-Тихоокеанского экономического сотрудничества (АТЭС), он сказал: “Уже четыре раза за историю OpenAI, последний раз это было всего за последние пару недель, я присутствовал в зале, когда мы как бы отодвигали завесу невежества и мы продвигаемся вперед на пути открытий, и сделать это - профессиональная честь всей жизни”.

Как напоминает The Guardian, OpenAI была основана как некоммерческое предприятие с советом директоров, который управляет коммерческой дочерней компанией, управляемой Альтманом. Microsoft является крупнейшим инвестором в коммерческий бизнес. В рамках принципиального соглашения о возвращении Альтмана у OpenAI будет новый совет директоров под председательством Брета Тейлора, бывшего соруководителя софтверной компании Salesforce.

Разработчик ChatGPT заявляет, что он был создан с целью разработки “безопасного и полезного искусственного интеллекта общего назначения на благо человечества” и что коммерческая компания будет “юридически обязана выполнять миссию некоммерческой организации”.

Акцент на безопасности в некоммерческой организации привел к предположению, что Альтман был уволен за то, что поставил под угрозу основную миссию компании. Однако его кратковременный преемник на посту временного исполнительного директора Эммет Шир написал на этой неделе, что правление “не отстраняло Сэма от должности из-за каких-либо конкретных разногласий по вопросам безопасности”.