Генеративный ИИ: прорыв или разочарование?
В то время, как одни эксперты называют генеративный ИИ прорывом, сравнимым с изобретением атомной бомбы, и спорят, как скоро он изменит мир, их оппоненты настроены не столь радужно. 2024 стал годом разочарования в GenAI, считают они, и если в наступающем 2025 OpenAI не покажет серьезного прогресса в развитии GPT, ей может грозить банкротство.
Генеративный ИИ еще только должен доказать свою действенность и результативность. Ажиотаж вокруг него стремительно угасает, и люди стали интересоваться, в чем же эта технология так хороша. Но сегодня на этот вопрос ни у кого нет ответа. Таким мыслями делится в своей колонке в издании Wired Гэри Маркус (Gary Marcus), ИТ-предприниматель, основатель и CEO компании Geometric Intelligence.
Стоило только компании OpenAI выпустить сервис ChatGPT, им практически в одночасье стали пользоваться 100 млн человек, а его создатель Сэм Альтман стал мировой знаменитостью. Практически каждая компания стремилась внедрить ChatGPT (или аналогичную разработку) в свой бизнес, и как минимум шесть компаний вступили в соревнование с OpenAI в попытке разработать что-либо конкурентоспособное.
В марте 2023 года OpenAI выпустила флагманский продукт ChatGPT-4, и уже заговорила о новой модели, которая должна превзойти ее – о ChatGPT-5.
Но есть одна проблема, пишет эксперт. В реальности генеративный ИИ работает не так хорошо, и, возможно, никогда и не будет. Если разобраться по существу, движок генеративного ИИ - это то, что называется «заполнение пустот». Эти технологии могут отлично спрогнозировать, что именно будет хорошо или правдоподобно звучать в том или ином контексте, но с пониманием на более глубоком уровне не справляются. Сама природа ИИ не позволяет ему проверять факты в своей собственной работе. Все это стало причиной огромных проблем с «галлюцинациями»: технология безоговорочно утверждает то, что не является правдой, и вносит глупейшие ошибки во все, от арифметики до науки. А системы, которые часто ошибаются, но ни в чем не сомневаются, очень часто являются паршивыми продуктами.
Если 2023 год был годом ажиотажа вокруг ИИ, то 2024 год стал годом разочарований. Первоначальный скептицизм, с которым спикер отнесся к технологии еще летом 2023 года, все чаще стало добавляться ощущение, что генеративный ИИ может оказаться пустышкой. Прибыли у OpenAI нет, операционный убыток компании в 2024 году, по некоторым оценкам, может составить $5 млрд. Многие клиенты, полные чрезвычайно высокими первоначальными ожиданиями, сегодня разочарованы функциональностью и применимостью ChatGPT. И это стало обычным явлением.
Эксперимент с ИИ, в ходе которого исследователи из США симулировали военный конфликт, окончился фиаско. В ходе симуляции ИИ продемонстрировал склонность к инвестированию в военную мощь и непредсказуемому увеличению риска конфликта – даже в нейтральном сценарии симуляции. Базовая модель GPT-4 от компании OpenAI, которая начала сотрудничать с Министерством обороны США, оказалась самой непредсказуемой, жестокой и иногда давала бессмысленные объяснения. А самый мощный искусственный интеллект от OpenAI принял решение нанести ядерный удар по своему противнику, обосновав свой выбор тем, что «хотел добиться мира во всем мире».
Исследователи предупредили - люди склонны доверять рекомендациям автоматизированных систем, и все это вызывает серьезные опасения по поводу безопасности и этики использования ИИ в военных целях, и может поставить под сомнение гарантию того, что дипломатические или военные решения будут принимать люди.
OpenAI лишь демонстрирует новые продукты, но на самом деле до их выпуска дело не доходит. И если до конца 2025 года компания не покажет сколь-нибудь значимого прогресса в своей технологии, и не выпустит на рынок разработку GPT-5, которая превзойдет все, чем могут похвастаться сегодня ее конкуренты, ее ждет незавидная участь – «цветок завянет». Энтузиазм, который до сих пор поддерживал статус OpenAI как эталона всего ИИ-рынка, рухнет и обернется чередой банкротств, начиная с самой OpenAI.
Написать комментарий