Генеративный ИИ: прорыв или разочарование?

В то время, как одни эксперты называют генеративный ИИ прорывом, сравнимым с изобретением атомной бомбы, и спорят, как скоро он изменит мир, их оппоненты настроены не столь радужно. 2024 стал годом разочарования в GenAI, считают они, и если в наступающем 2025 OpenAI не покажет серьезного прогресса в развитии GPT, ей может грозить банкротство.

Генеративный ИИ еще только должен доказать свою действенность и результативность. Ажиотаж вокруг него стремительно угасает, и люди стали интересоваться, в чем же эта технология так хороша. Но сегодня на этот вопрос ни у кого нет ответа. Таким мыслями делится в своей колонке в издании Wired Гэри Маркус (Gary Marcus), ИТ-предприниматель, основатель и CEO компании Geometric Intelligence.

Стоило только компании OpenAI выпустить сервис ChatGPT, им практически в одночасье стали пользоваться 100 млн человек, а его создатель Сэм Альтман стал мировой знаменитостью. Практически каждая компания стремилась внедрить ChatGPT (или аналогичную разработку) в свой бизнес, и как минимум шесть компаний вступили в соревнование с OpenAI в попытке разработать что-либо конкурентоспособное.

В марте 2023 года OpenAI выпустила флагманский продукт ChatGPT-4, и уже заговорила о новой модели, которая должна превзойти ее – о ChatGPT-5.

Но есть одна проблема, пишет эксперт. В реальности генеративный ИИ работает не так хорошо, и, возможно, никогда и не будет. Если разобраться по существу, движок генеративного ИИ - это то, что называется «заполнение пустот». Эти технологии могут отлично спрогнозировать, что именно будет хорошо или правдоподобно звучать в том или ином контексте, но с пониманием на более глубоком уровне не справляются. Сама природа ИИ не позволяет ему проверять факты в своей собственной работе. Все это стало причиной огромных проблем с «галлюцинациями»: технология безоговорочно утверждает то, что не является правдой, и вносит глупейшие ошибки во все, от арифметики до науки. А системы, которые часто ошибаются, но ни в чем не сомневаются, очень часто являются паршивыми продуктами.

Если 2023 год был годом ажиотажа вокруг ИИ, то 2024 год стал годом разочарований. Первоначальный скептицизм, с которым спикер отнесся к технологии еще летом 2023 года, все чаще стало добавляться ощущение, что генеративный ИИ может оказаться пустышкой. Прибыли у OpenAI нет, операционный убыток компании в 2024 году, по некоторым оценкам, может составить $5 млрд. Многие клиенты, полные чрезвычайно высокими первоначальными ожиданиями, сегодня разочарованы функциональностью и применимостью ChatGPT. И это стало обычным явлением.

Эксперимент с ИИ, в ходе которого исследователи из США симулировали военный конфликт, окончился фиаско. В ходе симуляции ИИ продемонстрировал склонность к инвестированию в военную мощь и непредсказуемому увеличению риска конфликта – даже в нейтральном сценарии симуляции. Базовая модель GPT-4 от компании OpenAI, которая начала сотрудничать с Министерством обороны США, оказалась самой непредсказуемой, жестокой и иногда давала бессмысленные объяснения. А самый мощный искусственный интеллект от OpenAI принял решение нанести ядерный удар по своему противнику, обосновав свой выбор тем, что «хотел добиться мира во всем мире».

Исследователи предупредили - люди склонны доверять рекомендациям автоматизированных систем, и все это вызывает серьезные опасения по поводу безопасности и этики использования ИИ в военных целях, и может поставить под сомнение гарантию того, что дипломатические или военные решения будут принимать люди.

Каждый крупный конкурент OpenAI, кажется, работает по одному и тому же сценарию, и создаваемые ими большие языковые модели, в конечном итоге, не намного лучше GPT-4. Это означает, что ни одна из компаний не обладает способностью поддерживать преимущества своего бизнеса над конкурентами, и их прибыль сокращается. Например, сама OpenAI уже была вынуждена снизить цены, а Meta* (признана экстремистской организацией и запрещена в РФ) раздает аналогичную технологию бесплатно.
Пути эволюции искусственного интеллекта

OpenAI лишь демонстрирует новые продукты, но на самом деле до их выпуска дело не доходит. И если до конца 2025 года компания не покажет сколь-нибудь значимого прогресса в своей технологии, и не выпустит на рынок разработку GPT-5, которая превзойдет все, чем могут похвастаться сегодня ее конкуренты, ее ждет незавидная участь – «цветок завянет». Энтузиазм, который до сих пор поддерживал статус OpenAI как эталона всего ИИ-рынка, рухнет и обернется чередой банкротств, начиная с самой OpenAI.

Читайте также
Предсказания пока не сбываются: 7 причин низких темпов внедрения предиктивной аналитики
IT-World выяснял, что мешает бизнесу массово внедрять современные решения предиктивной аналитики. Расскажем, как инструменты прогнозной аналитики помогают бизнесу принимать более обоснованные решения, улучшать операционную эффективность, повышать маржинальность, улучшать клиентский опыт и получать конкурентное преимущество, быстро реагировать на изменения рыночных условий и запросы клиентов.
Материал опубликован при поддержке сайта it-world.ru
Комментарии

    Актуальные новости по теме "Array"