Андрей Карпаты занялся вайб-программированием

«Есть новый вид программирования, который я называю вайб‑программированием (vibe coding), где вы полностью отдаётесь вибрациям, принимаете экспоненты и забываете, что код вообще существует. Это возможно, потому что большие языковые модели (LLM, например, Cursor Composer w Sonnet) становятся слишком хороши. Также я просто общаюсь с Composer с SuperWhisper, поэтому я почти не касаюсь клавиатуры. Я прошу о самых глупых вещах, таких как „уменьшить отступ на боковой панели вдвое“, потому что мне слишком лениво, чтобы найти его. Я всегда „Принимаю всё“ (Accept All), я больше не читаю diffs. Когда я получаю сообщения об ошибках, я просто копирую и вставляю их без комментариев, обычно это исправляет ситуацию. Код выходит за рамки моего обычного понимания, мне приходится действительно читать его некоторое время. Иногда LLM не могут исправить ошибку, поэтому я просто обхожу её или прошу вносить случайные изменения, пока она не исчезнет. Это не так уж плохо для одноразовых проектов на выходные, но все равно довольно забавно. Я создаю проект или веб‑приложение, но это не совсем программирование — я просто вижу что‑то, говорю что‑то, запускаю что‑то и копирую, вставляю что‑то, и это в основном работает»,

— рассказал Карпаты.

По мнению Карпаты, количество помощи от LLM, которую можно получить, явно представляет собой своего рода ползунок. «Слева у вас есть программирование, которое существовало ~3 года назад. Справа у вас есть вайб‑программирование, которое ещё не достигло своей окончательной формы. Я всё ещё делаю слишком много. Последний примерно час я создал собственное приложение для чтения LLM, поэтому, пока я читаю Wealth of Nations, я могу задавать вопросы по любому абзацу. Когда вы нажимаете на абзац и „Спросить“, он вызывает LLM, создаёт контекстное окно того, что это такое, копирует и вставляет полную главу, абзац и вопрос. Работает отлично», — пояснил Карпаты.

«Ранее за примерно час вайб‑программирования, я создал игру „Морской бой“, подключённую так, что вы видите, как два LLM (любые две модели, которые вы выберете) сражаются друг с другом в реальном времени. У меня пока нет супер‑сильной статистики по этому поводу, но я считаю, что 4o побеждает 4o‑mini, лол», — подытожил Карпаты.

В рамках своей деятельности Карпаты активно занимается записью обучающих видеороликов на YouTube по созданию нейросетей, с пошаговыми инструкциями и выкладывает исходные коды на GitHub по различным проектам, связанным с машинным обучением и развитием нейросетей, включая проект nanoGPT для обучения/настройки GPT среднего размера.

В феврале 2024 года Карпаты выпустил лекцию на Youtube под названием Let's build the GPT Tokenizer. Это двухчасовая понятная и доступная лекция о токенах и токенизации в ChatGPT и других нейросетях. В видео Карпаты буквально на пальцах показывает, как именно нейросеть GPT читает текст, как дробит его на единицы и что в нём выделяет. Учебный материал поможет начинающим пользователям углубиться в изучение нейросетей, а также лучше понимать их устройство. Сопроводительный материал к этой лекции с подробными комментариями к используемому коду Карпаты выложил на GitHub.