Шесть сдвигов в LLM за 2025 год — итоги от Андрея Карпати

Андрей Карпати, один из основателей OpenAI и бывший директор по ИИ в Tesla, опубликовал обзор ^[1] года в мире больших языковых моделей. По его словам, 2025-й оказался годом неожиданных концептуальных сдвигов — не столько в размерах моделей, сколько в понимании того, что они собой представляют и как с ними работать.

Главным техническим событием года Карпати называет RLVR — Reinforcement Learning from Verifiable Rewards. К привычному пайплайну из претрейна, SFT и RLHF добавился новый этап: модели тренируют на задачах с автоматически проверяемыми ответами — математике ^[2] и коде. В процессе они сами “открывают” стратегии рассуждения, которые было бы сложно задать вручную. В отличие от тонких файнтюнов, RLVR позволяет долгую оптимизацию — и именно это, а не рост параметров, определило прогресс 2025 года.

Второй сдвиг — концептуальный. Карпати настаивает: LLM — это не “растущие организмы”, а скорее “призраки”, которых мы вызываем. Их интеллект ^[3] принципиально иной и “рваный”: модель одновременно гениальный эрудит и школьник, которого легко обмануть джейлбрейком. Отсюда — потеря доверия к бенчмаркам: разработчики ИИ научились оптимизироваться под тестовые задачи, не приближаясь при этом к AGI.

Cursor стал символом нового слоя приложений поверх LLM. Карпати отмечает, что появился целый класс продуктов формата “Cursor для X”: они занимаются контекст-инжинирингом, оркестрируют множество вызовов модели, предлагают специализированный интерфейс и «слайдер автономности”. Вопрос в том, насколько “толстым” будет этот слой приложений и сколько выручки останется разработчикам ИИ.

Claude Code, по мнению Карпати, показал, как должен выглядеть LLM-агент: он работает локально, с данными и контекстом пользователя, в формате минималистичного интерфейса в командной строке. Карпати считает, что OpenAI ошиблись, сфокусировавшись на облачных контейнерах вместо localhost. Новая парадигма взаимодействия: ИИ — не сайт, куда ты заходишь, а “дух”, живущий в твоем компьютере.

Термин vibe coding Карпати придумал случайно — в твите — но он стал явлением года. Программирование через человеческий язык, без погружения в код, расширяет возможности и новичков, и профессионалов. Код становится “бесплатным”, одноразовым, эфемерным — можно написать целое приложение ради одного бага и выбросить. Сам Карпати таким образом создал несколько проектов, включая собственный токенизатор на Rust.

Наконец, Google Gemini Nano Banana Карпати называет первым намеком на “GUI для LLM”. Чат с моделью — это как командная строка 80-х: текст удобен машинам, но не людям. Будущее — за генерацией изображений, инфографики, анимаций, интерактивных приложений. И важно, что это не просто картинки: возможности возникают из сплава генерации текста, изображений и знаний о мире в одних весах.

В заключение Карпати пишет, что LLM оказались одновременно умнее и глупее, чем он ожидал. Индустрия, по его мнению, не реализовала и 10% их потенциала — даже при нынешних возможностях. Поле остается концептуально открытым, идей для экспериментов — масса. Прогресс будет быстрым, но работы впереди еще очень много.

P.S. Поддержать меня можно подпиской на канал “сбежавшая нейросеть ^[4]“, где я рассказываю про ИИ с творческой стороны.