Prime Intellect представила INTELLECT-3: 106 миллиардов параметров и суперспособности в reasoning

Prime Intellect выпустили INTELLECT-3 ^[1], мощную 106-миллиардную модель Mixture-of-Experts, которая обучалась на базе GLM-4.5 Air Base. Обучение ^[2] проходило в два этапа: сначала стандартное SFT, затем масштабное RL-дообучение, где асинхронный подход стал не экспериментом, а основой всей стратегии. Благодаря этому модель демонстрирует выдающиеся результаты в математике ^[3], программировании и логическом рассуждении, особенно когда речь идёт о долгих цепочках действий и агентных задачах, а не просто генерации текста.

INTELLECT-3 обучалась на 512×H200 в течение примерно двух месяцев с использованием полностью собственного стека инструментов: PRIME-RL, Verifiers, Environments Hub и sandbox-инфраструктуры. Все компоненты открыты и доступны сообществу, включая код, среды и вспомогательные инструменты. Разработчики подчеркивают, что открытость и прозрачность – ключевой элемент проекта, что позволяет исследователям и энтузиастам изучать подходы к RL-моделям на реальных данных и средах.

Модель демонстрирует топовые результаты среди моделей своего размера по основным направлениям: математика, код и reasoning. Интересно, что фокус INTELLECT-3 не на обычной генерации текста, а на более сложных задачах, требующих удержания контекста и последовательного выполнения действий, что делает её полезной для агентных систем и сложных симуляций. Для желающих подробнее изучить технологию доступны технический отчёт, Hugging Face ^[4] репозиторий модели, а также инструменты PRIME-RL ^[5], Verifiers ^[6] и Environments Hub ^[7].

Делегируйте часть рутинных задач вместе с BotHub! ^[8] Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке ^[9] вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!