Mistral AI выпустила Small 3 — мощную языковую модель с 24 миллиардами параметров

Mistral AI выпустила Small 3 — новую языковую модель с 24 миллиардами параметров, которая по производительности не уступает гораздо более крупным моделям от Meta* и OpenAI. Компания также переходит на более либеральную лицензию Apache 2.0.

Компания Mistral AI заявляет, что Small 3 ^[1] обеспечивает такую же производительность, как модели в три раза больше по размеру, при этом используя всего 24 миллиарда параметров. Модель, оптимизированная для низкой задержки и локального развёртывания, является продолжением предыдущей версии Mistral, выпущенной в сентябре 2024 года ^[2].

В тестах Small 3 показал результаты наравне со значительно более крупными моделями, включая Meta Llama-3.3-70B ^[3], Qwen2.5-32B ^[4] и GPT-4o-mini. Модель достигла 81% точности в тесте MMLU ^[5], обрабатывая 150 токенов в секунду, что делает её одной из самых эффективных моделей в своей категории, по мнению Mistral.

Новая модель создана для выполнения повседневных задач без использования дорогостоящего оборудования. Она может быстро отвечать на сообщения в чате, выполнять определённые функции, адаптироваться к специализированным областям и работать на одном графическом процессоре, что делает её практичной для использования в реальных условиях.

По словам Мистраля, несколько отраслей уже тестируют эту технологию. Банки используют её для выявления мошенничества, а поставщики медицинских услуг и производители тестируют её для обслуживания клиентов и анализа их отзывов. Компании, занимающиеся робототехникой, также изучают потенциальные варианты использования.

Модель теперь доступна на платформе Mistral ^[7] и у партнёров, включая Hugging Face ^[8], Ollama ^[9], Kaggle ^[10], Together AI ^[11] и Fireworks AI ^[12]. Планируется запуск на других платформах.

В этом выпуске Mistral переходит от собственной лицензии MRL (Mistral Research License) к более свободной лицензии Apache 2.0 ^[13]. Это изменение позволяет пользователям свободно использовать, изменять и распространять модели даже в коммерческих целях. Компания продолжит предлагать специализированные коммерческие модели для конкретных задач.

В ближайшие недели Mistral планирует выпустить дополнительные модели, уделяя особое внимание ^[14] улучшенным возможностям логического мышления ^[15]. Компания позиционирует Small 3 как дополнение к более крупным моделям логического мышления с открытым исходным кодом, таким как Deepseek ^[16], пытаясь достичь аналогичных возможностей при меньших вычислительных мощностях.

Компания Mistral заняла свою нишу на европейском рынке AI и является практически единственным поставщиком соответствующих моделей AI. Хотя её модели пока не соответствуют возможностям мультимодальных систем, таких как Sonnet 3.5, компания продолжает набирать обороты. Её последнее предложение, Pixtral ^[17], знаменует собой первый шаг компании в области визуально-языковых моделей. 

*Meta и её продукты (Instagram, Facebook) запрещены на территории Российской Федерации

Источник ^[18]