Gemma3, новая опенсорсная модель от Google, уже доступна в Ollama

Модель Gemma 3 мультимодальная, то есть может обрабатывать текст и изображения, и имеет окно контекста размером 128 тысяч токенов с поддержкой более 140 языков.

В Ollama она доступна в четырех вариантах с 1, 4, 12 и 27 миллиардами параметров и превосходно справляется с такими задачами, как ответы на вопросы, резюмирование и логическое мышление ^[1], в то время как их компактный дизайн позволяет развертывание на устройствах с ограниченными ресурсами.

Чтобы использовать эту модель даже в конфигурации с 27 миллиардов параметров, вам нужна всего одна видеокарта с 24 гигабайтами видеопамяти (https://hostkey.ru/gpu-dedicated-servers/dedicated/ ^[2]). Это позволяет достичь производительности, сравнимой с моделями с сотнями миллиардов параметров.

P.S. Для работы Gemma 3 требуются Ollama версии 0.6 или более поздней, поэтому не забудьте обновить вашу систему или сервер.