Selectel запускает сервис для внедрения AI-моделей в бизнес

Foundation Models Catalog (FMC) ^[1] — это инструмент для развертывания и управления AI-моделями на базе облачной инфраструктуры Selectel. Он дает компаниям и разработчикам готовые LLM, которые станут основой для создания AI-решений. Включая: системы генерации речи и другие I-инструменты. Подробности — под катом.

Что такое FMC

Foundation Models Catalog — это каталог для инференса open source GenAI-моделей. На старте в FMC входят преднастроенные решения от OpenAI, Alibaba (Qwen), DeepSeek и Mistral AI. Они рассчитаны на решение самых распространенных AI-задач: ускорение разработки кода, генерацию текстов и контента, автоматизацию продаж и поддержку клиентов с помощью чат-ботов, а также строить решения на основе RAG, где модель использует доступную информацию из внутренних документов для точных и релевантных ответов.

Что FMC дает бизнесу

В каталоге FMC под каждую модель и выполняемую задачу можно подобрать подходящую конфигурацию инфраструктуры. Это исключает ошибки ^[2] совместимости и гарантирует стабильную работу решения. Все open source модели сразу готовы к использованию в IT-инфраструктуре клиента, поэтому их можно запустить на сервере без глубокой экспертности в области ML.

Наконец, FMC работает на масштабируемой и безопасной облачной инфраструктуре Selectel, предоставляющей широкий выбор GPU для быстрого запуска и высокой производительности AI-моделей. С оплатой по модели pay-as-you-go без привязки к числу запросов или токенов. Вы можете выбирать параметры и уровни квантизации моделей, чтобы гибко управлять потреблением вычислительных ресурсов и контролировать расходы на их использование.

«Чтобы сохранить конкурентоспособность на фоне стремительного развития AI, компаниям нужны решения для быстрого внедрения новых технологий в бизнес-процессы. Ранее мы представили Inference-платформу для ускоренного запуска ML-моделей. Foundation Models Catalog стал логичным следующим шагом в развитии портфеля решений Selectel для корпоративного AI. Теперь пользователи могут запускать LLM из каталога и настраивать их под конкретные задачи. Этот инструмент особенно актуален для организаций, которым важно внедрять AI быстро, безопасно и без лишних затрат».

Александр Тугов

Директор по развитию услуг Selectel. 

Как подключить

На первом этапе доступ к FMC предоставляется корпоративным клиентам по запросу. В дальнейшем сервис станет доступен для всех пользователей. Мы планируем добавить поддержку пользовательских моделей (Custom Inference), создать интерактивную среду для тестирования и выбора оптимальных моделей (Playground), запустить платформу для AI-агентов (AI Factory), а также внедрить новый тарифный план для пользователей.