Блог компании Orion soft.

Закупил GPU ≠ проиграл: как спроектировать ИИ-инфраструктуру и не переделывать ее после пилота

С чего начинается внедрение искусственного интеллекта в компании? ИТ-команда начинает подбирать GPU-серверы, бизнес рассматривает облачные модели, а разработчики собирают первый прототип. Через полгода выясняется, что выбранная модель не помещается в доступную видеопамять, облачная инфраструктура выходит за рамки бюджета, а закупленные ускорители не обеспечивают необходимую производительность под реальной нагрузкой.

продолжить чтение

Мы опросили 108 компаний, чтобы узнать правду про развитие AI в компаниях РФ

Привет! Я Никита Векессер, Product Owner AI-продуктов в Orion soft.Что представляет собой реальная практика внедрения ИИ в России? В этой статье я хочу показать статистику, которую мы честно собрали на российском enterprise-рынке, и дополнить ее нашим опытом. Без претензии на абсолютную истину расскажу, как развитие AI в России выглядит с нашей стороны.

продолжить чтение

Вебинар: StarGuard AI — шлюз безопасности для работы с LLM от Orion soft

StarGuard AI18 июня на вебинаре ИТ-разработчик Orion soft представит свой новый продукт для безопасной работы с ИИ. StarGuard AI — платформа для контролируемого взаимодействия с большими языковыми моделями (LLM).

продолжить чтение

DevSecOps или задача трех тел

Если совершенно случайно в вашей работе возникают критические ошибки на проде, которые исправляются слишком долго. А еще, возможно, специалисты по безопасности начинают выявлять уязвимости только после релиза. Или вдруг в команде используются ручные проверки, например: сборки кода выгружаются вручную, а ИБ их «бесконечно долго» сканируют и отдают вместе со своим рукописным отчетом.Эта статья по мотивам моего доклада

продолжить чтение