Где живут LLM: разбираем инференс-кластер YADRO и гоняем в нем модели
Привет, Хабр! В этой статье я расскажу про наш LLM инференс-кластер YADRO: зачем он нужен, что у него под капотом и как в такой конфигурации показывают себя популярные модели. Кроме того, я немного порассуждаю об альтернативных реализациях кластера и поделюсь планами по развитию реализации нашей.
Битрикс24 бенчмарк для оценки LLM
В преддверии выхода GPT-5 хотелось сделать бенчмарк который по-настоящему проверит её способности. Не прекращаются споры – если LLM просто стохастические попугаи, то как решают олимпиадные задачи по математике? Если Chatgpt способен написать полезное приложение по одному запросу, то почему не может посчитать число r в слове Strawberry или описать как фермеру перевезти себя и две курицы через реку? Пора положить обсуждениям конец с помощью 150 задач по Битрикс24 разработке!Кто просил об этом?
Meta* позволит некоторым кандидатам использовать ИИ во время тестирования по программированию
Руководство Meta* разрешило позволить
Zero Trust Architecture и персональные данные
Эта статья — продолжение серии статей, опубликованных в этом блоге, в которых мы пытаемся отслеживать влияние новых технологических трендов на пересечении кибербезопасности и искусственного интеллекта на основной бизнес нашей компании — удостоверение персональных данных (ПД). Продумывая перспективы использования ИИ-агентов для наших задач, включая борьбу с фродом и ИИ-фродом, мы пришли к выводу, что перестройка нашей собственной системы невозможна без учета архитектурных изменений, происходящих в ИТ системах наших клиентов.
Как мы искали лучшие AI-модели (Часть 2)
В прошлой статье мы погрузились в оценку самых популярных AI продуктов.По итогам ручного тестирования и попытки автоматизации по выбранным критериям был сделан вполне себе ожидаемый вывод о невозможности применения одних и тех же метрик к оценке задач разного рода.Поэтому было принято решение ознакомиться с основными метриками для оценки качества ответов AI продуктов.Такими метриками стали: Precision, Recall, Specificity и Confusion matrix, а также MAP и MRR.Для чего такие метрики нужны?
Давайте уже потише с ИИ
Я, как и многие здесь, программист. Я учился программированию с 2003 по 2008 годы, хотя и до этого меня тянуло к технике, программированию и подобным вещам.Перед тем как я расскажу о своих доводах, хочу прояснить несколько моментов.
Авито фокусируется на искусственном интеллекте
Привет, Хабр! ИИ находят все новые применения, в том числе и на одном из крупнейших классифайдов мира – Авито. В 2025 году в компании Авито начали использовать новую стратегию по внедрению генеративного искусственного интеллекта (GenAI). Отныне она – основа бизнес-стратегии долгосрочного роста компании. Среди этапов реализации этой стратегии – введение новой роли в состав правления, Управляющего директора по искусственному интеллекту. Его позицию занял Андрей Рыбинцев.
Стартовал приём заявок на новый сезон Национальной премии «Лидеры ИИ»
Анонсирован приём заявок на новый сезон Национальной премии «Лидеры ИИ». Премия проводится Альянсом в сфере искусственного интеллекта и АНО «Цифровая экономика» при поддержке Правительства РФ и национального проекта «Экономика данных». Заявку на участие можно подать через официальный сайт премии. Церемония награждения состоится в рамках международной конференции «Путешествие в мир искусственного интеллекта» AI Journey.

