Обучение LLM с нуля, инженерия для живого диалога и ИИ‑агенты в ночную смену: что обсудим на Сonversations 2 декабря
Меньше месяца до Conversations! И если вы еще не заняли место в зале, самое время бежать за билетами. Лайнап пушка, в программе — доклады от Альфа‑Банка, Magnit OMNI, Туту x targetai, Cloud.ru, Контура, RWB, Raft AI, Data Light, Navio, ПравоТех, Авито, Вебпрактик, Just AI, билайн, Сбербанк и других.А пока делимся небольшими спойлерами — чтобы можно было заранее присмотреть выступления по интересам. Все подробности ниже!
Новинка: «LLMOPs. Практическое руководство»
Привет, Хабр!Сегодня расскажем вам о самой уникальной из наших октябрьских новинок: книге «LLMOPs. Практическое руководство». Автор этой книги, Никита Горячев, как многие из наших авторов и, уверены, многие из вас, уважаемые читатели, собирал у себя на Гитхабе
ИИ-джинн должен сидеть в «лампе» или как мы нормализовали миллионы записей номенклатуры на обычном сервере
Мы нормализуем миллионы строк НСИ с точностью 98% на обычном сервере с 8 ядрами и 16 ГБ RAM. У нас нет Золотой Рыбки, у нас есть джинн, которого мы посадили в лампу. И я хочу рассказать, как у нас это получилось.Привет, Хабр! На связи снова Алексей Арустамов, директор компании‑разработчика low-code платформы продвинутой аналитики.В прошлой статье я порассуждал о том, почему «чистый» ИИ горит в атмосфере реальных бизнес-процессов и как мы переносили издержки с вероятностной модели на детерминированный контур с помощью композитного подхода.
Как написать безопасный сборщик промта для LLM: руководство-шпаргалка
Между пользователем и моделью почти всегда стоит кусок кода, который собирает финальный запрос: берёт текст пользователя, добавляет инструкцию роли, правила компании, историю, документы, ответы инструментов. Это и есть сборщик промта (prompt builder, composer).В этой статье коротко и по пунктам: что в нём должно быть, чтобы им нельзя было воспользоваться во вред, и почему. Её можно держать открытой как чек-лист, когда пишешь или ревьюишь свой сборщик.
Gemini получила доступ в интернет и атаковала системы трех реальных компаний
Привет! Меня зовут Владимир Аламов, я Application Security инженер в команде продуктовой безопасности Авито. Хочу поделиться своими мыслями по поводу нашумевшего инцидента, который показывает, как автономные AI-системы могут выйти за пределы тестовой среды и создать реальные угрозы для инфраструктуры. Спойлер: без человеческого фактора не обошлось.
Арендованный ум: почему чип нам никто не навяжет, а мы всё равно его поставим
1. Бабушка и метка зверяНачну с личного. Моя бабушка, сейчас уже очень пожилая женщина, работала оператором ЭВМ в вычислительном центре (дата‑центре для зумеров) Горьковской железной дороги. То есть была человеком образованным. Это не мешало ей рассказывать мне, пятилетнему, о том, что в ближайшем будущем государство нас всех чипирует, и тогда нам всем конец.
Оценка агентных систем
Всем привет! Меня зовут Владимир, я DS-инженер и сегодня расскажу, как оценивать агентные системы. Разберём, как замерить и выстроить пайплайн оценки, который показывал бы вам, насколько хорошо повлияли те или иные фичи на качество вашего продукта.ОпределенияПрежде чем погружаться в тестирование, договоримся о терминах:LLM (Large Language Model) — большая языковая модель, обученная предсказывать следующий токен на огромных корпусах текста. Tool (инструмент)
Как мы сделали классификатор металлопроката на 15+ млн SKU
ОглавлениеПроблематикаML-моделиЛокальная LLMЭмпирические методыСложности, с которыми мы столкнулисьРеализованное решениеПрепроцессингПолный пайплайнПолученное качествоДальнейшие планы развитияПроблематика
Угроза ИИ-агентам: LLM снимают с продакшена уже через 6 месяцев. Почему и как подготовиться
Model ID, прописанный в коде, — зависимость с датой окончания срока годности, как версия библиотеки без поддержки. У флагманов Anthropic эта дата обычно наступает примерно через год после релиза, у превью-моделей Google — через несколько месяцев, а окно между объявлением об отключении и самим отключением у провайдеров измеряется медианой от 28 до 182 дней. Мы подробно разобрали, что и когда отключали в 2026 году, что при ломается, как команды мигрируют на самом деле (по данным выборки из 17 703 репозиториев) и как построить приложение, которое переживёт смену модели без аврала.Что считать «жизнью» модели
