Машинное обучение. - страница 46

Как надёжно передавать управление между ИИ-агентом и человеком без гонок состояний

Работа над Agent Inbox показала мне, что передача управления между агентом и человеком — это конечный автомат: с явным владением состоянием, маркерами версии и чёткой семантикой подтверждения обработки.СодержаниеКонечный автомат передачи управленияДва канала ответа, одно правило приоритетаОдин вопрос — одно место взаимодействияboard_advance как CAS-маркерВремя жизни MCP-сервера и контекст на уровне процесса

продолжить чтение

Что скрывают в себе меры расстояния: от kNN и k‑means до стилометрии

Представим, что kNN отнес новую точку к некоторому классу. Пусть для простоты это будет 1-NN, в котором решение базируется на одном ближайшем соседе. Возьмем точку и двух кандидатов:

продолжить чтение

От 3000 сессий в месяц до 100 в секунду: как LLM заменила ручную оценку ботов поддержки

Привет, Хабр! На связи Ангелина Большина, Денис Толкачев и Игорь Буянов, команда Customer Support NLP, мы разрабатываем ботов для службы поддержки клиентов. И наша работа полезна для развития продукта MWS AI Клиентский сервис. Сегодня мы расскажем вам про то, как мы автоматизировали оценку наших ботов с помощью специально разработанной метрики. Мы разделили материал: сначала расскажем про бизнес-составляющую, а затем – про технические детали. Итак, поехали!

продолжить чтение

Локальный анализ звонков без GPU. Что происходит на пути от аудио до резюме

Я хотел проверить не то, насколько хорошо локальная LLM пишет резюме на красивом тестовом диалоге, а что произойдет с ней на обычном телефонном звонке с музыкой, автоответчиком, перебиваниями и плохим звуком.Я сделал desktop приложение на Tauri, Rust, React и SQLite. Оно распознаёт речь, разделяет спикеров, считает тональность, эмоции и риски, а в конце локальная модель пишет резюме и рекомендации. Всё считается на компьютере, интернет нужен только чтобы скачать модели. При парсинге звонков часто бывают имена, адреса и номера договоров, и отправлять их во внешний API не хочется.

продолжить чтение

Как тестировать AI-фичу, если у неё нет одного правильного ответа

Материал подготовлен в рамках нового курса Otus «ИИ в тестировании: ускорение процессов и проверка ИИ-функций»Предположим, в CRM появилась кнопка «Составить резюме обращения». Она передаёт переписку языковой модели и возвращает короткий текст для следующего оператора. QA нужно проверить функцию перед релизом, но уже на первом сценарии возникает вопрос: что записывать в expected result?Возьмём учебный диалог. Все ответы ниже составлены для разбора, это не результаты эксперимента с конкретной моделью.

продолжить чтение

Как найти причину ошибок AI-фичи и проверить её с помощью тестового оракула

Материал подготовлен в рамках нового курса Otus «ИИ в тестировании: ускорение процессов и проверка ИИ-функций»Предположим, в CRM появилась кнопка «Составить резюме обращения». Она передаёт переписку языковой модели и возвращает короткий текст для следующего оператора. QA нужно проверить функцию перед релизом, но уже на первом сценарии возникает вопрос: что записывать в expected result?Возьмём учебный диалог. Все ответы ниже составлены для разбора, это не результаты эксперимента с конкретной моделью.

продолжить чтение

AMD приобрела за $8,2 млрд компанию World Labs, основанную Фей‑Фей Ли

AMD объявила о покупке за $8,2 млрд World Labs — компании‑разработчика моделей глубокого обучения, предназначенных для понимания физической реальности. World Labs обосновала сделку тем, что разработка искусственного интеллекта требует «тесного сотрудничества в области исследований моделей, систем и вычислительных ресурсов». В AMD отметили, что понимание передовых рабочих нагрузок поможет компании формировать дальнейшую дорожную карту разработки чипов.

продолжить чтение

От чата c LLM к полноценному AI-агенту: пошаговая настройка OpenCode

Когда я впервые начала использовать AI в работе, сценарий был довольно стандартным: открыть чат, вставить текст, сформулировать запрос, получить ответ.

продолжить чтение

A-A на страже: как статистический тест находит различие, которого нет

В прошлой статье я разбирал спекулятивное декодирование — способ ускорить языковую модель. Метод обещает, что ускорение не изменит ответы: распределение текстов на выходе останется ровно таким же, как при обычной генерации. Гарантия следует из самого устройства метода, но её стоило проверить на практике.Первая попытка дала обратный результат: статистический тест уверенно сообщал, что распределения различаются. Ошибка сидела не в модели и не в ускорении, а в самом тесте. По одному выводу её было не разглядеть: числа выглядели нормально.

продолжить чтение

Кто отвечает за ИИ-агента: юридический контур цифрового сотрудника

Это вторая часть материала про ИИ-агентов в корпоративном контуре для блога ЛАНИТ. В первой речь шла о том, как ограничить агента технически, какие полномочия ему давать, как разделять доверенные и недоверенные источники, что логировать и как тестировать систему до запуска. Здесь – о следующем вопросе. Что происходит, если ограничения все-таки не сработали, агент сделал что-то не то, а последствия уже наступили?

продолжить чтение