llm. - страница 32

llm.

Как мы автоматизировали перевод технической документации через инструменты вокруг модели

Привет! Меня зовут Глеб Смольяков, я инженер-программист в DevRel-отделе Битрикс24.DevRel-команда работает с разными задачами, которые помогают разработчикам и пользователям быстрее разобраться в возможностях продукта. Одна из таких задач — улучшение документации и её перевод на другие языки.В статье расскажу, как мы сделали сервис DocFlow, который автоматизирует перевод документации с русского на английский. Главная часть статьи — о том, как мы создавали инженерный слой для аккуратной точной работы.СодержаниеЗачем понадобился сервис перевода DocFlow

продолжить чтение

5 новых решений для 1С

LLM, финансы, «Госключ» и автоматизация рутиныМы посмотрели на несколько решений, появившихся в августе, и выбрали пять разных сценариев автоматизации: от подготовки данных для нейросети до подписания кадровых документов через «Госключ».1. Как передавать данные из 1С в нейросеть и не раскрывать реальные реквизитыОдна из проблем корпоративного использования нейросетей возникает еще до отправки первого запроса.

продолжить чтение

Работает, но не готово: definition of done для ИИ-систем

Три моих ИИ-проекта живут в проде от полугода до двух лет. Месяц назад я попробовал ответить, готов ли хоть один, и не смог.Не «работает ли». Работают все три. Агентом, который пишет SQL, аналитики пользуются каждый день, руками SQL почти не пишут. Ассистент поддержки выдаёт операторам черновики на боевом трафике. Вопрос был другой: могу ли я уйти в отпуск на месяц и про них не думать.Оказалось, что нет. Я не знал, сколько агент стоит в месяц. Точность ассистента последний раз мерили для версии, которой уже не существует. Каждый проект держится на том, что я помню, как он устроен.

продолжить чтение

Вышла новая модель? Не смотри на бенчмарки, смотри на поисковик за её спиной

В этой статье я рассмотрю несколько тенденций в ИИ‑индустрии, которые не сильно освещаются в СМИ и не вызывают интереса у обычных читателей, но имеют огромный практический смысл. Мы с вами вместе проанализируем статистику за последние годы и разберём эти тенденции.Центр тяжести в ИИ‑гонке смещается от гонки самих LLM в сторону развития поисковых инструментов и сопутствующей инфраструктуры. Актуальность ответа LLM критически зависима не столько от данных, полученных при обучении, сколько от качества внешнего поиска и обработки найденной информации.

продолжить чтение

GEO своими руками: собираем трекинг видимости бренда в ИИ‑ответах на n8n [+ воркфлоу]

И у Google (AI Overviews), и у Яндекса генеративный ответ стоит над обычной выдачей. Человек ищет как раньше, но первое, что он видит — не десять ссылок, а готовую рекомендацию с двумя‑тремя брендами. Можно быть топ-1 по всем целевым запросам и не попасть в этот блок ни разу.Дисциплина, которая с этим работает, называется GEO (Generative Engine Optimization). Статья про две вещи: что в ИИ‑ответе реально поддаётся измерению и как я собрал под это воркфлоу на n8n. Ссылка на GitHub в конце статьи.

продолжить чтение

Месяц тюнил поиск по памяти, а починила всё одна строка в промпте

Месяц тюнил поиск по памяти, а починила всё одна строка в промптеУ меня телеграм-бот, который ведёт память по чату: вытаскивает из переписки факты и потом отвечает с оглядкой на них. Работает в полутора тысячах чатов.В конце августа я закончил месяц работы над его поиском. Поднял Recall@5 на 17%, перебрал параметры BM25, нашёл оптимальный вес слияния. Потом померил, как это сказалось на самих ответах.Никак. Прирост оказался статистически не значимым, p = 0.79.А потом я посмотрел в промпт, поправил там одну формулировку и получил плюс 16 процентных пунктов качества за вечер.

продолжить чтение

Миграция Power BI → Apache Superset: что переносится на самом деле

На Apache Superset я перенёс один отчёт. Одна таблица, пара графиков, день работы. Это была годовая цель: показать, что умею. Показал. Пользуются при этом по-прежнему исходной версией в Power BI — она никуда не делась и работает.Перенос в компании идёт всерьёз: есть отделы, где Superset нравится больше, есть коллеги, которые делают на нём кастомные визуалы и публикуют отчёты десятками. И чем ближе отчёт к одной таблице, тем легче он едет. Мои — не такие.Поэтому я зашёл с другой стороны: не переносить, а сначала понять, что внутри. Открыл свою самую тяжёлую модель.

продолжить чтение

Смертоносный вольфрамовый куб: как Claude пытался управлять реальным магазином и что из этого вышло

Весной 2025 года Anthropic запустили эксперимент под названием Project Vend, цель которого было выяснить, сможет ли современный искусственный интеллект самостоятельно управлять небольшим бизнесом. Результаты, простите за кликбейт, вас удивят.Claudius Maximus командует магазином

продолжить чтение

Completion gate для локальных моделей: как отделить завершённый ответ от оценки качества

В одном из сравнений локальных моделей я получил результат, который приятно показывать в таблице: три маршрута выполнили по десять сценариев из десяти. Медиана быстрого маршрута составила 28,9 секунды. Более тяжёлому потребовалось 99,1 секунды, смешанному — 71,0.Если смотреть только на колонку «принято», маршруты равны. Если добавить время, победителем выглядит быстрый. Если учесть ремонты результата, картина снова меняется: маршрутам потребовалось соответственно три, два и одно исправление.

продолжить чтение

6 бесплатных AI API‑шлюзов: модели, лимиты и реальные RPM

Я проверил бесплатные AI API‑шлюзы реальными запросами: доступные модели, стартовые бонусы и ограничения RPM. Ниже — результаты тестов на момент публикации. VyceAIСайт: https://vyceai.comAPI: OpenAI‑compatibleBase URL: https://vyceai.comСписок моделей: GET /v1/modelsChat: POST /v1/chat/completionsПосле регистрации сервис начислил $40 внутреннего API‑баланса. Для доступа к моделям нужно привязать Discord.

продолжить чтение