llm. - страница 54

llm.

Как я перестал верить нейросети и полюбил контрольные разряды: Zero-Trust для распознавания юридических документов

Покажите VLM скан исполнительного листа — и она уверенно вернёт реквизиты. Формат будет идеальным, тон — безупречным. Одна беда: среди реквизитов с ненулевой вероятностью окажется несуществующий ИНН с правильным форматом, сумма, которую никто не сверил с документом, а рядом в сводке будет гореть «качество: 100 %» — на скане 745×1024 @ 96 DPI, с которого в принципе нельзя прочитать реквизиты.

продолжить чтение

BlueSec: an open competition where AI agents investigate security incidents

Hi all! I'm Andrey Kuznetsov, and I work on ML in cybersecurity. In our community, FalsePositive, we break down research papers and keep up with what's new in ML. Now we're launching BlueSec, an open competition where AI agents investigate security incidents. Each agent starts with a single piece of evidence, reconstructs the attack on its own and delivers a verdict. The platform scores it on accuracy and how few tool calls it needs. If you work with LLMs and agents, this is a chance to test your skills and your agent's on problems at the intersection of ML and cybersecurity, a field that I think is undergoing even more change than software development. The competition runs online from September 25 to October 10, and you can join from anywhere in the world. The final will be held in Moscow and St. Petersburg, both on-site and online. Sign up on the website.In this post I'll cover:Why we built this kind of competition.How the tasks and scoring work.Where to start if you've never built an agent or investigated an incident.

продолжить чтение

как OpenAI, Anthropic, Google и xAI борются за модели, облака и разработчиков

В мае 2026 года Anthropic объявила, что получает Colossus 1 – кластер мощностью больше 300 МВт, где стоит свыше 220 тысяч GPU NVIDIA. Строили его для Grok, а владеет им SpaceX, которая в феврале

продолжить чтение

Механизмы внимания в современных LLM

Прежде чем разбирать оптимизации, зафиксируем базовые понятия:Токен — минимальный фрагмент последовательности, с которым работает модель. Из hidden state каждого токена attention строит query, key и value. Query отвечает на вопрос «что я ищу», Key — “что я содержу”,

продолжить чтение

«Черкизово» и Data Sapience выступили на Форуме ИТ и инноваций в ритейле

Счет 4:6 в пользу инноваций: спикеры разобрали ИИ-инициативы «Черкизово» и показали, где искусственный интеллект заменяет привычный процесс, а где – нет.Data Sapience выступила генеральным партнером сессии

продолжить чтение

Писать агенту по-английски ради экономии? 40 прогонов: разница 12 токенов на задачу

В чатах про кодинг-агентов регулярно всплывает совет: пишите промпты по-английски, русский съедает в полтора раза больше токенов. Я сам так делал первые пару месяцев. Потом стало интересно, сколько я на этом сэкономил. Сел и посчитал.Сначала токенизаторВзял абзац на русском и его английский перевод, отправил в API и посмотрел, сколько входных токенов насчитала модель. У Opus 5.5 и Sonnet 5.5 токенизатор общий, цифры совпали:по-русски 194 токена (470 символов);по-английски 132 токена (454 символа).В 1,47 раза. Совет не врёт.

продолжить чтение

Confidence ≠ Permission: почему я не разрешаю LLM самостоятельно принимать решения

У LLM есть неприятное свойство: она может очень убедительно ответить на вопрос, на который у неё нет надёжных данных. Для обычного чат‑бота это может быть просто ошибкой в тексте. Для ассистента, который способен отправлять сообщения от моего имени, это уже проблема архитектуры.

продолжить чтение

Может ли локальная 27B-модель расследовать продакшен-инцидент как Claude? Две RTX 5090, около 40 прогонов и одна гонка

Как всё началосьЭта история начинается с реального продакшен-инцидента.По графикам в Grafana я вышел на гипотезу, что в одном из сервисов наблюдается утечка соединений. Картина была довольно характерная: пул постепенно забивался, количество реально выполняющихся запросов этому совершенно не соответствовало, а рестарт сервиса временно возвращал всё в норму.Недолго думая, я попросил Claude составить по инциденту промпт для другого агента: вот симптомы, вот код, вот несколько гипотез — подтверди или опровергни утечку и найди причину.Запустил.

продолжить чтение

Маскирование ПДн для LLM: метрика, которую не считает никто, и шесть шлюзов против живого агента

Это первая статья серии: измеряем, что происходит с LLM-агентом, когда шлюз замаскировал данные. Дальше разберём находки по чужим системам и то, что нашлось у нас.1. Зачем это меритьАгент поддержки получает: «Здравствуйте, я Кузнецова Дарья, телефон 8 935 747 66 22, проверьте заказ». До модели доходит «я <PERSON_1>, телефон <PHONE_NUMBER_2>», и она вызывает check_order(phone=…).Тут половина решений на рынке и ломается: инструменту нужен настоящий телефон, по <PHONE_NUMBER_2> заказ не найдётся. Шлюз обязан вернуть реальное значение в аргумент вызова ровно в той форме, в какой написала модель.

продолжить чтение

От режиссёра КИНО до режиссёра КОДА: как я заставил ИИ создавать полностью готовые программы автоматически

Сцена 1 инт. Съемочная площадка / Рабочий кабинет — день. Здравствуйте, хабровчане! Давно я не писал сюда — каюсь, был поглощён сразу двумя масштабными проектами. Меня зовут Георгий Гашокин. Большую часть жизни я нахожусь на съёмочной площадке — я профессиональный кинорежиссёр. Прямо сейчас у меня самая горячая пора: 8 октября 2026 года в широкий прокат выходит мой новый полнометражный экшен-фильм «Спарта 2: Гоплиты». Я создавал эту картину целых три года.Коротко о фильме для понимания атмосферы:

продолжить чтение