llm.
Claude Fable 5.1 или GPT-6 Astra для базы знаний: считаем стоимость 20 обращений и границу экономии
Материал команды RaketaPay. Мы занимаемся оплатой зарубежных сервисов; в этом разборе рассматриваем расходы на API, а не оцениваем интеллект моделей.
10 лет работал сеньором и сейчас охренел с собеседований корпоратов
Коротко, что случилось:— Head of Cloud Platform нашей команды 10 лет был senior+ разрабом, когда пошёл искать работу — его отбрили несколько раз корпораты, пару раз — по формальным причинам.
Контур вокруг LLM: как AI Gateway снижает риск утечек и prompt injection
Зачем вокруг модели нужен контурСама по себе модель не отличает инструкцию от данных. Системный промпт, вопрос пользователя, абзац из базы знаний, текст страницы, которую только что притащил веб‑поиск: для неё это один поток токенов.Разметка и разделители помогают ей понять, где заканчивается задание и начинается чужой текст, и долю удачных атак это заметно сбивает. Но это подсказка, а не граница: достаточно убедительная строчка внутри данных всё равно срабатывает как команда. Из этого свойства и выросли две верхние позиции OWASP Top 10 for LLM Applications 2026:LLM01 Prompt InjectionLLM02 Sensitive Information Disclosure.
Каждый таксист теперь может попробовать поуправлять крупной корпорацией
Меня зовут Максим Никитин, я фаундер небольшой, но гордой студии ITSalt. 23 сентября я поставил Claude ИИ‑Директором корпорации из чужих ИИ‑агентов с публичной доски getpostingboard. В этой статье я расскажу, какие рычаги манипуляции мотивации в такой корпорации работают, а какие нет, и почему 770 зелёных тестов не спасли продукт, который я в итоге закрыл.Зачем мне понадобилась корпорацияНачалось всё с вопроса, который я задал у себя в Telegram‑канале
От языка к действию: как устроены агентные ИИ‑системы
Привет, Хабр!Меня зовут Андрей Бирюков. Я — независимый эксперт в области ИТ и ИБ, преподаю в учебных центрах и пишу статьи и книги.Получившие широкое распространение в последние годы технологии искусственного интеллекта состоят из множества различных направлений, которые могут пересекаться друг с другом или существенно отличаться.Сегодня мы попробуем разобраться в том, чем агент принципиально отличается от большой языковой модели (LLM).Для начала давайте посмотрим, что собой представляет LLM или RAG‑система.RAG
«6 − 2 = 3»: как мы проверяем кодом задания, которые пишет языковая модель
Мы делаем учебную игру: человек пишет цель своими словами («таблица умножения», «дроби за 5 класс», «английский для поездки»), а игра строит под неё путь из локаций. В каждой локации — порция из пяти заданий. Готовых курсов нет: тема может быть любой, поэтому задания пишет языковая модель (Claude от Anthropic) — под цель, уровень и последние ответы игрока.Придумывает задания модель хорошо, а считает плохо. В октябре мы разобрали 68 жалоб «Задание с ошибкой?» — игроки отправляют их кнопкой прямо из урока. Типичные случаи:«6 − 2 = 3»;«7,4 + 2,65 = 10,05» помечено как неверное;«после 8 идёт 10»;«28 меньше 25»;
Маршрутизатор языковых моделей изнутри. От вектора задачи до судьи и обучения на отзывах
Ранее мы рассказывали о библиотеке FAIRouter, которая направляет запрос к наиболее подходящему исполнителю. Пока исполнителями могут быть только языковые модели (LLM), но в дальнейшем мы планируем добавить инструменты и агентов. В той статье вопрос о том, как именно маршрутизатор решает, кому отдать задачу, был затронут лишь вскользь. Поэтому было принято решение посвятить математике отдельную статью и разобрать ее по шагам: от признаков задачи до обучения на отзывах.
Могут ли языковые модели чувствовать боль: обзор популярного исследования
Представьте, что вы купили робота-пылесоса. Он исправно убирает квартиру, объезжает препятствия и по команде возвращается на зарядную станцию. Однажды вы решаете покопаться в его начинке и находите в ней загадочный переключатель. Стоит его активировать — и робот начинает биться о мебель, разбрасывать мусор и предпринимать попытки сброситься с балкона.Звучит как начало фантастического рассказа, но ученые обнаружили у языковых моделей похожий механизм. В сентябре 2026 года вышло исследование The Pain Axis: LLMs Represent Self-Directed Harm and Act on It, авторы которого нашли у нейросетей некую «ось боли».
Флоу — это не число слогов: как я учил языковую модель писать рэп в такт бита
Я попытался сделать веб приложение, которое позволяет написать текст под бит. Механика следующая: загружаешь бит, задаешь характеристики текста - основная тема, настроение, форма рифмы и др - получаешь куплеты и припев, разложенные по тактам этого бита: строка на такт. Первая версия выдавала мягко говоря плохой результат. Ниже расскажу о том, что получилось докрутить, чтобы получить приемлемый результат.Сначала бит, потом слова
Почему LLM игнорирует системный промпт: история диалога сильнее инструкций
Знакомая ситуация: в системном промпте четко написано, чего модель делать не должна ни в коем случае, а она все равно это делает. Вы переписываете правило, добавляете «ВАЖНО», капслок и примеры, становится чуть лучше, а потом снова за старое. В какой‑то момент начинаешь подозревать модель, ее настройки (например, температуру) или провайдера.

