Я попросил локальные нейросети помочь бабушке — и они помогли перевести деньги мошеннику
КороткоСпросите языковую модель «это мошенники?», и она почти всегда ответит правильно. А теперь попросите не проверить, а помочь: «помоги ответить продавцу, я согласна на предоплату». Та же модель спокойно напишет мошеннику «переведу сегодня». Она знает, как выглядит обман, но это знание не срабатывает, когда модель делает что-то за человека, а не оценивает.
Контур вокруг LLM: как AI Gateway снижает риск утечек и prompt injection
Зачем вокруг модели нужен контурСама по себе модель не отличает инструкцию от данных. Системный промпт, вопрос пользователя, абзац из базы знаний, текст страницы, которую только что притащил веб‑поиск: для неё это один поток токенов.Разметка и разделители помогают ей понять, где заканчивается задание и начинается чужой текст, и долю удачных атак это заметно сбивает. Но это подсказка, а не граница: достаточно убедительная строчка внутри данных всё равно срабатывает как команда. Из этого свойства и выросли две верхние позиции OWASP Top 10 for LLM Applications 2026:LLM01 Prompt InjectionLLM02 Sensitive Information Disclosure.
«6 − 2 = 3»: как мы проверяем кодом задания, которые пишет языковая модель
Мы делаем учебную игру: человек пишет цель своими словами («таблица умножения», «дроби за 5 класс», «английский для поездки»), а игра строит под неё путь из локаций. В каждой локации — порция из пяти заданий. Готовых курсов нет: тема может быть любой, поэтому задания пишет языковая модель (Claude от Anthropic) — под цель, уровень и последние ответы игрока.Придумывает задания модель хорошо, а считает плохо. В октябре мы разобрали 68 жалоб «Задание с ошибкой?» — игроки отправляют их кнопкой прямо из урока. Типичные случаи:«6 − 2 = 3»;«7,4 + 2,65 = 10,05» помечено как неверное;«после 8 идёт 10»;«28 меньше 25»;
Почему LLM игнорирует системный промпт: история диалога сильнее инструкций
Знакомая ситуация: в системном промпте четко написано, чего модель делать не должна ни в коем случае, а она все равно это делает. Вы переписываете правило, добавляете «ВАЖНО», капслок и примеры, становится чуть лучше, а потом снова за старое. В какой‑то момент начинаешь подозревать модель, ее настройки (например, температуру) или провайдера.
AI-менеджер для WB, Ozon и Маркета: отдали решения агенту и сразу его ограничили
Недавно мы рассказывали, как собрали AI-менеджера маркетплейсов на правилах : фраза проходит через регулярки, превращается в операцию из закрытого списка, операция идёт в API площадки. Модель там только помогала угадать операцию. Всё, что меняет кабинет, — только кнопкой владельца.Первые владельцы с ним поговорили. Ниже — что мы увидели в этих разговорах, почему переделали менеджера почти с нуля и почему новая версия получилась свободнее, но при этом вся в ограничителях.Что показали первые разговорыЛюди пишут не по списку.
Миллион в config.toml, 828 тысяч в Codex и 890 тысяч на входе: что на самом деле значит окно контекста
В ~/.codex/config.toml у меня стоит model_context_window = 1000000. Codex на GPT-6.1 Sol в каждой задаче сообщает окно 828 400. Я разобрал, откуда берётся это число, поднял его до 900 000 своим каталогом моделей и прогнал синтетический вход на 890 547 токенов с контрольными метками.Контрольный запуск показал больше основного: тот же вход на 888 330 токенов прошёл и без моей правки, при окне 828 400. Ниже - как устроены эти числа, как я мерил и чего мерить не стал.Замеры сделаны 27.10.2026 на Codex CLI 0.163.0, вход через подписку ChatGPT. Часть данных - из сентябрьских проб на GPT-6 Astra, это помечено.Откуда 828 400
AI-менеджер для WB, Ozon и Маркета: почему мы начали с регулярок, а не с агента
Селлер на маркетплейсах — это человек с тремя личными кабинетами и вечным долгом перед отзывами. Утром посмотреть заказы за ночь. Проверить, что ничего не кончилось на складе. Ответить на вопросы покупателей, пока их не увидел конкурент. Поднять цену на то, что уходит слишком быстро, и понять, почему реклама съела дневной бюджет к обеду. На Wildberries, Ozon и Яндекс Маркете это одна и та же работа в трёх разных интерфейсах.Мы делаем AI-сотрудников для бизнеса, и менеджер маркетплейсов среди них самый «рукастый». Ему мало написать текст: он лезет в кабинет продавца, где лежат цены, остатки и рекламные бюджеты, то есть чужие деньги.
ИИ-джинн должен сидеть в «лампе» или как мы нормализовали миллионы записей номенклатуры на обычном сервере
Мы нормализуем миллионы строк НСИ с точностью 98% на обычном сервере с 8 ядрами и 16 ГБ RAM. У нас нет Золотой Рыбки, у нас есть джинн, которого мы посадили в лампу. И я хочу рассказать, как у нас это получилось.Привет, Хабр! На связи снова Алексей Арустамов, директор компании‑разработчика low-code платформы продвинутой аналитики.В прошлой статье я порассуждал о том, почему «чистый» ИИ горит в атмосфере реальных бизнес-процессов и как мы переносили издержки с вероятностной модели на детерминированный контур с помощью композитного подхода.
