OWASP выпустил GenAI Red Teaming Manual v1.0
OWASP 20 октября 2026 года выпустил GenAI Red Teaming Manual v1.0. В документе объёмом 144 страницы описаны восемь этапов испытаний ИИ-моделей, приложений и агентных систем. Руководство охватывает работу от планирования испытаний до проверки эффективности исправлений.OWASP GenAI Red Teaming Manual v1.0
Как мы оценивали соответствие предсказаний LLM нормам профессиональных кодексов
Как из профессионального кодекса получаются задачи для проверки LLM
Сказ от Anthropic о том, как рой ИИ-агентов может превратиться в сборище бюрократов
В статье Building agents: When to fold subagents into your main agent loop, опубликованной 22 октября 2026 года, Diane Sarkis из Anthropic описала случаи, в которых замена множества ИИ-агентов на одного агента с навыками и инструментами приводила к значительному повышению качества работы, снижению стоимости и времени выполнения запросов.Это выглядит так, как будто создать множество узкоспециализированных ИИ-агентов — во многих случаях не очень хорошая идея.
Anthropic подала заявку на IPO: убыток $80 млрд, выручка $16 млрд и что это значит для рынка
Anthropic в понедельник, 26 октября, подала заявку на IPO, сообщает Bloomberg. Компания — разработчик ИИ-модели Claude — планирует начать торги на бирже Nasdaq Global Select Market под символом ANT, как следует из документа, поданного в Комиссию по ценным бумагам и биржам США. IPO проводят Goldman Sachs Group и Morgan Stanley.Согласно документам, компания Anthropic и некоторые из её акционеров предлагают свои акции в рамках IPO. Количество предлагаемых акций будет раскрыто в последующем документе.Убыток растёт быстрее выручки
Pydantic AI: типизированные агенты на своих моделях
У типового проекта с LLM-агентом судьба примерно одна. Сначала это милые сорок строк: промпт, вызов openai-совместимого API, json.loads — и всё работает. Через пару недель модель начинает вставлять перед JSON пояснительный текст в духе «Конечно! Вот ваш ответ:», одно из обязательных полей то появляется, то исчезает, а вложенный массив иногда приходит строкой. В код въезжают регулярки, ручные проверки и повторные запросы. Ещё через месяц вы владеете комом связующего кода на несколько сотен строк, который никто не хочет трогать — потому что непонятно, что именно отвалится.
Как Codemode меняет работу ИИ‑агентов с инструментами — и что не так с MCP
Больше года назад я писал материалы, в которых советовал не загружать пользовательские инструменты (в том числе MCP‑серверы) в контекст модели, а по возможности обходиться скриптами. Теперь, с выходом Pi 1.0, мы добавили поддержку MCP через Codemode.С одной стороны, к этому всё давно шло, а с другой — для кого‑то такое решение могло оказаться неожиданным. Поэтому я хочу поделиться свежими мыслями о том, что всё это значит.Что такое инструментыКогда обвязка агента, например Pi, предоставляет LLM инструменты
Anthropic подала заявку на IPO: торговаться будут как ANT
Anthropic официально подала в Комиссию по ценным бумагам и биржам США (SEC) регистрационное заявление по форме S-1. Компания планирует разместить акции класса A на Nasdaq Global Select Market под тикером ANT.Это следующий этап подготовки к IPO: ещё 1 июня Anthropic направила в SEC предварительные документы в конфиденциальном порядке. Теперь компания публично объявила о размещении.Организацией IPO занимаются Goldman Sachs и Morgan Stanley. Количество акций и ценовой диапазон пока не определены, как и итоговая оценка компании.
Code as Policy: как LLM управляет роботом через сгенерированный код
Привет, Хабр! Сегодня мы поговорим о том, как нейросети могут эффективно управлять роботами, используя не самый очевидный на первый взгляд подход.В 2023 году Alphabet закрыл проект Everyday Robots, в котором пытались создать робота для уборки офисов и сортировки мусора. Увы, андроиды оказались не способны выполнять задачи в сложной и изменчивой обстановке естественной человеческой среды. Но благодаря этой попытке появилась технология Code as Policy (CaP)

