От предложений LLM к управляемому исполнению: опыт разработки AI‑агента
Подключить AI‑агента к инструментам — лишь часть задачи. Гораздо сложнее организовать его работу там, где недостаточно уверенного ответа модели и необходимо соблюдать ограничения, контролировать действия и проверять последствия.Например, если агент предлагает восстановить деградировавший сервис, кто проверит: выдержит ли инфраструктура переключение трафика? выполнены ли все необходимые условия? действительно ли сервис восстановился?
Карта автономии AI: как решить, что агенту можно делать без человека
Привет! Я Андрей Непряхин — директор департамента разработки в AGIMA.
Почему AI-агент не цифровой сотрудник
Привет, Хабр! На связи Алексей Лапунов из департамента информационной безопасности и системного администрирования ТЕХНОНИКОЛЬ Диджитал.В прошлый раз мы разбирали, как анализировать сложные проблемы: почему важно не хвататься за первое попавшееся решение, а декомпозировать проблему и находить точки изменений.
Искусственным интеллектом должен владеть естественный: кто отвечает за ошибки ИИ
ИИ уже забрал на себя маршрутизацию заявок, типовые ответы и добрую половину работы первой линии — там, где раньше сидел человек и вручную разбирал, кому отправить обращение по сломанному принтеру, а кому по доступу в CRM, теперь справляется алгоритм, который не устаёт к вечеру пятницы и не путает приоритеты. Логичный вопрос: если рутину забрал ИИ, зачем вообще нужен ITSM?Зона ответственности Service Desk перераспределяется. Давайте обсудим, кто отвечает за ИИ-сервисы и что будет, если пустить их на самотёк.
ИИ-агенту запретили запись в CRM. Но CRM всё равно изменилась
ИИ-агенту запретили запись в CRM. Но CRM всё равно измениласьПочему ограничения на уровне модели ещё не означают, что вся AI-система работает в режиме read-only — и почему это важно перед production rollout, расширением полномочий агента и передачей решения клиенту.В первой статье я разбирал более узкий случай: человек одобряет одно действие, а downstream-workflow способен попытаться выполнить другое. Там вопрос был в целостности цепочки approval → execution.Здесь хочу посмотреть на ту же проблему шире. Если самой модели запрещена запись, означает ли это, что вся AI-система
Если ваш ИИ настолько крут, готовы ли вы дать ему дробовик?
Три вопроса к тем, кто обещает безопасный AGI для человечества*aAtS — and All that Stuff (и вот это вот всё)
Методические рекомендации Банка России по безопасности ИИ на финрынке (№ 3-МР): обзор и что делать на практике
Привет, уважаемые эксперты!На связи Альбина Аскерова, руководитель направления по взаимодействию с регуляторами Swordfish Security. В прошлом обзоре мы разбирали методику ФСТЭК к приказу № 117, а в частности требования к безопасности ИИ в государственных системах и на объектах КИИ. Сегодня рассмотрим Методические рекомендации Банка России от 16.06.2026 № 3-МР по обеспечению информационной безопасности при разработке и применении ИИ на финансовом рынке.
Куда податься на финансирование по AI safety летом-осенью 2026: карта грантов, фондов и программ
Статусы, суммы и даты - на 3 июля 2026, и меняются буквально за недели: часть наборов уже закрылась (ждите следующий цикл), часть открыта - смотрите столбец «Статус». Перед подачей ВСЕГДА сверяйтесь на официальной странице. Это карта ландшафта, не юридический и не финансовый совет. Выплаты, санкции и визы зависят от гражданства и резидентства - уточняйте у каждого фонда отдельно.Горит прямо сейчас (дедлайны в июле-августе)ПрограммаДедлайнЧто даютФорматСсылкаGovAI U.S. AI Policy Program
Почему пилоты ИИ не масштабируются? У них нет системы управления
Собирательный кейс: демонстрация есть, системы нетПредставим обычный проект в крупной организации. Команда делает пилот ИИ для обработки заявок. Модель классифицирует обращения, предлагает ответ оператору, иногда сама заполняет поля в CRM. На демонстрации всё выглядит убедительно: скорость выше, ручной работы меньше, руководитель направления доволен.
