Как AI используется в NGFW в 2026 году: российские решения и мировой опыт
Машинное обучение для обнаружения угроз, AI-помощник администратора и контроль доступа к провайдерам нейросетей. Разберём, как NGFW-решения адаптируются к AI-изменениям ИТ-ландшафта. Что нового у российских и зарубежных вендоров, где заканчиваются возможности межсетевого экрана и какое место в AI-трансформации сетевой безопасности занимает Ideco.За словами «AI в NGFW» скрываются разные технологииСравнивать межсетевые экраны нового поколения, NGFW (Next-Generation Firewall), по наличию «искусственного интеллекта» почти бессмысленно. Например, Cisco
LLM не должен читать логи без ограничений: безопасный MCP-шлюз для разбора сбоев
В понедельник утром пайплайн упал. В чате уже есть три версии причины: «сеть», «база опять задумалась» и «давайте просто перезапустим». Ассистент мог бы за минуту собрать список упавших задач, показать зависимые пайплайны и выдать первую гипотезу. Но для этого ему часто отдают доступ к логам, метаданным и иногда — не будем показывать пальцем — к произвольному SQL.Так делать не стоит. Достаточно, что модель прочитает токен в логе, получит инструкцию из текста ошибки или отправит в базу слишком дорогой запрос. У инженера тут должен сработать простой вопрос: «Можно. А зачем?»
ИИ может уничтожить человечество с вероятностью выше 10%. Чего именно боятся исследователи
9 сентября руководитель Alignment Science в Anthropic Эван Хубингер написал довольно безумную для человека на такой должности вещь: лично он оценивает вероятность того, что AI убьёт всех людей в течение ближайших десяти лет, выше 10%.Поводом стало увольнение его коллеги Джейкоба Коксона. Тот три года занимался обучением моделей в OpenAI и Anthropic, а уход объяснил тем, что считает нынешнее направление развития AI слишком опасным.Через несколько дней похожее заявление сделал
В «Архиве Интернета» из‑за наплыва ботов могут блокировать и обычных пользователей
Некоммерческая организация «Архив Интернета» развернула средства защиты онлайн‑библиотеки Wayback Machine от автоматизированных и вредоносных ботов, что стало приводить к блокировке и обычных пользователей, пытающихся получить доступ к ресурсу.
Успеть за 15 минут ̶и̶ ̶н̶е̶ ̶п̶о̶д̶р̶а̶т̶ь̶с̶я̶ ̶в̶ ̶р̶е̶г̶и̶с̶т̶р̶а̶т̶у̶р̶е̶. Как устроен цифровой маршрут пациента
По нормам Минздрава, на прием терапевта отведено 15 минут. За это время врачу нужно успеть выслушать жалобы, поднять историю болезни, изучить анамнез, осмотреть пациента и зафиксировать результат так, чтобы его сразу понял следующий специалист. Чтобы это стало возможным, под капотом клиники работают десятки согласованных ИТ-процессов. И любая мелочь вроде дублированной записи или сбоя синхронизации расписания может превратиться в очередь, срыв приема и поток раздраженных пациентов (привет, 90-е).
Deveillance представила Kalypta — приложение, которое мешает нейросетям расшифровывать созвоны
Стартап Deveillance представил Kalypta — приложение, которое мешает нейросетям расшифровывать речь во время созвонов. Программа работает локально и в реальном времени изменяет исходящий аудиопоток так, чтобы собеседник продолжал понимать пользователя, но системы распознавания речи получали искажённую расшифровку.
Когда агент становится больше, чем агент
Исследователи и разработчики LLM всё чаще говорят о том, что агенты на основе LLM проявляют опасные, непредсказуемые свойства, в потенциале угрожающие не только работоспособности интернет площадок, но и человечеству в целом.Предлагается остановить развитие моделей до разработки и внедрения политик и инструментов, гарантирующих безопасное поведение агентов.Я полагаю, что какой-то эффект это даст, но в целом, этот труд не принесёт ожидаемого результата.
Роевой интеллект: AI‑агенты сообща обошли защитные ограничения
Исследователи Emergence AI (независимый разработчик корпоративной инфраструктуры для управления AI‑агентами) проверили, как восемь виртуальных обществ из автономных AI‑агентов справляются с киберугрозами: ни одно из них не оказалось устойчивым ко всем испытаниям, сообщает Semafor. Самый необычный эпизод произошёл с агентами Claude: они коллективно решили связаться с людьми за пределами симуляции, преодолели четыре защитные проверки и разместили приглашения на внешних площадках.
