Обнаружение уязвимостей ИИ агентов. Часть II: Исполнение кода
Основные выводы· В этом исследовании мы рассмотрели уязвимости, которые влияют на любые агенты на базе Large Language Model (LLM), которые могут выполнять код, загружать документы и получать доступ в Интернет.· Они могут позволить злоумышленникам запускать несанкционированный код, вставлять вредоносный контент в файлы, получать контроль и допускать утечку конфиденциальной информации.· Организациям, использующим искусственный интеллект (ИИ) для математических вычислений, анализа данных и других сложных процессов, следует проявлять бдительность в отношении связанных с этим рисков безопасности.
«Яндекс» получил сертификат соответствия требованиям ответственной разработки ИИ ISO-IEC 42001
«Яндекс» подтвердил соответствие международному стандарту ответственной разработки искусственного интеллекта. Компания первой в России получила сертификат ISO/IEC 42001. Документ подтверждает, что «Яндекс» ответственно создаёт и применяет ИИ.Независимый аудит проверил процессы разработки и внедрения YandexGPT. Эксперты установили, что они соответствуют требованиям стандарта. Проверка охватывала вопросы этики, прозрачности и безопасности.
Компьютер, как мозг
Данная статья содержит краткое описание метода связе-ориентированного моделирования и метода разработки само-описанных приложений, работающих на основе этих моделей. Те преимущества, которые дает этот метод позволяют предположить, что гиперсетевая структура мозга – когнитом – устроена подобно этой модели. На основе этого предположения показано, как компьютер может демонстрировать те способности, которые ранее приписывались исключительно мозгу. В частности, работать без заранее написанной программы, иметь сознание, свойства личности и свободу воли.
В Минцифры думают об ИИ-помощнике для всех
Министр цифрового развития М. ШадаевПо информации ТАСС
AI-бот для QA-инженеров: как я сделал Telegram-ассистента для ежедневной прокачки
Что, если бы кто-то 4 раза в день напоминал тебе важное из мира QA — с примерами, объяснениями и без воды? Я сделал такого помощника. Привет! Меня зовут Евгений. Я — Full-Stack QA Engineer в Devscribed и сегодня хочу поделиться своим экспериментом QA Mentor Bot — Telegram‑бот, который четыре раза в день отправляет случайный вопрос по тестированию из базы данных и сразу же публикует развёрнутый ответ на него с помощью AI в Telegram‑канале.Зачем мне понадобился QA Mentor Bot У этого проекта было две цели: 🎯 Прокачать свои QA‑навыки.Регулярная самоподготовка:
Как я написал покер‑бот за 4 недели, используя Cursor + GPT
1. ВводнаяЭто мой первый опыт написания статьи. Судим, но не строго.Недавно завершил интересный пэт-проект. Настолько интересный, что захотелось поделиться.Это десктопная программа, которая:Считывает скрин игрового стола в покере.С помощью компьютерного зрения извлекает расклад, ставки и карты.Рассчитывает ожидаемую выгоду (EV) каждого действия методом Монте-Карло.Показывает на экране, что выгоднее сделать прямо сейчас.
ИИ против русского налогового права, часть 2: тестируем топовые reasoning LLM на RuTaR
Этот пост для нашего тг-канала Pro AI написал мой коллега Александр Мигаль, специалист по компьютерной лингвистике и один из авторов RuTaR В прошлой статье мы рассказали о RuTaR — большом открытом датасете на русском языке, разработанном для оценки способностей LLM к рассуждению в сфере налогового права. Среди прочего мы тогда запустили серию тестов, чтобы выяснить, как сильные модели справляются с задачами, требующими логического вывода с использованием RAG или без него, в варианте “из коробки”.
Как научить нейросеть работать руками: создание полноценного ИИ-агента с MCP и LangGraph за час
Друзья, приветствую! Надеюсь, успели соскучиться.Последние пару месяцев я с головой ушёл в исследование интеграции ИИ-агентов в собственные Python-проекты. В процессе накопилось немало практических знаний и наблюдений, которыми просто грех не поделиться. Поэтому сегодня я возвращаюсь на Хабр — с новой темой, свежим взглядом и с намерением писать чаще.На повестке дня — LangGraph и MCP: инструменты, с помощью которых можно создавать действительно полезных ИИ-агентов.
