Обнаружение уязвимостей ИИ агентов. Часть II: Исполнение кода
Основные выводы· В этом исследовании мы рассмотрели уязвимости, которые влияют на любые агенты на базе Large Language Model (LLM), которые могут выполнять код, загружать документы и получать доступ в Интернет.· Они могут позволить злоумышленникам запускать несанкционированный код, вставлять вредоносный контент в файлы, получать контроль и допускать утечку конфиденциальной информации.· Организациям, использующим искусственный интеллект (ИИ) для математических вычислений, анализа данных и других сложных процессов, следует проявлять бдительность в отношении связанных с этим рисков безопасности.
«Яндекс» получил сертификат соответствия требованиям ответственной разработки ИИ ISO-IEC 42001
«Яндекс» подтвердил соответствие международному стандарту ответственной разработки искусственного интеллекта. Компания первой в России получила сертификат ISO/IEC 42001. Документ подтверждает, что «Яндекс» ответственно создаёт и применяет ИИ.Независимый аудит проверил процессы разработки и внедрения YandexGPT. Эксперты установили, что они соответствуют требованиям стандарта. Проверка охватывала вопросы этики, прозрачности и безопасности.
Компьютер, как мозг
Данная статья содержит краткое описание метода связе-ориентированного моделирования и метода разработки само-описанных приложений, работающих на основе этих моделей. Те преимущества, которые дает этот метод позволяют предположить, что гиперсетевая структура мозга – когнитом – устроена подобно этой модели. На основе этого предположения показано, как компьютер может демонстрировать те способности, которые ранее приписывались исключительно мозгу. В частности, работать без заранее написанной программы, иметь сознание, свойства личности и свободу воли.
В Минцифры думают об ИИ-помощнике для всех
Министр цифрового развития М. ШадаевПо информации ТАСС
IT-рынок в 2025 году: тренды и вызовы. Как искать работу в текущих реалиях?
Привет, хабровцы!👋Меня зовут Никита, я отвечаю за подбор IT-специалистов и выстраивание эффективных процессов найма в компании Домклик. Сегодня поделюсь своим экспертным мнением относительно того, что происходит на рынке IT. Вопросов по этой теме, на самом деле, много, поскольку правила игры меняются слишком быстро. А что делать — 2025 год, он такой. Тут нужно уметь выкручиваться и быстро адаптироваться под новые условия.
Как автоматизировать обучение ML-моделей и сократить время вывода в прод до двух дней
В прошлой статье мы говорили о подходе к рекомендации сервисов на основании автоматизации расчета склонностей клиентов и единого репозитория предложений. В ней мы углубились в создание репозитория, описание логики категоризации и набора в кампании для коммуникации с клиентами. Сегодня мы подробнее расскажем про наш подход к автоматизации построения и вывода в прод набора моделей.Как мы выбирали модельОдной из задач, которые мы решали — сохранение продаж при уменьшении числа коммуникации. Решили общаться только с теми абонентами, для которых продукт релевантен.
«Сначала ты игнорируешь эмоции, потом люди игнорируют тебя»: как эмоциональный интеллект помогает управлять командой
Кажется, что в работе важны только процессы и дедлайны. Мол, на работе все взрослые люди: есть задача — делай. Но в реальности игнорирование эмоций часто ломает сами процессы: команда молчит на встречах, боится задавать вопросы, теряет инициативу, выгорает и увольняется. В итоге проект начинает тормозить, лиду приходится тащить всё на себе и тот сгорает уже сам.
AI-бот для QA-инженеров: как я сделал Telegram-ассистента для ежедневной прокачки
Что, если бы кто-то 4 раза в день напоминал тебе важное из мира QA — с примерами, объяснениями и без воды? Я сделал такого помощника. Привет! Меня зовут Евгений. Я — Full-Stack QA Engineer в Devscribed и сегодня хочу поделиться своим экспериментом QA Mentor Bot — Telegram‑бот, который четыре раза в день отправляет случайный вопрос по тестированию из базы данных и сразу же публикует развёрнутый ответ на него с помощью AI в Telegram‑канале.Зачем мне понадобился QA Mentor Bot У этого проекта было две цели: 🎯 Прокачать свои QA‑навыки.Регулярная самоподготовка:
