Мусоровозы в США хотят оснащать ИИ‑камерами для проверки строительных норм
Власти Кейп‑Корала во Флориде рассматривали возможность оснащения мусоровозов камерами с поддержкой ИИ, которые будут фотографировать объекты недвижимости во время выполнения бригадами своих обычных маршрутов сбора мусора.
Гендиректор Hugging Face призвал к «радикальной прозрачности» после взлома со стороны OpenAI
После того, как OpenAI недавно признала, что одна из её моделей взломала системы ИИ Hugging Face, генеральный директор платформы Клем Деланге призвал к «радикальной прозрачности», попросив компанию «опубликовать следы от “агентов-изгоев“, чтобы всё исследовательское сообщество могло изучить произошедшее».
Чем вообще занимается служба безопасности GitHub?
В гитхабе прямо сейчас есть тысячи репозиториев, которые распространяют вирусы. Любой из вас может найти такие репозитории и для этого вам не нужны какие-то специальные знания. Вам достаточно воспользоваться обычным поиском на сайте гитхаба.Такие репозитории существуют уже 2 года. У гитхаба есть миллиарды долларов, служба безопасности и искусственный интелект. Почему они за 2 года не решили эту проблему?Сначала мы посмотрим на уже найденные репозитории, найдем в них одинаковые паттерны, а затем по этим паттернам найдем другие репозитории.
Анти‑паттерн ИИ: Смертельная триада
Каждую неделю мы обсуждаем новую дыру в ИИ‑агентах. Здесь была промт‑инъекция. Там утекли секреты. Тут агент удалил базу, а у них отправил письмо не тому человеку. Складывается ощущение, что уязвимостей становится всё больше. На мой взгляд, почти все они сводятся к одному архитектурному анти‑паттерну. Если научиться замечать его, многие проблемы станут очевидны ещё на этапе проектирования. В русскоязычных публикациях эту модель в основном упоминают вскользь; подробных разборов почти нет. Мне же кажется, что это настолько общий принцип, что он заслуживает отдельной статьи.
GitHub изменил программу вознаграждений за обнаружение ошибок
Инструменты искусственного интеллекта значительно упростили поиск ошибок в программном обеспечении и создание патчей, в результате чего такие проекты, как ядро Linux, получают гораздо больше обратной связи от общественности. GitHub также наблюдает рост числа участников своей программы Bug Bounty и вносит в неё некоторые изменения. Компания решила формализовать постоянную закрытую/эксклюзивную VIP-программу для квалифицированных исследователей, которые предоставляют высококачественные отчёты.
В Конгресс США внесли законопроект, позволяющий властям замедлять и отключать системы ИИ
В Палату представителей США внесли документ под названием «Закон о выключателе ИИ» (AI Kill Switch Act), который обяжет разработчиков нейросетей сохранять возможность для властей замедлять, приостанавливать и отключать работу своих языковых моделей. Законопроект представили члены нижней палаты американского парламента демократ Тед Лью и республиканец Натаниэль Моран.
LG по указанию Microsoft удалит всплывающую рекламу McAfee из своего установщика приложений
LG удалит всплывающую рекламу McAfee из приложения для мониторов, которое незаметно установили на подключённые компьютеры на Windows. Компания идёт на такой шаг по требованию Microsoft.
Вашего AI-агента уже перехватили
Привет, Хабр! Сегодня почти у всех часть задач (если не все) переложены на агента. А там где массовость — всегда и высокие риски для безопасности, так как подобрав правильно вектор атаки один раз, злоумышленник имеет возможность эксплуатировать уязвимость снова и снова.Он вам не агент
ИИ в ИБ: где он реально работает, а где — просто модный ярлык
Ещё три года назад словосочетание «искусственный интеллект» в информационной безопасности встречалось в основном в презентациях крупных вендоров. Сегодня ситуация изменилась. Практически любой продукт на рынке так или иначе использует AI (ИИ), ML, LLM или другие аббревиатуры, связанные с искусственным интеллектом.
