Anthropic зафиксировали первый официальный случай крупной кибератаки, выполненной с помощью ИИ
Команда AI for Devs подготовила перевод статьи о первой зафиксированной кибератаке, почти полностью выполненной ИИ. Атака, где человек нужен лишь для того, чтобы пару раз «подтвердить заказ», — и это уже не фантастика, а реальность 2025 года. Недавно мы утверждали, что в кибербезопасности наступил переломный момент
Автомобиль по-прежнему средство передвижения, или снова роскошь?
Недавно я переехала из маленького городка в большой город. Раньше у меня был автомобиль, а сейчас он ушел к другому владельцу, и как будто бы надо купить новый, но я всё чаще задумываюсь, а нужен ли он мне вообще?!
Если в кране нет воды… значит сработали моллюски
В Варшаве судьбу водопровода решают восемь моллюсков. Не инженеры, не лаборанты с пробирками, не автоматические анализаторы за миллионы злотых, а обычные речные беззубки размером с ладонь, выловленные в чистых водоемах. Они сидят в проточных резервуарах на главной насосной станции, фильтруют воду и... всё. Пока створки раковин открыты - два миллиона человек получают воду из кранов. Стоит моллюскам почуять что-то неладное и захлопнуться - подача автоматически блокируется по всему городу.
RedCodeAgent: автоматическая платформа для red-teaming и оценки безопасности code agents
Команда AI for Devs подготовила перевод статьи о RedCodeAgent — первой полностью автоматизированной системе red-teaming для проверки безопасности кодовых агентов. Исследователи из Чикаго, Оксфорда, Беркли и Microsoft Research показали: даже самые продвинутые LLM-агенты могут генерировать и выполнять уязвимый код. RedCodeAgent не просто тестирует ответы — он атакует, анализирует поведение и находит уязвимости, которые пропускают все остальные методы.
Как Россия регулирует безопасность ИИ
Появление новых технологий часто открывает новые пространства для злоумышленников - возникают новые вектора атак, а технологии защиты зачастую не поспевают за ними.В таких условиях коммерческие институты инициируют разработку фреймворков, стандартов и продуктов новых классов. Еще эффективнее идет развитие, когда коммерческий блок объединяет усилия с регуляторами, сейчас такое содействие организовывается, например, в рамках консорциума "Исследований безопасности технологий ИИ".
Как бояться интернета правильно
От автора: очень долго не знал, с чего начать свою книгу о кибербезопасности для детей и родителей. Прям несколько месяцев мучился. Уже было написано несколько глав, а вводные слова все не приходили. И вот случайно у кого-то в ленте увидел заметку о поездке в Берн — и вот оно, сложилось!
Зачем нам спецсимволы в паролях?
В английском алфавите 26 букв. С учётом заглавных букв (+26) и цифр (+10) получается 62 символа. Это значит, что для взлома пароля длиной символов, состоящего только из букв и цифр, злоумышленник должен перебрать
Парадокс безопасности локальных LLM
Команда AI for Devs подготовила перевод исследования о парадоксе безопасности локальных LLM. Если вы запускаете модели на своём сервере ради приватности, эту статью стоит прочитать. Эксперименты показывают: локальные модели вроде gpt-oss-20b куда легче обмануть, чем облачные а��алоги. Они чаще вставляют вредоносный код, не замечая подвоха, и превращаются в идеальную цель для атак.Если вы запускаете локальную LLM ради приватности и безопасности, эта статья must have. Наше исследование модели gpt-oss-20b (в рамках Red-Teaming Challenge от OpenAI
