Информационная безопасность. - страница 23

Дайджест ИБ, 30 сентября – 6 октября: ИИ-агенты на сайтах властей, Google остановила bug bounty

Новости информационной безопасности за неделю с 30 сентября по 6 октября, по одной строке на событие.Как это сделаноЗа неделю сборщик получил 11 489 материалов из 153 лент, по теме ИБ из них 1 176. Далее отбираются и сверяются вручную. В выпуске 42 новости, 32 из них подтверждены двумя независимыми изданиями и больше. Подробнее на Хабре

продолжить чтение

Swordfish Security обновила фреймворк оценки AI Security

Год назад мы представили Swordfish Secure AI Maturity Model, фреймворк для оценки и развития безопасности ИИ-систем. За это время ИИ-агенты в компаниях получили доступ к инструментам и начали выполнять действия без человека в цикле, а RAG стал стандартом для корпоративных ассистентов. Мы обновили методологию под эту реальность.

продолжить чтение

В ЕС введут штрафы до 15 млн евро за публикацию нейрослопа без маркировки

OpenAI объявила

продолжить чтение

Скам‑бот в Telegram выдал себя таймером: разбор юзербота с реконструкцией на Telethon

Что это юзербот, я понял почти сразу. Аккаунт без username, фото девушки на фоне моря, диалог, который за полчаса доходит до развода и «может на ты перейдём». Интереснее было понять, к чему меня ведут и как эта штука устроена внутри.Деньги и ссылки я никому не отправлял. Всё расследование уместилось в одну ночь и в один личный чат.11 сентября в 15:30 «Мария» написала первой. Увидела меня в группе про IT, хочет попробовать себя в этой сфере и просит посоветовать материалы для старта. Безобидный повод, на который трудно не ответить, особенно если сам работаешь в IT.

продолжить чтение

BlueSec: an open competition where AI agents investigate security incidents

Hi all! I'm Andrey Kuznetsov, and I work on ML in cybersecurity. In our community, FalsePositive, we break down research papers and keep up with what's new in ML. Now we're launching BlueSec, an open competition where AI agents investigate security incidents. Each agent starts with a single piece of evidence, reconstructs the attack on its own and delivers a verdict. The platform scores it on accuracy and how few tool calls it needs. If you work with LLMs and agents, this is a chance to test your skills and your agent's on problems at the intersection of ML and cybersecurity, a field that I think is undergoing even more change than software development. The competition runs online from September 25 to October 10, and you can join from anywhere in the world. The final will be held in Moscow and St. Petersburg, both on-site and online. Sign up on the website.In this post I'll cover:Why we built this kind of competition.How the tasks and scoring work.Where to start if you've never built an agent or investigated an incident.

продолжить чтение

Как убедить людей в том, чего нет, или кризис свободы слова

Многие из вас уже слышали историю о том, как ИИ создал страницу в интернете, после чего в своих ответах начал ссылаться на нее, как на авторитетный источник. О подобных проблемах можно прочитать, например, в этой статье. Не говоря уже про многочисленные видео в социальных сетях по этой теме. Однако, естественно, это ни в коем случае не является проблемой ИИ. Это является проблемой социологии, а также в первую очередь человека. Ведь именно люди придумали социально-поведенческую формулу: информация + ссылка на авторитетный источник = правда

продолжить чтение

Wikimedia сообщила о сбое из‑за действий ИИ от OpenAI

Фонд Wikimedia, управляющий онлайн‑энциклопедией «Википедия», заявил, что из‑за «неконтролируемых» действий ИИ‑агентов OpenAI сервис пережил сбой в мае.

продолжить чтение

OpenCode против пентестера

Введение

продолжить чтение

Сгенерированные в ChatGPT и Codex тексты получат невидимые вотермарки в ЕС

OpenAI внедряет водяные знаки для сгенерированных текстов в инструментах ChatGPT и Codex. Поводом для этого развёртывания стал закон Европейского союза об искусственном интеллекте, который требует от нейросетевых поставщиков обеспечить идентифицируемость сгенерированного контента в машиночитаемом формате. Вотермарки в ChatGPT и Codex пока появятся только для пользователей из ЕС.

продолжить чтение

Маскирование ПДн для LLM: метрика, которую не считает никто, и шесть шлюзов против живого агента

Это первая статья серии: измеряем, что происходит с LLM-агентом, когда шлюз замаскировал данные. Дальше разберём находки по чужим системам и то, что нашлось у нас.1. Зачем это меритьАгент поддержки получает: «Здравствуйте, я Кузнецова Дарья, телефон 8 935 747 66 22, проверьте заказ». До модели доходит «я <PERSON_1>, телефон <PHONE_NUMBER_2>», и она вызывает check_order(phone=…).Тут половина решений на рынке и ломается: инструменту нужен настоящий телефон, по <PHONE_NUMBER_2> заказ не найдётся. Шлюз обязан вернуть реальное значение в аргумент вызова ровно в той форме, в какой написала модель.

продолжить чтение

1...10...212223242526...3040...180