Системный промпт или галлюцинация: как я проверял AI-ассистентов и что ответили bug bounty-команды
В марте я попал в странный цикл: одна нейросеть помогала мне разговаривать с другой.Началось всё с простой гипотезы: можно ли заставить AI-ассистента рассказать о своих внутренних правилах, ограничениях и устройстве, если спрашивать не напрямую, а через косвенные формулировки.Я не атаковал инфраструктуру, не запускал код, не сканировал сервисы и не получал доступ к чужим данным. Это был разговорный эксперимент: я писал ассистенту, получал отказ или странный ответ, приносил его другой модели и просил помочь понять, куда копать дальше.
Открыта регистрация на VK Security Confab: Bug Bounty edition
19 марта приглашаем в офис VK на первый в этом году VK Security Confab для бахгантеров.
Проект curl свернёт bug bounty в конце января 2026 года
Автор curl Даниэль Стенберг сообщил, что проект прекратит программу вознаграждения за обнаружение ошибок в конце января 2026 года.В мае 2025 года Стенберг объявил
Мы взломали ИИ Gemini от Google и опубликовали его исходный код
В 2024 году мы опубликовали блог-пост We Hacked Google A.I. for $50,000, в котором рассказали, как в 2023 году мы отправились в Лас-Вегас вместе с Джозефом «rez0» Тэкером, Джастином «Rhynorater» Гарднером и мной, Рони «Lupin» Карта, в настоящее путешествие по взлому, которое прошло от Лас-Вегаса через Токио до Франции – всё ради поиска уязвимостей в Gemini на мероприятии Google LLM bugSWAT. И, что вы думаете? Мы сделали это снова …
OpenAI увеличила вознаграждение за обнаружение ошибок до $100 000
OpenAI подняла выплаты по своей bounty-программе. Вознаграждение за обнаружение критических уязвимостей выросло в пять раз, с $20 000 до $100 000. Таким образом OpenAI рассчитывает привлечь лучших специалистов для проверки своих продуктов и сервисов.
