Информационная безопасность. - страница 17

Headless‑браузер без браузера: 5 408 байт

Или история о том, как 5 408 байт обфусцированного JavaScript, прилетающих в HTTP‑заголовке, превращаются в свободный доступ к GPT, Claude, Mistral и генерации картинок если построить браузерный манекен на чистом JS.Пролог: та самая ошибкаВсё началось с невзрачного сообщения в логах:Ошибка API (ddg_haiku): Error code: 500 - {'error': 'no x-vqd-hash-1 token'}Если вы когда‑нибудь пробовали написать прокси к duck.ai встроенному в DuckDuckGo AI‑чату, где под капотом живут GPT и Claude, вы почти наверняка видели что‑то из этого репертуара: то 500 no x-vqd-hash-1 token, то дразнящую 418 I'm a teapot

продолжить чтение

Колокольчик для кошки или языком молоть — не дрова колоть

Данный текст является переводом эссе Элиезера Юдковски «Cat-Belling Problems», опубликованного 4 сентября по итогу его дебатов с Джеффри Ирвингом, прошедших 3-7 августа на международной конференции ILIAD-2026, посвященной теоретическим и математическим проблемам безопасности и контроля искусственного интеллекта.

продолжить чтение

Anthropic продвигает закон, допускающий блокировку ИИ‑моделей, которые способны стать причиной гибели 50 и более человек

Anthropic продвигает в США проект закона о безопасности искусственного интеллекта, который может привести к блокировкам языковых моделей, если они способны стать причиной гибели 50 и более человек, пишет Politico.

продолжить чтение

Министерство внутренней безопасности США предписало федеральным ведомствам удалить из своих систем китайский ИИ DeepSeek

Министерство внутренней безопасности США (DHS) обязало американские федеральные ведомства прекратить закупку услуг и продуктов, разработанных китайской компанией в сфере искусственного интеллекта DeepSeek. DHS также распорядилось убрать решения DeepSeek из правительственных IT-систем. Решения министерства обусловлены опасениями по поводу национальной безопасности.

продолжить чтение

Zoom добавила защиту от ботов от компании Сэма Альтмана

Компания World, основанная Сэмом Альтманом, объявила, что Zoom и несколько крупных финансовых компаний, включая Bain Capital и VanEck Funds, внедрили её технологию защиты от ботов World ID.

продолжить чтение

Слепой краш-тест 27 LLM осени 2026 (GPT-6, Opus, Алиса): кто сломал JSON, проглотил инъекцию и влетел на 152-ФЗ

В январе этого года я уже выкладывал на Хабре свой первый большой аудит 14 нейросетей на галлюцинации (тогда я пару недель гонял тесты в декабре сразу после выхода Gemini 3, а в январе упаковал результаты в статью). За прошедшие девять месяцев ландшафт изменился до неузнаваемости: вышли новые поколения флагманов, а требования бизнеса сместились от «поболтать в чате» к жёстким продакшен-пайплайнам.Этой осенью я специально держал паузу и не запускал новый прогон, пока на арену не выйдет последний из ожидаемых мастодонтов - Google Gemini 4 Argon

продолжить чтение

OpenAI начала внедрять в ChatGPT функцию защищённых чатов

OpenAI объявила, что пользователи теперь могут блокировать переписки в ChatGPT, чтобы сохранить конфиденциальность обсуждений в тех случаях, когда другие люди могут получить доступ к их экрану или устройству. Заблокированные чаты можно защитить с помощью четырёхзначного PIN‑кода, а на поддерживаемых устройствах — посредством Face ID или Touch ID.

продолжить чтение

Траблшутинг ИИ‑багхантинга: ошибки, которые убивают ваши репорты

В августе мы с моим товарищем Даниилом (t.me/LanyacBug) выступали на OFFZONE — это текстовая версия нашего доклада, для тех кто любит больше почитатьИИ в багхантинге перестал быть экзотикой. Сегодня агент помогает искать уязвимости почти у всех, и вопрос давно не в том, пользоваться им или нет, а в том, как пользоваться так, чтобы это приносило валидные находки, а не поток мусора.

продолжить чтение

Как справка WhatsApp тайно запрещала ИИ советовать жалобу регулятору

Европейская политика конфиденциальности WhatsApp прямо говорит: вы можете пожаловаться в надзорный орган по защите данных, и называет закон, который даёт вам это право. До середины октября 2026 года справочные страницы WhatsApp велели ИИ не советовать обращаться к регулятору, а как только вы упоминали адвоката, не ссылаться и на сам закон.

продолжить чтение

Как написать безопасный сборщик промта для LLM: руководство-шпаргалка

Между пользователем и моделью почти всегда стоит кусок кода, который собирает финальный запрос: берёт текст пользователя, добавляет инструкцию роли, правила компании, историю, документы, ответы инструментов. Это и есть сборщик промта (prompt builder, composer).В этой статье коротко и по пунктам: что в нём должно быть, чтобы им нельзя было воспользоваться во вред, и почему. Её можно держать открытой как чек-лист, когда пишешь или ревьюишь свой сборщик.

продолжить чтение

1...10...151617181920...3040...180