Безопасность ИИ в продакшене: на что смотреть, прежде чем станет поздно
Приветствую всех читателей! Эта статья — расширенная версия моего доклада «Безопасность ИИ в продакшене: на что смотреть, прежде чем станет поздно». На доклад было 40 минут, поэтому многое пришлось сократить до одной фразы на слайде. Здесь я собрал то, что не влезло: примеры кода с исправлениями, подробности инцидентов, ссылки на первоисточники и ответы на вопросы, которые задают после выступления.
Скандал вокруг Nvidia: шпионские обвинения, падение на $200 млрд и тень Megaspeed
Крупнейший в мире производитель ИИ-чипов компания Nvidia и её генеральный директор Дженсен Хуанг оказались в центре международного шпионского скандала.
Как искать майнеры в Windows без базы вирусов: подпись, место запуска и командная строка (на примере Electron-помощника)
Началось с того, что родственники в очередной раз позвонили: «компьютер тормозит». Я приехал, открыл диспетчер задач и за десять минут нашёл всё то же самое, что находил в прошлые разы. Неподписанный exe со случайным именем в AppData. Процесс svchost.exe, который почему-то лежит в «Загрузках». Папка с документами, открытая по сети для всех. Файл пароли.txt на рабочем столе. Ничего хитрого, обычный набор. Я подумал, что эти десять минут можно автоматизировать, но так, чтобы результат понял человек, который не знает, что такое автозагрузка.
Безопасность АСУ ТП: как выстроить защиту без капитальных вложений
Практическое руководство для малых и средних организаций в условиях роста кибермошенничества и экономических рисков
Мышь, робот и Claude: эксперимент, который потребовал вмешательства людей
ИИ-агент выбрал экспериментальную генную терапию и управлял установкой, которая ввела её в мозг живой мыши. Об этом сооснователь Exin Therapeutics Габриэль Окана Сантеро рассказал WIRED. Ветеринар подготовил доступ к мозгу, человек утверждал план, а рядом была кнопка аварийной остановки.
Как я написал линтер для Model Context Protocol (MCP) и нашел баги в официальных серверах Anthropic
С выходом Model Context Protocol (MCP) от Anthropic разработчики по всему миру бросились подключать LLM (Claude Desktop, Claude Code, Cursor, автономных агентов) к внешним сервисам, локальным файлам и базам данных. Идея великолепная — единый стандартизированный протокол на базе JSON-RPC 2.0 для предоставления контекста и инструментов.Но когда вы начинаете писать и отлаживать собственный MCP-сервер, быстро выясняется неприятная правда: инструментов для тестирования и статического анализа протокола в экосистеме практически не было.В итоге разработчики наступают на одни и те же грабли:Одинокий console.log("Connected to DB")
AI в управлении уязвимостями: помощник, оружие и новая мишень одновременно
📚Это часть 19 серии “Управление уязвимостями для самых маленьких” - практического руководства по VM с нуля. Главы самостоятельны, но если хочется по порядку, оглавление и все части серии тут.
«Счастье для всех, даром, и пусть никто не уйдёт обиженный»
Наверняка вы узнали цитату, которую я использовал для заголовка. Это фраза принадлежат Артуру Барбриджу, молодому идеалисту, который погиб по дороге к Золотому Шару в произведении братьев Стругацких "Пикник на обочине".Не обещаю, что смогу выполнить роль Золотого Шара, но вывод к которому я пришел в результате многих лет размышлений, как мне кажется, может привести к такому результату.С чего все началось
Сколько примеров нужно, чтобы проверить безопасность AI-приложения
С этим вопросом мы столкнулись при улучшении нашего продукта для red-teaming. Вы реализовали приложение, меры безопасности для него, и проверили, что все работает. Если приложение выдержало все попытки обойти защиту, хочется считать проверку успешной. Но, возможно, их было недостаточно, чтобы обнаружить нарушения. В статье описываем решение, которое помогает различать «нарушений не нашли» от «у нас данных недостаточно».
Важен ли интеллект в промышленном дизайне?.. или как спалить клиента
Я пишу вам эти строки из горящего танка дома - примерно так могла бы начинаться эта статья, если бы я слепо следовал инструкциям на упаковке.Сегодня мы разберём печальный кейс когда промдизайн делают не понимая зачем, а приёмка работы осуществляется... Тут я хотел обсценно охарактеризовать работника фабрики, но потом увидел сколько платят этому специалисту и понял, что анекдот: — Что должен делать сотрудник за такую зарплату? — Ничего, и даже немножечко вредить. походу нифига не анекдот.Но зачем вредить конечному клиенту? Я то тут при чём? А мои дети?

