безопасность.

Безопасность ИИ в продакшене: на что смотреть, прежде чем станет поздно

Приветствую всех читателей! Эта статья — расширенная версия моего доклада «Безопасность ИИ в продакшене: на что смотреть, прежде чем станет поздно». На доклад было 40 минут, поэтому многое пришлось сократить до одной фразы на слайде. Здесь я собрал то, что не влезло: примеры кода с исправлениями, подробности инцидентов, ссылки на первоисточники и ответы на вопросы, которые задают после выступления.

продолжить чтение

Скандал вокруг Nvidia: шпионские обвинения, падение на $200 млрд и тень Megaspeed

Крупнейший в мире производитель ИИ-чипов компания Nvidia и её генеральный директор Дженсен Хуанг оказались в центре международного шпионского скандала.

продолжить чтение

Как искать майнеры в Windows без базы вирусов: подпись, место запуска и командная строка (на примере Electron-помощника)

Началось с того, что родственники в очередной раз позвонили: «компьютер тормозит». Я приехал, открыл диспетчер задач и за десять минут нашёл всё то же самое, что находил в прошлые разы. Неподписанный exe со случайным именем в AppData. Процесс svchost.exe, который почему-то лежит в «Загрузках». Папка с документами, открытая по сети для всех. Файл пароли.txt на рабочем столе. Ничего хитрого, обычный набор. Я подумал, что эти десять минут можно автоматизировать, но так, чтобы результат понял человек, который не знает, что такое автозагрузка.

продолжить чтение

Безопасность АСУ ТП: как выстроить защиту без капитальных вложений

Практическое руководство для малых и средних организаций в условиях роста кибермошенничества и экономических рисков

продолжить чтение

Мышь, робот и Claude: эксперимент, который потребовал вмешательства людей

ИИ-агент выбрал экспериментальную генную терапию и управлял установкой, которая ввела её в мозг живой мыши. Об этом сооснователь Exin Therapeutics Габриэль Окана Сантеро рассказал WIRED. Ветеринар подготовил доступ к мозгу, человек утверждал план, а рядом была кнопка аварийной остановки.

продолжить чтение

Как я написал линтер для Model Context Protocol (MCP) и нашел баги в официальных серверах Anthropic

С выходом Model Context Protocol (MCP) от Anthropic разработчики по всему миру бросились подключать LLM (Claude Desktop, Claude Code, Cursor, автономных агентов) к внешним сервисам, локальным файлам и базам данных. Идея великолепная — единый стандартизированный протокол на базе JSON-RPC 2.0 для предоставления контекста и инструментов.Но когда вы начинаете писать и отлаживать собственный MCP-сервер, быстро выясняется неприятная правда: инструментов для тестирования и статического анализа протокола в экосистеме практически не было.В итоге разработчики наступают на одни и те же грабли:Одинокий console.log("Connected to DB")

продолжить чтение

AI в управлении уязвимостями: помощник, оружие и новая мишень одновременно

📚Это часть 19 серии “Управление уязвимостями для самых маленьких” - практического руководства по VM с нуля. Главы самостоятельны, но если хочется по порядку, оглавление и все части серии тут.

продолжить чтение

«Счастье для всех, даром, и пусть никто не уйдёт обиженный»

Наверняка вы узнали цитату, которую я использовал для заголовка. Это фраза принадлежат Артуру Барбриджу, молодому идеалисту, который погиб по дороге к Золотому Шару в произведении братьев Стругацких "Пикник на обочине".Не обещаю, что смогу выполнить роль Золотого Шара, но вывод к которому я пришел в результате многих лет размышлений, как мне кажется, может привести к такому результату.С чего все началось

продолжить чтение

Сколько примеров нужно, чтобы проверить безопасность AI-приложения

С этим вопросом мы столкнулись при улучшении нашего продукта для red-teaming. Вы реализовали приложение, меры безопасности для него, и проверили, что все работает. Если приложение выдержало все попытки обойти защиту, хочется считать проверку успешной. Но, возможно, их было недостаточно, чтобы обнаружить нарушения. В статье описываем решение, которое помогает различать «нарушений не нашли» от «у нас данных недостаточно».

продолжить чтение

Важен ли интеллект в промышленном дизайне?.. или как спалить клиента

Я пишу вам эти строки из горящего танка дома - примерно так могла бы начинаться эта статья, если бы я слепо следовал инструкциям на упаковке.Сегодня мы разберём печальный кейс когда промдизайн делают не понимая зачем, а приёмка работы осуществляется... Тут я хотел обсценно охарактеризовать работника фабрики, но потом увидел сколько платят этому специалисту и понял, что анекдот: — Что должен делать сотрудник за такую зарплату? — Ничего, и даже немножечко вредить. походу нифига не анекдот.Но зачем вредить конечному клиенту? Я то тут при чём? А мои дети?

продолжить чтение

123456...10...19