безопасность.

На волне хайпа: Security-аудит AI-агента Clawdbot

TL;DR: Провёл глубокий аудит безопасности популярного open-source AI-агента. Нашёл eval(), отсутствие rate limiting, и составил каталог из 50 реальных сценариев атак. Под катом — как защититься, если вы уже дали ИИ доступ к своей системе.Введение: AI-агенты захватывают мир разработки2026 год. AI-агенты перестали быть экзотикой. Теперь каждый второй разработчик использует какого-нибудь «умного помощника» с доступом к терминалу, браузеру и файловой системе.Звучит удобно. Но возникает вопрос: насколько это безопасно?Я решил это выяснить. Взял популярный open-source проект — Clawdbot

продолжить чтение

Я заставил 14 нейросетей врать: Большой аудит галлюцинаций 2026

Или как я потратил неделю, чтобы доказать: ИИ сегодня — это красноречивые лжецы в костюмах экспертов.В конце 2025 года я устал читать маркетинг в стиле «наша модель умнее ChatGPT на 15%». Умнее по какому бенчмарку? MMLU? Это всё равно что мерить интеллект человека по результатам ЕГЭ.Я решил проверить одну простую вещь: способна ли нейросеть сказать «я не знаю»?Потому что в реальном мире — в медицине, праве, финансах — ответ «я не уверен» стоит дороже любой красивой, но выдуманной истории.Ниже — результаты слепого тестирования 14 топовых LLM (включая Claude 4.5, GPT-5.2, Gemini 3, Qwen, YandexGPT и

продолжить чтение

ИИ в промышленном IT: где заканчивается хайп и начинается измеримый эффект

В этом обзоре мы собрали ключевые идеи и практические инсайты из серии подкастов, записанных на конференции Industrial++. С руководителями AI- и IT-направлений из крупных промышленных компаний на мероприятии пообщались Василий Саутин, коммерческий директор платформы «Сфера» (ИТ-холдинг Т1) и его коллега, директор по продуктам платформы «Сфера», Сергей Полиненко.

продолжить чтение

OpenAI Guardrails — безопасность или лишь её иллюзия?

Guardrails — это фреймворк безопасности для LLM-приложений, предназначенный для автоматической проверки входных и выходных данных с помощью настраиваемых правил и проверок.В экосистеме OpenAI guardrails появились в 2025 году. На сегодняшний день они доступны как в Agent Builder, так и в виде Python SDK — openai-guardrails.

продолжить чтение

Топ-5 российских low-code платформ в 2026 году

Привет! Меня зовут Виталий. Уже более 7 лет я помогаю внедрять IT‑решения для бизнеса. Работал и с облаком, и с он‑премом, по пути знакомился с экосистемами разных вендоров (Google, Microsoft VK, Яндекс, Сбер и др.). Довелось пообщаться с разными компаниями, клиентами, пользователями, собрать интересный опыт. Сейчас развиваю платформу Directum RX и нередко участвую в различных рейтингах, топах, обзорах low‑code/no‑code платформ. Наконец‑то у меня дошли руки поделиться мнением на этот счет.Пойдем по порядку:Что обещают, если купить low/no‑code платформу?Мысль, к которой я пришёл спустя годыГлавное из моего опыта

продолжить чтение

GoDaddy запустила каталог проверенных агентов ИИ

Доменный регистратор GoDaddy запустил маркетплейс Agent Name Service Marketplace (ANS Marketplace) — каталог проверенных ANS агентов ИИ, которые должны быть обнаруживаемыми, идентифицируемыми и криптографически проверяемыми. 

продолжить чтение

Исповедь взломанного разума: как хакеры заставили ИИ поверить, что он — герой, спасающий мир

продолжить чтение

Как «приватные» VPN-расширения слили переписки 8 миллионов пользователей с ChatGPT и Claude

Команда AI for Devs подготовила перевод резонансного расследования о том, как "приватные" VPN-расширения на самом деле зарабатывают на ваших ИИ-переписках. 8 миллионов пользователей, Featured-бейджи от Google и Microsoft, полный доступ к ChatGPT, Claude и Gemini — и всё это утекает дата-брокерам. История о том, почему обещания безопасности в браузере стоит читать особенно внимательно.Несколько недель назад я ломал голову над важным жизненным решением. Как я уже привык делать, я открыл Claude и начал размышлять вслух — раскладывал варианты, взвешивал компромиссы, просил взгляда со стороны.

продолжить чтение

Как LLM-вендоры обращаются с вашими данными: подробный разбор безопасности и конфиденциальности

продолжить чтение

Подходит ли iPhone для корпоративного использования

iPhone уже давно не просто статусная игрушка

продолжить чтение

123456...10...10
Rambler's Top100