Как приручить LLM-дракона. Архитектура корпоративного AI-шлюза и ограничения классических прокси в работе с нейросетями
Первый шаг при стихийном внедрении нейросетей — закрыть прямой доступ наружу и направить запросы через привычный корпоративный прокси. Однако у генеративного ИИ иная специфика: стандартные прокси не умеют выявлять конфиденциальные данные в ответах моделей, не видят утечек в промптах и не защищают от перерасхода токенов.Это первая часть цикла о создании корпоративного AI-шлюза: почему классические балансировщики не рассчитаны на работу с LLM, как устроена специализированная архитектура и как платформа AI Оптимум обеспечивает контроль контекста, прозрачный учет токенов и безопасность данных.
ИИ против традиционных приложений в ЦОД
Привет, Хабр!Меня зовут Андрей Бирюков. Я — независимый эксперт в области ИТ и ИБ, преподаю в учебных центрах и пишу статьи и книги.Что из себя представляет современный центр обработки данных? Огромный зал со стройными рядами работающих серверов, СХД, коммутаторов и другого оборудования… Вроде бы всё так, но если заглянуть под капот, то выяснится, что нынешние ЦОДы перестали быть однородной средой.А ведь ещё лет десять назад проектировщик сети
Чем хорош роутер-миньон: сравниваю с Cudy за $50 и терминалом от провайдера
Лента второй месяц подсовывает мне жёлтого миньона. Сначала я пролистывал, потом начал читать комментарии, а теперь сижу и пишу про него статью. Реклама, видимо, сработала.Дома у меня Cudy TR3000 v1 за полсотни долларов, на котором собран шлюз на OpenWrt, и выданный провайдером Transservice TS-4022. Про миньона везде пишут примерно одно: выглядит как игрушка, работает неожиданно прилично. Мне стало любопытно, есть ли под этим корпусом что-то, чего нет у моего Cudy, и не пора ли выносить железку провайдера на балкон.
ФАС начала применять новые полномочия по контролю доступа провайдеров в дома
ФАС России начала применять новые полномочия по контролю доступа операторов связи в многоквартирные дома. Служба уже возбудила несколько дел, сообщили
Роутеры по всему миру оказались уязвимы из‑за 16-летнего бага в старом коде Broadcom для WPS
Исследователь Квентин Кайзер рассказал об уязвимости WPSplinter, исправление которой компания Broadcom подготовила ещё восемь лет назад, но оно так и не дошло до маршрутизаторов. Более того, отсутствие идентификатора CVE сделало эту проблему невидимой для систем оповещения и механизмов распространения обновлений, на которые полагаются производители роутеров и интернет‑провайдеры.

