Часть 6: Безопасность и приватность в голосовом управлении — как защитить умный дом от утечек и взломов
От диплома до продакшена: Как я создавал архитектуру ИИ-проекта для…Автор: Алексей Бобрешов, руководитель отдела искусственного интеллекта в федеральном холдинге Категория: Искусственный интеллект, безопасность, умный дом, приватность *Это продолжение серии статей.Введение: Ошибки, которые я осознал (слишком поздно - нет, нет ничего слишком, есть цена ошибки)Когда я начинал работу над дипломным проектом «Умный дом» в 2020–2021 годах, моя голова была забита другими вопросами:Как добиться точности распознавания выше 90%?
ИИ-агент сказал «сделано». Но сделал ли он на самом деле?
Deterministic Commitment Layer: архитектура верификации агентных систем и первый десктопный инструмент для её практического применения«Ты веришь агенту на слово. Но у агента нет слов — только токены» Проблема, о которой мы знаем, но делаем вид, что не замечаемНа прошлой неделе Хабр опубликовал материал о том, как компании платят до 300 000 рублей в месяц за «скрытый аутсорс» задач в ChatGPT. История получила резонанс — но обсуждение ушло не туда. Говорили о доверии, об этике, о трудовом договоре.
В Австралии сотрудники KPMG использовали ИИ для списывания на тестах по применению технологии
По данным издания The Australian Financial Review, с июля 2025 года более двух десятков сотрудников аудиторской компании KPMG в Австралии использовали искусственный интеллект для списывания на внутренних экзаменах по применению технологий ИИ.
KPMG снизила гонорар корпоративному бухгалтеру из-за ИИ
Крупнейшая аудиторских компания KPMG смогла снизить гонорар своему бухгалтеру — британской фирме Grant Thornton UK — так как сослалась на то, что использование искусственного интеллекта должно сделать работу дешевле.
OWASP Top 10 for Agentic Applications for 2026: Разбор главных угроз завтрашнего дня
Привет, Хабр! С вами снова Сергей Зыбнев, автор теле... а об этом позже. После нашего глубокого погружения в OWASP AI Testing Guide, пришло время заглянуть в будущее, которое наступит менее чем через месяц. Сегодня мы разберем еще один важнейший документ от OWASP, который смотрит на шаг вперед — OWASP Top 10 for Agentic Applications for 2026.
Уязвимость в Microsoft Copilot использует сбои в журналах аудита
Недавно обнаруженная уязвимость M365 Copilot позволяет пользователям получать доступ к информации о файлах без записи активности в журнал аудита. Эта проблема возникла случайно, а не является результатом сложной атаки.
Аргументы в пользу внедрения аудита в системы ИИ перед масштабированием
Структуры оркестрации для сервисов ИИ выполняют множество функций на предприятиях. Они не только определяют, как взаимодействуют приложения или агенты, но и позволяют администраторам управлять рабочими процессами и агентами, а также проводить аудит своих систем.
