Сколько примеров нужно, чтобы проверить безопасность AI-приложения
С этим вопросом мы столкнулись при улучшении нашего продукта для red-teaming. Вы реализовали приложение, меры безопасности для него, и проверили, что все работает. Если приложение выдержало все попытки обойти защиту, хочется считать проверку успешной. Но, возможно, их было недостаточно, чтобы обнаружить нарушения. В статье описываем решение, которое помогает различать «нарушений не нашли» от «у нас данных недостаточно».
Стадии компании до биржи: что значат раунды и как читать новости о них
В новостях о технологических компаниях каждую неделю встречается одна и та же формула: «компания привлекла столько-то в раунде X при оценке во столько-то». По такой фразе сложно понять, на каком этапе находится бизнес, кто вложил деньги и далеко ли ему до выхода на биржу.В статье проходим путь компании от первых денег до IPO по классификации венчурных раундов. Для каждой стадии объясняем, кто инвестирует, сколько обычно привлекают и что есть у компании к этому моменту. Примеры берём из ИИ-рынка 2025–2026 годов.
Ошибки нейросетей – не повод для шуток, а список правил, которые мы не записали
Привет, Хабр! Меня зовут Дмитрий Старов, я руковожу департаментом «Инструменты и технологии разработки» в компании «Диасофт». В профессии я уже 28 лет, и все эти годы честно работал в том, что про себя называю «цехом».
1Password представил функцию авторизации для ИИ‑агентов
Менеджер паролей 1Password представил платформу 1Password for Agents, которая предоставит ИИ‑агентам возможности для авторизации без участия пользователя в задачах автоматизации.
Искусственный интеллект в управлении проектами: магия, помощник или генератор новых проблем?
На сцене — руководитель проекта. В отчете, который он через несколько часов предоставит топам, все хорошо: задачи выполняются, бюджет под контролем, критических рисков нет. Только вот за кулисами скрывается одна большая проблема — ключевой разработчик ждет доступы от заказчика уже неделю. Из-за этого тестирование не началось, а команда продолжает планировать работы так, будто ничего не произошло. Добро пожаловать на голодные игры в мир управления проектами, где между статусом в системе и реальным положением дел иногда простирается пропасть.
Depth Spectrum: Tool Operation <-> Whitebox Engineering
Привет, <username>!Начинаю цикл статей про инженерную культуру. Сегодня хотелось бы разобрать концепцию спектра - глубины инженерного понимания и исследования технологий.На одном полюсе - Tool Operation, на другом - Whitebox Engineering. Это не булевый флаг, хороший/плохой подход, а качественная шкала, в итоге помогающая найти грамотные решения и избежать множества проблем.
Чат на сайте не должен врать: почему наш ассистент иногда честно отвечает «точного ответа нет»
Представьте: посетитель интернет-магазина спрашивает в чате, сколько дней на возврат. Бот бодро отвечает: «30 дней, без вопросов». На сайте при этом написано 14. Через три недели покупатель приходит с товаром и скриншотом переписки. Спорить с ним бесполезно: «ваш же консультант сказал».
OpsDeck за три недели: ИИ‑агент, который сам ходит на хосты, и ещё восемь релизов
OpsDeck за три недели: ИИ‑агент, который сам ходит на хосты, и ещё восемь релизов
