Можно ли доверять ИИ при покупках? Проверка ChatGPT, Gemini и Perplexity
ChatGPT, Gemini и Perplexity могут направлять покупателей на поддельные интернет-магазины и неработающие сайты. Это показало исследование компании Podqi, которая занимается защитой интеллектуальной собственности. Подозрительные адреса встречались в 15% ответов Perplexity, 8% ответов ChatGPT и 4% ответов Gemini. При этом исследователи учитывали как рекомендации таких сайтов, так и нейтральные упоминания и предупреждения об опасности.
Безопасность ИИ в продакшене: на что смотреть, прежде чем станет поздно
Приветствую всех читателей! Эта статья — расширенная версия моего доклада «Безопасность ИИ в продакшене: на что смотреть, прежде чем станет поздно». На доклад было 40 минут, поэтому многое пришлось сократить до одной фразы на слайде. Здесь я собрал то, что не влезло: примеры кода с исправлениями, подробности инцидентов, ссылки на первоисточники и ответы на вопросы, которые задают после выступления.
Скандал вокруг Nvidia: шпионские обвинения, падение на $200 млрд и тень Megaspeed
Крупнейший в мире производитель ИИ-чипов компания Nvidia и её генеральный директор Дженсен Хуанг оказались в центре международного шпионского скандала.
Передать данные ИИ и не унести их во внешний интернет: опыт ЕДИНОГО ЦУПИС во внедрении Shtab AI
За годы работы с данными компании научились хранить и использовать их так, чтобы не выпускать наружу. По крайней мере, некоторые. Но ИИ подкинул новые вызовы. С одной стороны, без него уже никуда, с другой — если передавать внешней модели данные без защиты, это может обернуться катастрофой. Так что внедрять ИИ в бизнес нужно с умом. А как — расскажем на примере успешного кейса финансовой компании. Передаем слово спикеру.Всем добрый день! Меня зовут Борис Кузнецов, я руководитель Управления стратегических проектов в ЕДИНОМ ЦУПИС @1cupis
Как проверить, что ИИ-приложение действительно восстановилось после сбоя
Итак, резервные копии готовы, инфраструктура восстановлена, приложение снова отвечает на запросы. Но можем ли мы доверять его ответам? После сбоя ИИ-помощник рискует использовать устаревшие документы, возвращать отозванные права доступа и повторно выполнять действия, которые уже совершил. Разберемся, как избежать таких ошибок при восстановлении RAG-приложения.
Моё исследование средств выявления уязвимостей в скиллах
Пока делал CEO AI (моё виденье помощника в работе), решил проверить, можно ли использовать сканеры для проверки скиллов перед подключением. Собрал 12 синтетических пакетов и прогнал через Cisco Skill Scanner, NVIDIA SkillSpector и AgentVerus без
Облако и on-premise в одном решении: кто защитит ваши данные?
Привет, Хабр! Уверен, что многие из вас знают о неприятных событиях, произошедших с инфраструктурой дата-центров в России. Наши коллеги по индустрии ищут разные способы защиты ЦОД и самого драгоценного – данных клиентов в этих дата-центрах, а владельцев бизнеса крепко задумались – а так ли безопасно хранить все данные и сервисы у внешнего облачного провайдера? Есть один вариант для максимальной защиты данных, рассказываем про него в тексте ниже.Как изменилась ситуация на рынке облаков?
GlowByte приняла участие в конференции Smart Data — 2026 в Китае
GlowByte приняла участие в 8-й международной конференции FanRuan Smart Data Conference — 2026, которая прошла 10–12 сентября в Ухане, в отеле InterContinental Wuhan. Лозунг конференции в этом году — «Данные и ИИ. Что дальше» (Data & AI Next).
Замедлить нельзя продолжать: почему лидеры ИИ призывают остановиться и кто против
В субботу, 12 сентября, Дарио Амодеи, глава Anthropic, одной из крупнейших компаний в сфере искусственного интеллекта, опубликовал пост, в котором призвал американских и мировых ИИ-лидеров замедлить развитие технологии из-за серьёзных рисков. Амодеи также предложил трёхэтапный план по замедлению прогресса передовых ИИ-моделей. Его уже поддержали главы других корпораций — Сэм Альтман из OpenAI и Илон Маск, владеющий стартапом xAI.
