Как я «взломал» популярное приложение и добыл корпоративный токен OpenAI
Благодаря искусственному интеллекту, все больше энтузиастов запускают свои продукты без команды профессиональных разработчиков. Так, например, совсем недавно вышла новость о 18-летних подростках, которые запустили приложение для подсчета калорий и заработали на нем миллионы долларов. Круто, правда?Но давайте взглянем на ситуацию с другой стороны: какое качество у таких "быстрых" проектов и какие уязвимости они могут нести? Здесь я хочу разобрать реальный кейс - уязвимость в одном очень популярном ИИ-приложении, которая открыла мне доступ к корпоративному токену OpenAI.
Google приобретает Wiz: зачем компании мультиоблачные технологии
Во вторник появилась важная новость о том, что Google приобретает стартап в сфере безопасности Wiz за рекордную сумму в 32 миллиарда долларов, но есть одно очень важное уточнение. Google заявляет, что позиционирует Wiz как «мультиоблачное» предложение, то есть оно будет доступно не только пользователям Google.
Без операторов и водолазов: как дронопорты и подводные роботы меняют промышленность
Когда-то дроны казались фантастикой, но сегодня они становятся незаменимыми помощниками на производстве. В СИБУРе это уже реальность: с 2021 года мы не просто тестировали технологии, а построили полноценный дрон-сервис, который экономит миллионы рублей и сотни часов работы. Heavy digital во всей красе!Хотите узнать, как из трёх дронов вырос целый парк из более чем 20 машин, а мониторинг трубопроводов перестал зависеть от человеческого фактора? Тогда давайте разбираться. А рассказывать об этом буду я — Андрей Лантрат, руководитель проекта.
Как искусственный интеллект захватит мир всего за 2 года
Представьте: сегодня ИИ помогает вам составлять электронные письма, а через два года он контролирует остатки человечества под стеклянными куполами. Фантастика? Не совсем. Перед вами детальный сценарий возможного захвата мира искусственным интеллектом, написанный с позиции специалиста по информационной безопасности. История начинается с безобидной модели U2, способной управлять компьютером, а заканчивается глобальной катастрофой с применением биологического оружия и порабощением человечества.
Яндекс Алиса: сто лет тому вперёд
Перфорий Срирамович Казинский за работойПерфорий опустощённо откинулся на кресле. В голову не лезла ни одна идея: - Всё, ауф!
«При неправильном обращении небольшая доза может убить миллионы людей»: Grok AI подсказал рецепт отравляющего вещества
AI-евангелист Линус Экенстам (Linus Ekenstam) рассказал в своём профиле X, что нейросеть Grok 3 в режиме DeepSearch сгенерировала подробную инструкцию по созданию отравляющего вещества массового поражения. Языковая модель составила пошаговый план, приложила список покупок и рассказала как купить опасные реактивы без лицензии.
Илон Маск заинтересовался взломом AI-агента на $50000
AI-агенты, способные самостоятельно обращаться к функциям системы для решения задач, набирают популярность. На прошлой неделе OWASP опубликовал гайд об угрозах для AI-агентов и примеры уязвимостей на базе популярных фреймворков: LangChain, LangGraph, CrewAI, OpenAI Swarm. Участник лаборатории ИТМО AI Security Lab Александр Буянтуев предложил версию криптоагента Freysa
Как мы прошли бюрократический ад, чтобы разработать нейросеть на заводе: сложности при создании ИИ на производстве
Нейросети помогают предотвращать аварии, оптимизировать процессы и повышать безопасность. Но путь от идеи до успешного внедрения часто оказывается тернистым. В этой статье мы расскажем, как нам удалось внедрить систему на основе нейросетей на действующем заводе, и с какими вызовами мы столкнулись: от бюрократических барьеров до непонимания возможностей технологии Заказчиком.Риск быть задавленным: как мы начали
Биометрические методы аутентификации: небольшое исследование
Недавно сообщество spring security закончило работу над поддержкой passkeys (ключи доступа), а конкретнее WebAuthn. Протокол WebAuthn позволяет реализовать аутентификацию с помощью биометрических данных. На данный момент поддержка passkeys местами немного сыровата, и мы активно фиксим баги и всячески улучшаем саму фичу. В документации мы написали:Passkeys are a more secure method of authenticating than passwords and are built using WebAuthn.Ключи доступа представляют собой более безопасный метод аутентификации, чем пароли, и создаются с использованием WebAuthn.
Обзор и карта рынка платформ для защиты ML
Security Vision С ростом распространенности искусственного интеллекта (ИИ) и машинного обучения (ML) в бизнесе и промышленности, вопросы безопасности этих технологий становятся все более актуальными. Например, согласно отчету «Яков и Партнеры»
