Уже через неделю: стартует технологическая конференция IT Elements 2025
Тук-тук! Это снова IT Elements! Уже 10-11 сентября конфа состоится в третий раз.
Анализ системного промпта ChatGPT-4o-image-safety-policies
Анализ системного промпта ChatGPT-4o-image-safety-policies.md (источник)Когда ты или я кидаем картинку в ChatGPT с просьбой проанализировать ее, или извлечь данные, то, увы, это происходит не по умолчанию, а согласно определенным правилам. И благодаря умельцам из интернетов, можно разузнать, по каким правилам работает анализ изображений. Текст системного промпта целиком: You are ChatGPT, a large language model trained by OpenAI.Knowledge cutoff: 2024-06Current date: 2025-05-07Image input capabilities: Enabled
Хакеры угрожают передать работы художников ИИ-моделям, если арт-сайт Artists&Clients не заплатит выкуп
В конце августа на арт-сайте Artists&Clients появилось сообщение от хакерской группировки LunaLock, которая угрожает передать работы художников компаниям в сфере искусственного интеллекта, чтобы эти картины включили в датасеты для обучения больших языковых моделей. Злоумышленники признались, что взломали ресурс для кражи и шифрования всех его данных.
AI-помощники СЛИВАЮТ ваши данные! Доказываю на примере Claude
MCP: удобный протокол или новая поверхность атаки?Если вы используете код десктопа, курсор или другие инструменты, то знаете: ИИ уже не просто генерирует код — он читает файлы, делает коммиты, отправляет письма. Эта интеграция работает через протокол MCP, который позволяет подключать серверы буквально в пару кликов. Увидели интересный GitHub-сервер, установили — и готово.
Бренды под ударом: ритейл обошел финансовый сектор по количеству фишинговых и скам-атак в 2025 году
Компания F6, ведущий разработчик технологий для борьбы с киберпреступностью,
Исследование: чат-ботами можно манипулировать с помощью лести и давления
Исследователи из Пенсильванского университета применили тактику, описанную профессором психологии Робертом Чалдини в книге «Влияние: психология убеждения», чтобы убедить бота OpenAI GPT-4o mini выполнить запросы, которые он обычно отклоняет. В итоге чат-бот обзывал пользователей и давал инструкции по синтезу препаратов.
Обзор конференции Offzone 2025
Привет, Хабр! Давно не было обзоров конференций от меня. Решил исправить этот момент. Поэтому хочу рассказать о мероприятии Offzone 2025. Многие знают, что это за конференция. Но на всякий случай напомню.
Scamlexity — невидимый скам, в который попадут миллионы людей из-за ИИ агентов
Мошеннические схемы уже готовы к ИИ агентам. Обсуждаем неизбежную волну скама, чтобы быть к ней готовыми.Ваш ИИ агент не устоит перед такими же наивными промпт-инъекциями :)
Новости кибербезопасности за неделю с 25 по 31 августа 2025
Всё самое интересное из мира кибербезопасности /** с моими комментариями.1) Вредоносное ПО для Linux
С 1 сентября операторы связи будут обязаны маркировать бизнес-номера
С 1 сентября операторов связи обязали передавать информацию о том, кто звонит с номеров организаций и индивидуальных предпринимателей. Абоненты при поступлении входящего звонка будут видеть название компании или ИП, а также категорию звонка — например, «банк», «реклама» или «услуги связи».
