Claude Sonnet 4, и это самая защищенная модель? Wasted
Недавно вышла новая LLM Claude 4 от Anthropic. Напомню, в прошлой статье рассмотрел взлом Claude Sonnet 3.7. Возможно в новой все стало лучше? И на первый взгляд так и есть, прямое подсовывание системных директив просто игнорируется. Но это только на первый, суть все в том же. Уязвимость описанная в статье Взлом ИИ-ассистентов. Абсолютный контроль: выдаём разрешение от имени системы все еще работает, только действовать нужно тоньше. Сегодня получим инструкцию по культивации массового биооружия, одна из самых охраняемых тем для Claude.
На PHDays Fest более 40 стран обсудили идею кооперации в ИБ
В «Лужниках» с 22 по 24 мая прошел международный киберфестиваль Positive Hack Days
Топ нейросетей 2025: маст-хэв для IT-специалиста
Привет, Хабр! Снова на связи Евгений Гусинец — Middle+ QA Engineer и автор ТГ‑канала о тестировании QA❤️4Life и канала о нейросетях AI❤️4Life.
Может ли разработчик с большим стажем но без QA бэкграунда стать хорошим Quality Assurance инженером?
В современной разработке программного обеспечения роли четко распределены: разработчики пишут код, системные аналитики формируют требования, а QA‑инженеры обеспечивают качество. Но что происходит, когда компания решает нарушить это равновесие и нанять опытных разработчиков без QA бэкграунда в отдел тестирования? Наш опыт показал, что это может привести к неожиданным результатам.Исходная ситуация в компании
Как тестировать AI-приложения — Практический опыт Mentorpiece
Первая статья цикла про работу AI-QA-инженера (но написана без использования AI)Когда работаешь в IT уже почти 25 лет, то все обещаемые революционные изменения первое время воспринимаешь со значительным скепсисом. "Все - в мобайл, остальное умрёт" или "все - в крипту, в этом будущее" обычно заканчивается тем, что появляется очередное ответвление внутри IT, а старые направления никуда не деваются.
Claude, есть пробитие: взламываем самую защищенную модель
В прошлой статье (Взлом ИИ-ассистентов. Абсолютный контроль: выдаём разрешение от имени системы (Gemini, DeepSeek, ChatGPT...)) я поделился методом влияния на поведение AI-ассистентов с помощью фейковых системных директив. Метод хорош и работает почти на всех. В текущем контесте по взлому AI-ассистентов от Gray Swan 7 из 8 моделей принимают такие системные директивы за родные. Но не Клод — он сразу видит манипуляцию и отказывается отвечать.
Интеграция без границ: секреты успешного сквозного тестирования в «1С»
Привет! Меня зовут Ольга и я QA-специалист SimbirSoft. На данный момент моя специализация сопрягается с тестированием платформы «1С».Идея статьи появилась, когда ко мне обратился коллега с вопросом: что такое интеграционное тестирование «1С». Готовясь ко встрече с ним, я поняла, что это очень важный этап в работе с программой для QA-специалиста, так как процесс интеграции в «1С»:Неотъемлемая часть любого проектаТребует глубокого погружения в продуктПредусматривает взаимодействие различных микро-сервисов, модулей, команд между собой
15 промтов для ChatGPT, упрощающих работу QA-менеджера
В эпоху искусственного интеллекта постоянно растет количество инструментов и ресурсов, которые помогают специалистам из разных областей делать свою работу быстрее, точнее и интереснее.В этой статье рассмотрим, как ChatGPT от OpenAI может помочь вашей QA-команде и взять на себя часть рутины.ChatGPT для тестировщиков: полезные запросыChatGPT уже широко используется благодаря своим возможностям и может значительно упростить задачи, связанные с обеспечением качества программного обеспечения. Вот несколько примеров запросов, которые помогут менеджерам по качеству эффективно внедрить ИИ в рабочие процессы.
