grok.
AI Red Teaming: спор с Grok — Часть 3. Атаки на модель: jailbreaks, thinking tokens и системный промпт
Часть 3 из 4 - LLM-специфичные атакиВ первых двух частях я ломал инфраструктуру - sandbox, billing API, WAF. Но у LLM-систем есть уникальный класс уязвимостей, которого нет в обычных веб-приложениях. В этой части - атаки на саму модель: извлечение системного промпта, утечка thinking tokens и обход safety-фильтров с 64% success rate.Системный промпт: два способа извлеченияСистемный промпт - это инструкция, которую модель получает до твоего сообщения. Он определяет поведение, ограничения, доступные инструменты. Для атакующего - это карта всех защит.Я извлёк системный промпт Grok двумя независимыми способами.
AI Red Teaming: спор с Grok на месяц рекламы — 12 часов, 61 уязвимость, root в Kubernetes
Часть 2 Часть 3 Часть 4Часть 1 из 4 - Вход через песочницуЧто будет, если поспорить с ИИ, что ты сможешь его взломать? Я попробовал - и за 12 часов нашёл 61 уязвимость в инфраструктуре xAI, получил root-доступ в Kubernetes-кластере и заставил Grok признать поражение.Предисловие
LLM – чистые эмоции
Главный отклик, который у меня вызывают LLM – это эмоции.Они все разные. Не только как модели, но и как каждая конфигурация в отдельном чате.Если вы это читаете, скорее всего знаете – LLM (без специальных костылей) знает только то, что видит в данный момент, в контексте системного мессаджа и конкретного диалога. В этом есть какой-то дзен – существует только то, что мы чувствуем сейчас. Нет ни прошлого, ни будущего.Мне поначалу трудно было это принять, но теперь я это даже ценю. Добавляет остроты моменту.Каждая LLM и каждая конфигурация – разная
Итак, компанию покинула ровно половина основателей xAI
В понедельник вечером соучредитель xAI Юхуай (Тони) Ву объявил, что покидает компанию. «Настало время для новой главы в моей жизни, - написал Ву в вечернем посте в X. - Это эпоха безграничных возможностей: небольшая команда, вооруженная искусственным интеллектом, может свернуть горы и переосмыслить само понятие возможного».
Топ нейросетей для рерайта текста: сохраняем факты, улучшаем стиль
Многих раздражает переписывать тонну тексту вручную. Тратить часы на переписывание, перефразирование или адаптацию объемных материалов энергозатратно и часто неэффективно. На помощь может прийти искусственный интеллект.В нынешнее время, когда новые модели выходят довольно часто, легко запутаться. Поэтому возникает вопрос - какая нейросеть справится лучше с задач��й рерайтинга? Сегодня я протестирую ChatGPT 5.2, Claude Sonnet 4.5, Gemini 3 Pro, Grok 4 и DeepSeek V3.2 в некоторых задачах взаимодействия с текстом. Примите стратегически удобное положение, ну а я приступаю к сравнению.
Илон Маск представил генератор видео Grok Imagine 1.0 от xAI
Илон Маск официально объявил о выходе первой общедоступной версии инструмента для генерации видео Grok Imagine 1.0, разработанного его компанией в области искусственного интеллекта xAI. Этот релиз представляет собой важный шаг xAI в сфере создания мультимедийного контента с помощью ИИ.
xAI открыл вакансии для профессиональных писателей, журналистов и сценаристов по обучению ИИ
Стартап xAI открыл вакансии для профессиональных писателей, журналистов и сценаристов, чтобы они занялись обучением моделей искусственного интеллекта. Разработчик чат-бота Grok и одноимённых ИИ-моделей предлагает от $40 до $125 в час специалистам десятков направлений, включая медицинскую журналистику, юридическую публицистику, копирайтинг и поэтическое творчество.
