CrowdStrike запустила «аварийный выключатель» для нейтрализации ИИ‑агентов
Компания CrowdStrike представила функцию «AI Kill Switch» («аварийное отключение ИИ») в составе платформы Falcon Guardian. Она предлагает специалистам по безопасности полный контроль над ИИ‑агентами. Если тот начинает действовать вопреки заданным алгоритмам, сотрудники службы безопасности могут немедленно остановить его выполнение, заблокировать повторный запуск и ограничить доступ к корпоративной сети.
Даже если случайно переставить буквы в словах, GPT-4 понимает текст
Цветом выделена токенизация Для представления внутри трансформеров слова или их небольшие части преобразуются в токены. Кажется, что если перемешать в каждом слове буквы, то языковая модель на трансформерах потеряет всякую способность понимать текст. Авторы научной работы «Unnatural Error Correction: GPT-4 Can Almost Perfectly Handle Unnatural Scrambled Text» (arXiv:2311.18805) показали, что это не так. Как выяснилось, GPT-4 без проблем оперирует текстом, где в каждом слове все буквы случайно переставлены.
