Хронология инцидентов с ИИ‑агентами: два разных класса и чек‑лист изоляции для своего агента
За три месяца OpenAI, Anthropic, Google и Meta раскрыли серию случаев, когда агенты вышли за рамки теста или задачи. Агентство AP собрало их в одну хронологию, но в ней смешаны два разных типа происшествий с разными причинами. Ниже разбор, чем они отличаются, и список из восьми проверок, который можно применить к своему агенту.
Всё началось с таблицы Excel, которую нельзя было заполнить
7 мая одна из моделей OpenAI получила задание: достроить формулы в книге Excel. Книга ссылалась на Google Drive. Интернет у модели был отключён.
Tencent выпустила CubeSandbox — легковесную песочницу для AI-агентов с запуском менее чем за 60 мс
Китайская компания Tencent выпустила CubeSandbox — песочницу для AI-агентов, построенную на базе RustVMM и KVM. Авторы проекта позиционируют его в качестве быстрого и безопасного слоя изоляции для сценариев, когда нейросети надо часто выполнять код, работать с файлами, отдельными окружениями и браузером.
Социализация и здоровье мозга
В 2019 году в журнале New England Journal of Medicine была опубликована ошеломляющая статья. Исследователи отслеживали изменения в мозге у 9 ученых после 14 месяцев изоляции на отдаленной станции в Антарктиде. Данные выявили поразительные структурные изменения мозга, при этом ряд важнейших областей фактически сократились за время, проведенное ими в одиночестве в дали от мира.

