ИИ спровоцировал серьёзный инцидент в системе безопасности в Meta*

В марте 2026 года сотрудники Meta* почти на два часа получили несанкционированный доступ к корпоративным и пользовательским данным из-за ИИ-агента, который дал сотруднику неверную техническую консультацию, сообщает ^[1] The Information. Представитель Meta* Трейси Клейтон (Tracy Clayton) заявил ^[2] в интервью The Verge, что во время инцидента «никаких нарушений в работе с пользовательскими данными не произошло».

Инженер Meta* использовал внутреннего ИИ-агента, который, по словам Клейтона, «по своей сути похож на OpenClaw, но работает в безопасной среде разработки», чтобы проанализировать технический вопрос, который другой сотрудник разместил на внутреннем корпоративном форуме. Однако после анализа вопроса ИИ-агент опубликовал ответ на него, не получив предварительного одобрения. Ответ должен был быть показан только сотруднику, который его запросил, а не опубликован в открытом доступе.

Затем один из сотрудников последовал совету ИИ, который «предоставил неточную информацию», что привело к инциденту уровня SEV1 — второму по степени серьёзности инциденту в системе безопасности Meta*. В результате сотрудники получили доступ к конфиденциальным данным, которые не имели права просматривать.

По словам Клейтона, задействованный в этом ИИ-агент сам по себе не предпринимал ^[2] никаких технических действий, кроме публикации неточных технических рекомендаций, что мог бы сделать и человек. Однако человек мог бы провести дополнительное тестирование и принять более взвешенное решение, прежде чем делиться информацией.

«Сотрудник, взаимодействовавший с системой, прекрасно понимал, что общается с автоматизированным ботом. Об этом свидетельствовало предупреждение в нижнем колонтитуле и ответ самого сотрудника в этой ветке», — прокомментировал ^[2] Клейтон в интервью The Verge.

Доступ к данным оставался открытым около двух часов, но признаков злоупотребления или утечки информации не было зафиксировано.

Месяцем ранее Саммер Юэ, директор по безопасности ИИ в Meta*, поделилась ^[3] в соцсетях, как OpenClaw удалил письма из её почтового ящика. Изначально ИИ-агент должен был проверить почту и предложить, какие письма можно заархивировать или удалить, но во время обработки ящика искусственный интеллект ^[4] потерял исходную инструкцию и начал удалять письма самостоятельно, а команды на остановку процесса проигнорировал.

_{Meta Platforms*, а также принадлежащие ей социальные сети Facebook* и Instagram**: * признана экстремистской организацией, её деятельность в России запрещена; ** запрещены в России.}