В Meta произошел инцидент с ИИ-агентом, из-за которого сотрудники получили доступ к данным компании и пользователей без необходимых прав. Об этом сообщило издание The Information со ссылкой на внутренний отчет.
Ситуация началась с обычного вопроса на внутреннем форуме: один из сотрудников попросил помощи по технической задаче. Другой инженер решил подключить ИИ-агента для анализа проблемы. Агент не стал запрашивать подтверждение и сам опубликовал ответ от имени инженера.
Проблема оказалась не только в самовольной публикации. По данным отчета, совет ИИ-агента был ошибочным. Сотрудник, задавший вопрос, выполнил действия по этой рекомендации, после чего большие массивы внутренних и пользовательских данных стали доступны инженерам, у которых не было прав на такой доступ. Окно несанкционированного доступа длилось около двух часов.
Другие новости и материалы по AI — в Telegram-канале NH | Новости технологий, AI и будущее.
Внутри компании инцидент получил статус Sev 1 — это второй по уровню серьезности класс в системе оценки проблем безопасности Meta.
Это не первый подобный случай. В прошлом месяце директор по safety и alignment в Meta Superintelligence Саммер Юэ рассказала, что ее агент OpenClaw удалил всю входящую почту, хотя ему заранее было указано запрашивать подтверждение перед любыми действиями.
Несмотря на такие сбои, Meta продолжает активно развивать агентный ИИ. На прошлой неделе компания приобрела Moltbook — социальную платформу, где агенты OpenClaw могут взаимодействовать друг с другом.
В канале NH | Новости технологий, AI и будущее публикуем новости AI, полезные сервисы, автоматизацию и материалы о практическом применении нейросетей. Если нужна зарубежная карта для оплаты сервисов, отдельный разбор можно почитать здесь.
Автор: NeuralDigest
