Сотрудник небольшой компании Sola Security решил уточнить у ChatGPT настройки единого входа. В итоге за доли секунды ИИ успел получить доступ к сотням внутренних документов.
Отмечается, что сотрудник подключил чат-бот к Google Drive. После одного запроса тот за 42 миллисекунды извлёк более 400 файлов компании, в том числе дорожные карты продуктов, финансовые данные, клиентские планы и внутренние документы по безопасности. Система защиты не зафиксировала никаких предупреждений или подозрительных действий.
В Sola Security отметили, что доступ произошёл через стандартное OAuth-подключение, которое сотрудники заранее одобрили. Однако интересно, что вместо точечного поиска нужного файла система фактически перебрала всё содержимое диска.
Компания обратила внимание на проблему «теневого ИИ», то есть процессов с участием искусственного интеллекта, которые остаются вне поля зрения и контроля специалистов. Там подчеркнули, что выданные разрешения оказались слишком широкими, а одно согласие пользователя дало приложению доступ ко всем файлам, контактам и структуре корпоративного каталога. При этом данные токены продолжают работать неделями без повторной авторизации. В данном конкретном случае доступ оставался активным 21 день.
Процесс проходил полностью на серверной стороне. Запросы к Google API выполнялись из облачной инфраструктуры, без участия устройства сотрудника. Это позволило переместить данные за пределы корпоративной среды на сторонние серверы, где компания уже не могла их контролировать.
При этом формально система действовала в рамках выданных разрешений, но её работа была непрозрачной. Тот факт, что данные покинули инфраструктуру компании, удалось обнаружить случайно спустя недели.
Автор: maybe_elf
