Злоумышленник использовал ИИ, чтобы выдать себя за министра и связаться с высокопоставленными чиновниками

Неизвестный недавно выдал себя за госсекретаря США Марко Рубио и связался по меньшей мере с пятью высокопоставленными чиновниками и сановниками.

Согласно внутренней служебной записке Госдепартамента, полученной Washington Post, злоумышленник использовал голосовые и текстовые сообщения, сгенерированные искусственным интеллектом ^[1], чтобы максимально точно имитировать манеру речи и письма Рубио, очевидно, в попытке получить доступ к конфиденциальной информации или цифровым учётным данным.

Злоумышленник связывался с «целями» с помощью зашифрованного мессенджера Signal и текстовых сообщений, используя псевдоним «Marco.Rubio@state.gov ^[2]» — адрес, не связанный с Рубио. По этим каналам он связался с тремя министрами иностранных дел, губернатором США и членом Конгресса. По крайней мере в двух случаях были оставлены голосовые сообщения; в другом случае злоумышленник отправил приглашение в чат Signal в текстовом сообщении.

В служебной записке также отмечается, что другим сотрудникам Госдепартамента были отправлены электронные письма. Личность злоумышленника до сих пор не установлена. Госдепартамент начал полноценное расследование и планирует ввести дополнительные меры безопасности. Не сообщается никаких подробностей о содержании сообщений, именах тех, кому они были отправлены, а также о том, были ли попытки успешными.

Ранее, в мае, ФБР предупредило о продолжающейся кампании по использованию голосовых сообщений, сгенерированных искусственным интеллектом, для слежки за высокопоставленными чиновниками США и их контактами с целью кражи информации или денег. Агентство посоветовало не доверять сообщениям, которые якобы исходят от высокопоставленных чиновников, без проверки. В аналогичном инциденте в прошлом году робозвонки, имитирующие голос президента Байдена, сгенерированные искусственным интеллектом ^[3], использовались в Нью-Гэмпшире в попытке помешать избирателям участвовать в праймериз.

Недостатки в работе государственных служб связи

Исследователь в области безопасности Хани Фарид из Калифорнийского университета в Беркли рассказал Washington Post, что для таких атак с выдачей себя за другое лицо не нужны передовые технологии. Многие государственные служащие не уделяют должного внимания ^[4] безопасности данных, и использование Signal для официальной переписки вызывает особую обеспокоенность.

Для клонирования голоса публичного лица с помощью онлайн-сервисов достаточно аудиозаписи длительностью от 15 до 20 секунд. Злоумышленники просто загружают запись, подтверждают, что у них есть разрешение на использование голоса, и набирают сообщение, которое хотят отправить. Голосовая почта особенно эффективна для таких атак, поскольку не требует взаимодействия в режиме реального времени.

Хотите быть в курсе важных новостей из мира ИИ? Подписывайтесь на наш Telegram‑канал BotHub AI News ^[5].

Перевод, источник новости здесь ^[6].