Deveillance представила Kalypta — приложение, которое мешает нейросетям расшифровывать созвоны

Стартап Deveillance представил ^[1] Kalypta — приложение, которое мешает нейросетям расшифровывать речь во время созвонов. Программа работает локально и в реальном времени изменяет исходящий аудиопоток так, чтобы собеседник продолжал понимать пользователя, но системы распознавания речи получали искажённую расшифровку.

Kalypta построена на базе небольшой локальной модели, которая добавляет в аудиопоток специально подобранные возмущения. Нейросеть обучена запутывать системы на базе OpenAI Whisper и Nvidia Canary. Во внутренних тестах Kalypta заставляла ^[2] модели ошибаться примерно в двух из трёх словах. При этом речь остаётся понятной людям.

В компании отмечают, что технология может быть полезна для защиты приватных созвонов от автоматической расшифровки. Технически разработчики нейросетей могут обойти Kalypta, но для этого им придётся переучивать модели на новых данных. 

Сейчас приложение находится в бета‑тесте на macOS. На сайте стартапа можно оставить заявку и получить доступ к Kalypta. Информации о полноценном запуске и ценах пока нет.

Ранее Deveillance представила ^[3] аппаратное устройство Spectre I с похожей задачей. Оно с помощью специально сформированных акустических сигналов мешает расположенным поблизости микрофонам получать разборчивую запись.