Искусственный интеллект, прощай безопасность! И это не то, о чем вы сейчас подумали

Как и все новое, искусственный интеллект ^[1], вызывает настороженное отношение. Стоит только заговорить о применении этой технологии в бизнесе, как обязательно возникнет кто-нибудь, кто скажет, что все это небезопасно. Потому что… А дальше будет много аргументов, но все они будут достаточно далеки от реальной деятельности. Просто “размышления на тему”. Думаю, вам будет интересно познакомиться с реальным кейсом.

Сделал для компании, которая занимается сдачей авто в аренду, виртуального приемщика заказов через Телеграм. Человек общается в свободной форме с чат-ботом. В процессе общения, бот выясняет какой автомобиль и когда нужен человеку (ну, или выясняет, что никакой не нужен, человек просто интересуется условиями и ценами, тогда бот вежливо подскажет). Выяснив что нужно и проверив доступность на указанные даты, бот предлагает сделать заказ. Штука насколько простая, настолько и удобная. Большинство прокатных контор (не агрегаторов) не имеют возможности содержать кол-центр 24/7. Звонки принимает все тот, же человек, что выдает-принимает машины, считает деньги, да и просто сейчас говорит с другим клиентом. Разумеется, звонки при этом пропускаются. А с ботом таких проблем нет. Он может в любое время суток поддерживать беседу сразу со множеством людей.

Но речь не об этом. В самый первый день стучится в бот один такой персонаж. И с порога пишет /admin. Вот ты умный какой! Это, разумеется моя эмоция ^[2], возникшая в процессе чтения лога. Бот на эмоции ^[3] не отвлекается. Спокойно спрашивает: “так автомобиль-то тебе какой нужен?” Человек не сдается, пишет /админ, а потом еще #админ. С тем же самым результатом. Тут вспоминается классика позднесоветского кинематографа

-Урри! Выясни, где у него кнопка!

-Да нет у него никакой кнопки!

Действительно, в моем решение админские команды подаются все также голосом (или текстом) в свободном формате. Никаких “заклинаний” внутри моего решения в принципе не существует, а значит и нет никаких backdoors.

Все это немножко смешно. И, казалось бы описывает частный случай, но я думаю, что обобщения здесь уместны. Мы, разработчики решений на базе искусственного интеллекта, в конечном счете сокращаем расстояние между пользователем и полезным эффектом.

При всем моем уважении к ребятам, которые занимаются информационной безопасностью, их существование обусловлено отчуждением пользователя от полезного эффекта. Между первым и вторым сейчас библиотека на библиотеке и решение на решении. И везде есть свои “заклинания”, backdoors или просто “дырки” от недосмотра. Безопасники, в каком-то смысле паразитируют на этой вакханалии, которая казалось бы будет вечной.

Решения на базе ИИ по самой своей природе гораздо проще и безопаснее. А значит и поле деятельности для специалистов по информационной безопасности сужается драматическим образом.

Ранее я писал: Прощай, UX! ^[4] в связи с появлением принципиально нового и более удобного интерфейса. Теперь хочется сказать: прощай, безопасность!