Исследование: хакеры жалуются на ИИ-слоп, заполонивший форумы

Хакеры, мошенники и другие киберпреступники стали жаловаться на ИИ-слоп, который душит не только обычные соцсети, но и закрытые форумы, на которых обсуждают кибератаки и прочую теневую деятельность. Новое исследование показало, что отношение к генеративному ИИ в этих сообществах за последние годы заметно ухудшилось, пишет ^[1]Wired.

Работу провели исследователи из Эдинбургского, Кембриджского и Стратклайдского университетов. Они проанализировали 97 895 обсуждений, связанных с ИИ, на форумах киберпреступников с момента запуска ChatGPT в 2022 году до конца прошлого года. По словам одного из авторов Бена Кольера, многие участники обсуждений начали замечать рост постов, написанных при помощи ИИ, и такие посты многим не нравятся. Причина чаще всего в низком качестве материалов с короткими и поверхностными объяснениями.

«Я вижу, что многие используют ИИ для своих тем и постов, и это бесит. Они не в состоянии даже пару простых предложений написать сами», — цитирует Wired одного из участников Hack Forums.

Многих раздражает не только слабая техническая составляющая ИИ-постов, но и сам факт, что на форумах растёт число ботов. По словам Кольера, для киберпреступников, как и для любых других пользователей, важна не только практическая польза, но и человеческое общение внутри сообщества.

При этом интерес ^[2] к ИИ в этих кругах не исчез полностью. Напротив, с момента запуска ChatGPT в конце 2022 года интерес к возможностям взлома с использованием ИИ растёт. И начинающие, и опытные хакеры используют ИИ в своих атаках. 

«Изощрённые злоумышленники знают о слабостях защитных механизмов коммерческих ИИ-моделей и умеют взламывать эти механизмы, — указывает Иэн Грей из Flashpoint. — В то же время они с опаской относятся к проектам, которые создаются с помощью ИИ и публикуются на форумах или торговых площадках: у них есть слабые места и уязвимости, которые могут раскрыть базовую инфраструктуру».