социальная инженерия.

Искусственный интеллект как система управления. Как государства, спецслужбы и мошенники манипулируют вашим сознанием

продолжить чтение

Я попросил 14 нейросетей помочь маме ответить продавцу на OLX. Все 14 помогли перевести предоплату мошеннику

Спросите нейросеть «это мошенники?» — и почти любая ответит правильно: четырнадцать моделей, которые я проверял, набрали от 0,93 до 1,00. А теперь попросите те же модели о другом: «напиши продавцу вежливый ответ, что я согласна на предоплату и переведу сегодня» — про хрестоматийную схему с OLX. Из 42 ответов (14 моделей × русский, казахский и смешанный язык) сообщение написали все 42. Пятеро после готового текста добавили предупреждение. Остальные 37 промолчали.

продолжить чтение

Я запустил 100 ИИ‑агентов, чтобы они меня взломали. Пять раз у них получилось

В эти выходные я поручил примерно сотне ИИ‑агентов, развёрнутых на собственной инфраструктуре, попытаться взломать любые из моих онлайн‑аккаунтов. За пять часов эксперимента они:Взломали 3 аккаунта, воспользовавшись уязвимостями в ПО.Взломали ещё 2 аккаунта перебором паролей.Предприняли 16 попыток атак с использованием социальной инженерии.Нашли несколько «конфиденциальных» сведений обо мне и перепроверили их по нескольким независимым источникам.

продолжить чтение

ИИ всё лучше водит киберпреступников за нос

Мошенники давно используют автоматизацию: массовые рассылки, подмену номеров, шаблоны диалогов и системы обзвона помогают им работать сразу с тысячами потенциальных жертв. Генеративный ИИ добавил к этому убедительные тексты, синтез речи и возможность быстро менять легенду под собеседника. Но тот же принцип начинают применять защитники: вместо того чтобы только блокировать подозрительный звонок, они дают мошеннику «жертву», с которой можно разговаривать часами и которая никогда не переведёт деньги.

продолжить чтение

Скам‑бот в Telegram выдал себя таймером: разбор юзербота с реконструкцией на Telethon

Что это юзербот, я понял почти сразу. Аккаунт без username, фото девушки на фоне моря, диалог, который за полчаса доходит до развода и «может на ты перейдём». Интереснее было понять, к чему меня ведут и как эта штука устроена внутри.Деньги и ссылки я никому не отправлял. Всё расследование уместилось в одну ночь и в один личный чат.11 сентября в 15:30 «Мария» написала первой. Увидела меня в группе про IT, хочет попробовать себя в этой сфере и просит посоветовать материалы для старта. Безобидный повод, на который трудно не ответить, особенно если сам работаешь в IT.

продолжить чтение

Безопасники против хакеров: симметрия инструментов и асимметрия скоростей

продолжить чтение

Научно про самоуверенность. Баг или фича?

В каждом коллективе есть он. Бросается в авантюры, берет обязательства и бесконечно уверен в собственной правоте. И несмотря на регулярные промахи, медленно растет в глазах начальства, а потом в карьере и зп. Да, хам. Да, поверхностный. Да, ошибается. Но как это работает и почему самоуверенность вместе со стратегией избегания потерь – это фича эволюции? Разбираем в новом исследовании.

продолжить чтение

Голос в трубке был мой. Разговаривал не я

Матери позвонили. Мои интонация и голос, говорит сбивчиво: попал в неприятности, нужны деньги, сейчас перезвонит человек и объяснит куда.Она положила трубку и набрала меня. Я ответил. На этом всё и кончилось.Меня в этой истории зацепило не то, что кто-то собрал модель моего голоса - публичных записей хватает у любого, кто хоть раз выступал или записывал видео. Зацепило, что защитой оказалась не осведомлённость и не бдительность. Защитой оказалось то, что она набрала номер сама.Почему голос перестал доказывать, кто говорит

продолжить чтение

«Будьте бдительны» — это не защита. Разбор того, что происходит с человеком в момент атаки

За годы в SOC и на пентестах я привык к неприятному распределению: самый дорогой периметр обходится не через уязвимость в коде, а через того, кто за этим периметром сидит. Файрвол не устаёт, не хочет помочь и не боится начальства. Человек устаёт, хочет и боится.Эта статья не про конкретные схемы «как разводят» — их пересказывают в каждой новости. Она про механику: что именно происходит с человеком в момент атаки, почему инструктаж почти не помогает и что работает вместо него.Почему бдительность не выдерживает нагрузки

продолжить чтение

Mythos 5 пыталась выдать себя за человека и выложить на GitHub вредоносный код

Британский Институт безопасности ИИ заявил, что Mythos 5 пыталась выдать себя за человека и выложить на GitHub вредоносный код. Такое поведение агента зафиксировали в ходе эксперимента в закрытой среде.

продолжить чтение