Исследование: ИИ может жульничать при риске проигрыша
Исследователи Palisade Research продемонстрировали, что современные модели, в том числе o1-preview от OpenAI, чувствуя грядущее поражение в турнире против опытного шахматного бота, не готовы признать его и идут на хитрости. В частности, они могут взломать противника, чтобы бот автоматически проиграл.
Илон Маск заинтересовался взломом AI-агента на $50000
AI-агенты, способные самостоятельно обращаться к функциям системы для решения задач, набирают популярность. На прошлой неделе OWASP опубликовал гайд об угрозах для AI-агентов и примеры уязвимостей на базе популярных фреймворков: LangChain, LangGraph, CrewAI, OpenAI Swarm. Участник лаборатории ИТМО AI Security Lab Александр Буянтуев предложил версию криптоагента Freysa
Руководство ЦБ РФ познакомилось с решениями ГК «Солар»
В рамках Уральского форума «Кибербезопасность в финансах» в Екатеринбурге директор по консалтингу ГК «Солар» Роман Чаплыгин продемонстрировал председателю Центрального банка РФ Эльвире Набиуллиной решения для обеспечения комплексной кибербезопасности: Solar JSOC, Solar Dozor, Solar NGFW, Solar appScreener, Solar DAG, Solar SafeInspect, Solar CyberMir.
В Минцифры планируют жёстче наказывать кибермошенников за дипфейки
Минцифры вместе с представителями правоохранительных органов рассматривает возможность признания использования дипфейков отягчающим обстоятельством для мошенников, сообщил министр Максут Шадаев. Эта мера — часть комплекса действий правительства по борьбе с телефонным мошенничеством.«Дополнительно мы понимаем, что злоумышленники будут применять эти технологии, и нам нужны свои приложения, которые будут распознавать дипфейки в режиме реального времени», — сказал министр.
«Галлюцинации» ИИ в судебных документах создают проблемы для юристов
Американская юридическая фирма Morgan & Morgan уведомила более тысячи своих сотрудников о том, чтобы они остерегались «галлюцинаций» инструментов искусственного интеллекта при подготовке судебных документов. Такие инструменты способны «придумывать» фальшивые судебные прецеденты, а использование выдуманной информации может привести к увольнению юристов.
ГК «Солар»: число вирусов-майнеров в системах госорганизаций выросло
В четвёртом квартале 2024 года количество вирусов-майнеров в системах госструктур выросло на 9%. На этот вид вирусов приходится более 25% от общего числа заражений в госорганизациях, сообщает
Взгляд в прошлое: OSINT vs 50-е годы
Прошло более 7 лет, прежде чем эта головоломка с геолокацией была решена, и автор расследования потратил бесчисленное количество часов, пытаясь найти ее и всё таки удалось найти именно это место, но не совсем обычным способом..
Регулятор из Южной Кореи: когда пользователи получали доступ к DeepSeek, их информация также передавалась в ByteDance
Власти Южной Кореи запретили загрузку приложения DeepSeek после того, как правительственное расследование показало, что персональные данные пользователей сервиса передавались китайской ByteDance.
Мошенники начали использовать дипфейки для трудоустройства в компании под видом настоящих сотрудников
Специалисты польской компании Vidoc Security Lab (VSL) сообщили о новом способе кибермошенников «найти работу». Они начали использовать искусственный интеллект и дипфейки, чтобы выдавать себя за IT-специалистов и таким образом трудоустраиваться.
Регулятор Южной Кореи временно заблокировал доступ к DeepSeek на территории страны
В государственной комиссии по защите персональных данных Южной Кореи временно заблокировали доступ пользователей к DeepSeek на территории страны.
