3 главных инсайта о «взломах» LLM из исследования StrongREJECT
Всем привет!Погружаюсь в новую для себя область AI Security, в связи с чем решил написать несколько обзоров на самые обсуждаемые исследования и статьи по этой теме. Сегодня поговорим про взлом LLM и неожиданные результаты исследования StrongREJECT.TLDR: Не все джейлбрейки одинаково полезныПолный текст доклада (25 стр.) с NeurIPS. Если лень читать обзор, можете пролистать комиксы от нанобананы. Большинство джейлбрейков - иллюзия!
Opera добавила в браузер Neon режим «минутного глубокого исследования»
Opera выпустила обновление браузера Neon на базе искусственного интеллекта под названием 1-minute Deep Research («1-минутное глубокое исследование»). Оно позиционируется как персональный ИИ-агент для выполнения некоторых задач от имени пользователя, в том числе по навигации, покупкам, заполнению форм и так далее.
Автоматизация обработки ТI-отчетов с помощью NER: как мы сэкономили время аналитиков
Меня зовут Виктор Пронин, я старший аналитик киберугроз в центре компетенций группы компаний «Гарда». Для Гарда Threat Intelligence Feeds мы формируем данные об угрозах на основе обезличенной телеметрии из наших инсталляций, а чтобы получить более полную картину, обращаемся в том числе к информации из открытых источников. В статье я расскажу об автоматизированной обработке публикаций по информационной безопасности. Кейс будет полезен аналитикам киберугроз и специалистам, интересующимся применением ML в ИБ.В целом публикации по информационной безопасности можно разделить на
DDoS-ям: говорим об антибот-системах и готовим тайскую классику в «Инфобезе со вкусом»
Смотрите на ТВ-канале «Большой эфир» и в социальных сетях компании «Газинформсервис» новый выпуск шоу об информационной безопасности и кулинарии — «Инфобез со вкусом». Гостем проекта стал Сергей Лоскутов, генеральный директор компании SitePatrol, победитель «Биржи ИБ- и ИТ-стартапов», разработчик решения для защиты сайтов от вредоносных «умных» ботов и DDoS-атак на L7 с применением технологий искусственного интеллекта.
Как лучше записывать – с клавиатуры или ручкой? Ответ психолога
Первая видеоконсультация нового клиента, объясняю суть его ситуации и возможные пути её решения. — Подождите, пожалуйста, сейчас я запишу... — говорит он и экран начинает вибрировать от работающей клавиатуры. — Рекомендую в дальнейшем завести блокнот и вести записи ручкой, а ещё лучше – карандашом. — Почему, мне же так удобнее и быстрее?По опыту (не только моему, но и моих коллег), действенность консультаций выше, если дополнить их упражнениями. — Лучше всего их делать на бумаге, писать ручкой или карандашом, – и чаще всего слышу тот же вопрос: - А почему не на компьютере?
Предопределённые векторы для обучения нейросетей с экономией памяти
Одна из базовых функций систем машинного зрения состоит в классификации объектов. Для решения этой задачи традиционно применяются методы обучения с учителем (SL). Эти методы обеспечивают высокую точность, но при этом размер нейросетевой модели увеличивается с увеличением количества классов. Такая особенность ограничивает применимость SL в тех случаях, когда число классов слишком велико или заранее неизвестно.Эксперт отдела перспективных исследований компании «Криптонит» Никита Габдуллин предложил
Китай запретил ByteDance использовать чипы Nvidia
Китайские регуляторы запретили ByteDance, владельцу TikTok, использовать чипы Nvidia в новых дата-центрах, сообщает Reuters со ссылкой на внутренние источники.
