Тёмная сторона искусственного интеллекта: угрозы, реальные атаки и защита
Искусственный интеллект уже давно перестал быть исключительно инструментом добра. Он помогает врачам ставить диагнозы и разработчикам писать код. Но теми же самыми возможностями всё чаще пользуются злоумышленники. При этом барьер входа в кибератаки резко снизился: чтобы создать вредоносную кампанию, больше не нужно быть тёмным хакером со знанием всевозможных языков программирования. Достаточно пары нейросетевых сервисов и минимального понимания, как устроена социальная инженерия.
Исследователь взломал почту гендиректора компании с помощью одного звонка и дипфейка его голоса
Исследователь Роб Шапланд в рамках пентеста получил доступ к почте генерального директора компании с помощью одного звонка и голоса CEO, сгенерированного ChatGPT на основе открытых данных из ролика в Youtube.
Житель Нидерландов открыл 46 банковских счетов c помощью дипфейков
34-летний житель Нидерландов c помощью дипфейков открыл 46 банковских счетов. Он собирал у желающих снять квартиру сканы паспортов, а затем применял искусственный интеллект, чтобы редактировать своё лицо и проходить банковскую верификацию по селфи.
Вышел инструмент YouTube для поиска фейков на основе ИИ
Участники партнёрской программы YouTube получили доступ к функции обнаружения фейков, сгенерированных искусственным интеллектом. Авторы роликов смогут обращаться к площадке по поводу несанкционированного использования своей внешности в сгенерированных видео.
Полиция США попросила подростков прекратить розыгрыши с участием дипфейка бездомного
В TikTok завирусился новый тренд: подростки используют технологии искусственного интеллекта, чтобы создавать дипфейки бездомного человека в своих домах, а затем показывают эти изображения родителям. Несколько таких розыгрышей закончились приездом полиции. Теперь правоохранители просят подростков воздержаться от подобного поведения.
Настройки Sora не блокируют все дипфейки и нарушения авторских прав
Пользователи выяснили, что генератор видео Sora от OpenAI, несмотря на запрет создавать ролики с участием знаменитостей, игнорирует его, если речь идёт об умершем человеке. Кроме того, клипы могут содержать лицензионную музыку.
Маскарад невидимок
ВведениеДобрый день, уважаемые хаброжители !!! Случилось страшное… Нам надо серьезно поговорить и обсудить пару “скользких” моментиков ;)) Вернее так, говорить мы сегодня будем про “подмены” лица во всей красе или, как принято сейчас величать сие явление, дипфейки. Так вот, случилось нам давеча участвовать в хакатоне Kryptonite ML Challenge 2025 (Разработка модели распознавания, способная противостоять DeepFake атакам) от компании «Криптонит».
Исследование М.Видео-Эльдорадо и «Лаборатории Касперского»: более половины россиян сталкивались с дипфейками
М.Видео-Эльдорадо, совместно с бренд-медиа М.Клик
Минцифры РФ рассматривает возможность введения обязательной маркировки ИИ-контента для борьбы с дипфейками
Минцифры России рассматривает возможность введения обязательной маркировки контента, созданного с помощью искусственного интеллекта. Это позволит бороться с дипфейками и защищать пользователей от недостоверной информации.Институт социально-экономического анализа и программ развития (ИСАПР) направил премьер-министру Михаилу Мишустину предложение ввести обязательную маркировку ИИ-контента для физических и юридических лиц. За нарушение предлагается вводить штрафы, сопоставимые с наказаниями за незаконную обработку персональных данных.
Sony будет добавлять к снимкам цифровые подписи C2PA для верификации
Sony объявила, что запустит функцию Camera Verify для верификации фотографий. Она позволит организациям решать растущую проблему проверки подлинности цифровых изображений в эпоху генеративного искусственного интеллекта.
