Баг-репорты в iOS передают контент пользователей для обучения ИИ
В Apple Insider выяснили, что участники программы бета-тестирования iOS должны разрешать использовать их контент для обучения Apple Intelligence. При этом у них нет возможности отказаться от этого.
Учёные из СПб ФИЦ РАН научили нейросеть находить кейлоггеры
Специалисты Санкт‑Петербургского федерального исследовательского центра (СПб ФИЦ) РАН создали нейросеть для поиска кейлоггеров. Разработка выявляет следы работы кейлоггеров в сетевом трафике.Система мониторинга на базе методов машинного обучения в реальном времени отслеживает сетевой трафик и сообщает о подозрительных действиях, которые могут указывать на активность вредоносного ПО.
Когда ИИ становится троянским конем: 43% «галлюцинированных» имен пакетов регулярно повторяются в сгенерированном коде
Всем привет! Меня зовут Александр, я COO в SaaS-платформе аналитики данных. Тема безопасности с активным распространением "vibe coding" (на Хабре кажется прижился термин monkey-coding) вызывает большие вопросы, ниже один из них.У себя в телеграм-канале делюсь сжатыми и структурированными саммери статей.Распространение инструментов генерации кода на базе LLM меняет способы разработки программного обеспечения — и одновременно создает новые риски для цепочки поставок ПО.
OpenAI корректирует политику безопасности в ответ на конкурентное давление
OpenAI обновила свою систему обеспечения готовности — внутреннюю систему, которую она использует для оценки безопасности моделей ИИ и определения необходимых мер защиты во время разработки и внедрения. В обновлении OpenAI заявила, что может «скорректировать» свои требования к безопасности, если конкурирующая лаборатория ИИ выпустит систему «высокого риска» без аналогичных мер защиты.
Apple будет анализировать данные на устройствах для улучшения обучения ИИ
Apple опубликовала статью, посвящённую новому подходу в обучении Apple Intelligence. Если ранее компания использовала синтетические данные для обучения ИИ, то теперь она начнёт применять аналитику от пользователей.
ТОП-5 ИБ-событий недели по версии Jet CSIRT
Сегодня в ТОП-5 — Google выпустила бюллетень безопасности, Microsoft исправила более 100 уязвимостей, AkiraBot атакует спамом, RDP используется для кражи данных, майнер маскируется под Microsoft Office.
Автоматизировать, нельзя анализировать: интеграция SOAR Shuffle в SOC ч. 1
Привет, Хабр! Работая в современном коммерческом SOC'е я впервые столкнулся с масштабными средствами автоматизации, заточенными под самые разные инфраструктуры, которые позволяют экономить колоссальное количество времени и предотвращать тысячи киберинцидентов каждый день.
OpenAI вводит процедуру верификации для организаций
Согласно информации, опубликованной на прошлой неделе на сайте компании, в ближайшем будущем OpenAI может ввести процедуру верификации личности для организаций, желающих получить доступ к некоторым будущим моделям искусственного интеллекта.
OpenAI потребует от организаций пройти идентификацию для доступа к некоторым будущим моделям ИИ
OpenAI вскоре может потребовать от организаций пройти процесс идентификации, чтобы они могли получить доступ к некоторым будущим моделям искусственного интеллекта.
Как я начал бояться вайб-кодинга, или почему мы доверяем ИИ больше, чем коллегам
Ещё год назад я смеялся над мемами про Copilot, который "пишет весь код за тебя". Теперь - я уже не смеюсь. Потому что вижу, как всё чаще код влетает в main почти без участия человека. Его не пишут - его принимают. Почти как оракульское послание.Это не всегда плохо. Но иногда - страшно.Началось с удобстваЯ не анти-ИИ и не неолуддит - я сам пользуюсь им в работе. Более того - я первый, кто радовался, когда Copilot или Claude помогали дописать скучные if-else, док-блоки и избавляли от гуглинга array_unique третий раз за неделю. Это круто. Это ускоряет. Это экономит силы. Но со временем, что-то начало меняться.
