Когда ИИ становится троянским конем: 43% «галлюцинированных» имен пакетов регулярно повторяются в сгенерированном коде
Всем привет! Меня зовут Александр, я COO в SaaS-платформе аналитики данных. Тема безопасности с активным распространением "vibe coding" (на Хабре кажется прижился термин monkey-coding) вызывает большие вопросы, ниже один из них.У себя в телеграм-канале делюсь сжатыми и структурированными саммери статей.Распространение инструментов генерации кода на базе LLM меняет способы разработки программного обеспечения — и одновременно создает новые риски для цепочки поставок ПО.
OpenAI корректирует политику безопасности в ответ на конкурентное давление
OpenAI обновила свою систему обеспечения готовности — внутреннюю систему, которую она использует для оценки безопасности моделей ИИ и определения необходимых мер защиты во время разработки и внедрения. В обновлении OpenAI заявила, что может «скорректировать» свои требования к безопасности, если конкурирующая лаборатория ИИ выпустит систему «высокого риска» без аналогичных мер защиты.
Apple будет анализировать данные на устройствах для улучшения обучения ИИ
Apple опубликовала статью, посвящённую новому подходу в обучении Apple Intelligence. Если ранее компания использовала синтетические данные для обучения ИИ, то теперь она начнёт применять аналитику от пользователей.
ТОП-5 ИБ-событий недели по версии Jet CSIRT
Сегодня в ТОП-5 — Google выпустила бюллетень безопасности, Microsoft исправила более 100 уязвимостей, AkiraBot атакует спамом, RDP используется для кражи данных, майнер маскируется под Microsoft Office.
Автоматизировать, нельзя анализировать: интеграция SOAR Shuffle в SOC ч. 1
Привет, Хабр! Работая в современном коммерческом SOC'е я впервые столкнулся с масштабными средствами автоматизации, заточенными под самые разные инфраструктуры, которые позволяют экономить колоссальное количество времени и предотвращать тысячи киберинцидентов каждый день.
OpenAI вводит процедуру верификации для организаций
Согласно информации, опубликованной на прошлой неделе на сайте компании, в ближайшем будущем OpenAI может ввести процедуру верификации личности для организаций, желающих получить доступ к некоторым будущим моделям искусственного интеллекта.
OpenAI потребует от организаций пройти идентификацию для доступа к некоторым будущим моделям ИИ
OpenAI вскоре может потребовать от организаций пройти процесс идентификации, чтобы они могли получить доступ к некоторым будущим моделям искусственного интеллекта.
Как я начал бояться вайб-кодинга, или почему мы доверяем ИИ больше, чем коллегам
Ещё год назад я смеялся над мемами про Copilot, который "пишет весь код за тебя". Теперь - я уже не смеюсь. Потому что вижу, как всё чаще код влетает в main почти без участия человека. Его не пишут - его принимают. Почти как оракульское послание.Это не всегда плохо. Но иногда - страшно.Началось с удобстваЯ не анти-ИИ и не неолуддит - я сам пользуюсь им в работе. Более того - я первый, кто радовался, когда Copilot или Claude помогали дописать скучные if-else, док-блоки и избавляли от гуглинга array_unique третий раз за неделю. Это круто. Это ускоряет. Это экономит силы. Но со временем, что-то начало меняться.
КОНФИДЕНЦИАЛЬНОСТЬ МЁРТВА: ЯНДЕКС И ВК ОБУЧАЮТ ИИ НА ВАШИХ ЛИЧНЫХ ДАННЫХ?
Счёт производства индусов идёт на секунды по мнению Алисы ПРОНедавно Яндекс "подарил" мне месячную подпись
Сотрудничество Google и NVIDIA для использования ИИ в условиях строгих требований безопасности
Google Cloud и NVIDIA сотрудничают для внедрения возможностей агентского ИИ в локальных средах. Это позволит предприятиям со строгими требованиями к безопасности использовать модели Google Gemini, сохраняя при этом суверенитет данных и соответствие требованиям безопасности.
