МВД предупредило о мошеннических ссылках в выдаче ChatGPT
Алгоритмы нейросетей, в том числе ChatGPT, перенаправляли пользователей на мошеннические ресурсы, предназначенные для хищения денег и личных данных. Об этом сообщает
Уволен, но не ушёл: два слоя защиты от инсайдера
Начало историиПонедельник, 9:45. Вторая неделя на должности IT-директора. Голова идёт кругом: план закупок на квартал, проект бюджета на следующий год, аудит безопасности, тендер на новые серверы 1С, длинный список невыполненных задач от предшественника и очередь желающих получить точный ответ — «когда наконец 1С начнёт нормально работать?».В коридоре встречаю генерального директора.— Слушай. Ко мне в личку пишут двое наших бывших сотрудников. Интересуются новостями из вчерашней корпоративной рассылки. Почему они её получают?
Иллюзия контроля: почему промпты не защищают ИИ‑агентов
От Permission Boundary Bypass до языка Дика: почему безопасность агента должна жить в runtime, а не в system prompt.Эпоха простых чат‑ботов подошла к концу. Сегодня мы строим автономных ИИ‑агентов, которые через MCP
Figma ушла, а привычки остались. Существует ли российский аналог?
Многие компании в России за последние пару лет прошли через пять стадий принятия: от «да это просто баг, сейчас починят» до «окей, нам нужен новый инструмент». Но попытки просто заменить Figma на другой редактор часто разбиваются о суровую реальность. Почему так происходит и что с этим делать?В этой статье мы расскажем о новом российском продукте-платформа "Контраст" – как на нее перейти и что она из себя представляет.
Защита конфиденциальных данных в облачных LLM
Как ни крути, LLM — основа ИИ-трансформации. Начать с облачных LLM — самый простой и недорогой шаг. Простота и доступность делают их идеальными для начального обучения и прототипирования. Проблема: сотрудники «сливают» в облака чувствительные данные, которые можно грубо разделить на персональные данные и коммерческую тайну.Про персональные данные и ответственность за их утечку расскажу в отдельной статье. Ниже соображения как можно проводить ИИ-трансформацию и обеспечить безопасность работы с конфиденциальными данными.
Mythos 5: что известно и как с этим жить
12 июня компания Anthropic сообщила, что правительство США временно запретило доступ к моделям Fable 5 и Mythos 5 пользователям из других стран как за пределами США, так и внутри страны, включая иностранных сотрудников самой Anthropic.Компания утверждает, что доступ к остальным моделям Anthropic это решение не касается. Однако сам факт принудительного отключения доступа к двум передовым моделям снова поднял главный вопрос последних месяцев: насколько быстро развиваются ИИ-системы и готовы ли бизнес, регуляторы и разработчики к рискам, которые появляются вместе с такими возможностями.
