Локально ≠ безопасно: как скачанные ИИ-модели и LoRA-адаптеры крадут пароли, ключи и деньги
ПредисловиеСейчас я работаю с локальными моделями и пишу мультимодальную ИИ-студию с распределённой сетью вычислений. В процессе я всё чаще сталкиваюсь с вопросами безопасности: чем больше моделей, адаптеров и узлов оказывается в контуре, тем меньше хочется доверять им «по умолчанию». Некоторые вещи, которые я увидел и о которых читал в исследованиях, касаются не абстрактных угроз, а вполне конкретных сценариев — кражи паролей, ключей, денег и данных. Я не претендую на исчерпывающий анализ, но хочу поделиться своими мыслями и напомнить, почему локальный запуск без изоляции — это риск.
Исследование Smart Engines и INTELLECT: в России на 338% выросло число преступлений, связанных с подделкой документов
Привет, Хабр!Мы, Smart Engines и юридическая фирма INTELLECT, завершили работу над нашим ежегодным – уже четвертым в серии – отчетом о мошенничестве с использованием поддельных документов. Результаты свидетельствуют о серьезном ухудшении ситуации.
HTTP-запрос закончился, а LLM ещё работает: как проектировать AI-задачи на Go
Когда пишешь обычный HTTP API на Go, использование context.Context быстро становится привычкой.Пришёл запрос, получили r.Context(), передали его в сервис, затем в репозиторий и во все внешние вызовы. Если клиент отключился или истёк таймаут, связанные операции отменяются.Для большинства backend-задач это именно то поведение, которого мы хотим.Зачем продолжать выполнять SQL-запрос, если результат уже некому возвращать? Зачем держать соединение с внешним API, если пользователь закрыл страницу?Но когда в систему добавляется LLM, эта привычная логика начинает работать не всегда так, как ожидается.
Как устроен агент: архитектура поверх LLM
Про архитектуру трансформеров написано уже немало, поэтому опишу работу LLM с прикладной точки зрения.КонтекстНа вход LLM подаётся блок текста, который называется контекстом. Размер контекста ограничен: когда всё начиналось, прорывом считались 32К, сейчас 1М — индустриальный стандарт.На основе этого текста LLM генерирует его продолжение. Современные модели выдают логически законченный фрагмент (на уровне модели он завершается специальным токеном <stop>).Контекст таким образом увеличивается: к нему можно дописать новый фрагмент — и всё повторяется заново.Вызов инструментов
Sony получила патент на систему, позволяющую зрителям влиять на игровой процесс стримеров
Японская Sony получила в США патент на систему, позволяющую зрителям прямых эфиров влиять на игровой процесс стримеров. Компания направила заявку на патент под названием «Адаптивный указатель на экране и реакции во время игры» (Adaptive screen share pointer and reactions during gameplay) в октябре 2023 года.
Как Национальный центр ураганов США сделал ставку на ИИ-прогноз Isaias
Ураган Isaias вышел на сушу 9 октября в 21:30 по восточному времени вблизи Дестина
Состояние IT-индустрии в 2026 году: что изменилось, что сломалось и что дальше
Недавно я выступал с главным докладом на LDX3, конференции для руководителей разработки в Нью-Йорке. В зале сидело больше 2000 человек: тимлиды, CTO, директора по разработке и staff+ инженеры. Я попробовал зафиксировать, где индустрия находится прямо сейчас.
Исследование К2Тех: 79% промышленных компаний сообщили о разрыве между ожиданиями от ИИ и готовностью к его внедрению
Ожидания руководства от искусственного интеллекта превышают реальные возможности компаний — об этом сообщили 79% участников исследования К2Тех среди промышленных предприятий. Респонденты оценивали, насколько их организации готовы обеспечить результаты, которых топ-менеджмент ждёт от ИИ, и какие барьеры стоят перед их достижением. В исследовании приняли участие 150 представителей руководящего состава крупных промышленных компаний.
V‑GEN: автономный генератор теленовостей и видеосюжетов на Google Gemini и FFmpeg
Отказ от ответственности. Прошу не швырять камнями в автора. Делал скрипт под свои нужды, выложить в открытый доступ решил спонтанно, может кому‑то пригодится. Над описанием не сильно старался. Введение: Боль регионального ТВ и медиацентров
