LLM-пентест в 2026: что изменилось за год
Привет, Хабр! Согласно отчёту Trend Micro TrendAI за прошлый год число CVE во всей AI-экосистеме почти удвоилось: с 419 до 756. Цифры стартовые, но мысль простая. Тестировать нейросетевые сервисы как обычные веб-приложения в 2026-м уже недостаточно. И вот почему.В этой статье разберу:что появилось нового в OWASP LLM Top 10 (версия 2025);какие атаки реально работают в проде, а какие так и остались в arXiv;чем тестируют LLM сейчас (open-source стек плюс российские игроки);плюс короткий практический playbook на четыре уровня.OWASP LLM Top 10 2025: что новое
Мы уткнулись в потолок. Почему видеокарты перестали быстро расти — и что с этим делать
О смерти закона Мура применительно к GPU, стене памяти, которую никто не хочет замечать, и архитектурах, которые пытаются с этим жить.H100 стоит $30 000 и потребляет 700 Вт. RTX 5090 — $2 000 (де-факто больше) и 575 Вт. Прирост производительности между поколениями сжался с 80% до 15–20%. Это, на самом деле, структурная проблема. Давайте разберёмся, откуда она взялась и куда мы движемся.Откуда взялась проблема
Шпионим за конкурентами легально: анализ рынка с нейросетями за один день вместо недели
Что внутри:Метапромптинг: как заставить ИИ самому написать промпт для анализа конкурентовМетод Франкенштейна:
ИИ становится умнее, а мы – глупее; можно ли это остановить?
Как нейробиолог, я проводила исследования, посвящённые сравнению искусственного и человеческого интеллекта. Результаты удивили меня — и дают повод предположить, что мы беспокоимся не о том.Кто умнее — человек или машина?На протяжении 30 лет, которые я проработала в сфере искусственного интеллекта, именно этот вопрос был в центре дискуссий.Нам также внушали следующую историю об ИИ: он будет заниматься утомительной рутинной работой — исследованиями, составлением первых черновиков, обработкой цифр — в то время как мы сосредоточимся на интересных аспектах: творчестве, суждениях, человеческом факторе.
AI-агенты в продакшене: почему demo не равно реальность
Как я строил агента для код-ревью на LangGraph и где сломалась красивая теорияПару месяцев назад я смотрел демку: AI-агент получал пулл-реквест, пробегал по diff-у, находил потенциальный race condition и писал развёрнутый комментарий с предложением фикса. Всё это занимало около 40 секунд.В нашей команде ревью давно стало бутылочным горлышком. Двое сеньоров, около двенадцати PR в день, каждый висит в очереди по полдня. Идея автоматизировать первый проход — типовые замечания, проверки стайлгайда, очевидные ошибки — выглядела очень соблазнительно.
Больше контекста — хуже результат
почему AI-агенты деградируют на длинных сессиях и при чём тут CoTПосле статьи про Cursor и сжатие контекста я получил много комментариев. В коментах спорят: виноват компактинг? Или attention dilution? Или модель просто ослушалась? Или проблема вообще не в контексте, а в alignment?Спор хороший, но он показывает фундаментальную проблему: у инженеров нет общей картины того, как LLM работают с контекстом. Мы видим симптомы (агент удалил базу, модель галлюцинирует, точность падает на длинной сессии), но не понимаем механизмы.Попробуем собрать эту картинкуDisclaimer
75 картинок ablation: как Reddit-критика заставила меня переосмыслить FLUX-LoRA пайплайн
TL;DR. Запустил pinock.io — бесплатную ленту AI-генерации животных в стиле советских спичечных коробков. Под капотом FLUX.2-klein + кастомная LoRA + двухпроходный «sandwich»-пайплайн. Получил детальный технический комментарий на r/StableDiffusion с двумя конкретными претензиями. Прогнал ablation: 5 вариантов × 5 категорий × 3 сида = 75 картинок. Нашёл дыры в собственном пайплайне — в том числе кириллицу в выходе LoRA (training-set leakage) и полный коллапс LoRA при scale=2.0
Странные ИИ‑существа из 00-х, которые научились размножаться сами
Искусственный интеллект пришел в мир почти 70 лет назад. А наши жизни он захлестнул поистине атилловским вторжением совсем недавно.
Использование Trino для построения ETL‑процессов
1. Введение. Trino: ключевые задачи и главные преимущества
Lemonade — локальный LLM-сервер при поддержке AMD. Зачем он нужен, если есть Ollama?
Ryzen AI 9 HX 370 - это чип с NPU на 50 TOPS и Ollama его не видит - из-за своей архитектуры. Собственно, сама Ollama работает поверх llama.cpp, llama.cpp поддерживает GPU через CUDA, Metal, Vulkan и ROCm. А вот AMD GPU Ollama запускает - через ROCm и Vulkan. Но AMD NPU на базе архитектуры XDNA туда, к сожалению, не входит. Ryzen AI 300, Ryzen 8040, Ryzen 7040 - у всех этих чипов есть нейронный процессор, который при запуске Ollama простаивает.И вот Lemonade Server появился именно для этого сегмента.Что за LemonadeДля начала - это не корпоративный продукт AMD. Они финансируют разработку и предоставляют инженеров, но это не официальный продукт с корпоративным релизным циклом.
