vLLM Production Stack. Часть 1: Базовые возможности vLLM
ОглавлениеДля удобства навигацииВступлениеТестовое окружение Как устроены примеры в статьеЧто такое vLLM vLLM Production StackКакие модели можно запуститьЗапуск моделей в разных режимах Скачивание моделиЗапуск Qwen3-8BВключение вызова инструментов (tool-calling)
Yandex B2B Tech представила платформу Stackland для запуска и масштабирования приложений в закрытом контуре компаний
Команда Yandex B2B Tech представила Yandex Cloud Stackland — платформу для быстрого запуска и масштабирования ИТ-приложений, в том числе на базе искусственного интеллекта. Компания отмечает, что инструмент позволяет ускорить разработку цифровых продуктов и снизить затраты в среднем в 1,5 раза.
Ботинок — консольный AI-агент для тех, у кого мало VRAM
Ботинок (сущ.) — консольный ИИ-агент. Будучи надетым на привычные костыли уставшей линукс-системы, делает их почти неотличимыми от настоящих ног.Хабр, привет!Эта статья — не туториал и не обзор. Это история о том, как я искал инструмент для своих задач, не нашёл, расстроился, а потом успокоился и написал свой. Речь пойдёт о Ботинке — консольном AI-агенте для работы по SSH. Но сначала немного контекста.
Слабое место блоков питания ATX. Почему компьютер странно, плавающе глючит без очевидных причин?
Привет, Хабр. В этой статье поделюсь частью знаний на стыке радиолюбительства и компьютеров. Постараюсь статью сделать краткой и полезной. Но это не точно :)Расскажу вам об одном из гадких, неприятных "приколов", которые довольно сложно детектировать. Но они доставляют периодическую боль. Симптомы проблемВаш стационарный компьютер ведёт себя несколько странно. Периодически, не сразу
Почему большинство AI-агентов плохо работают на Raspberry Pi (и как я попытался это исправить)
Проблема: тяжёлые AI-агенты на маленьком железеПоследнее время я экспериментировал с AI-агентами на Raspberry Pi 5.И довольно быстро столкнулся с проблемой: большинство существующих агентных фреймворков оказываются слишком тяжёлыми для небольшого железа.Типичная архитектура таких решений включает:Python-фреймворкнесколько фоновых сервисовorchestration слойиногда векторную базудовольно сложную конфигурациюНа сервере это нормально работает. Но на Raspberry Pi всё начинает ощущаться иначе:долгий стартлишние зависимости
Приложение Microsoft 365 Copilot не будут автоматически устанавливать на Windows 11
Microsoft заявляет, что временно отключит автоматическую установку Microsoft 365 Copilot на Windows 11. Ранее эта мера вызвала негативную реакцию коммерческих клиентов, которым всегда предоставлялась возможность отказаться от принудительной установки.
Облачная безопасность в 2026 году: три критических направления, с которыми не справиться «вчерашними» инструментами
К 2026 году стало очевидно: классические подходы к защите информационных систем перестали работать не потому, что «появилось больше уязвимостей», а потому что изменилась сама природа инфраструктуры и атак.
