Локальный запуск LLM для SOC: сколько инцидентов обработает одна GPU? Часть 2
Всем привет! На связи Сергей Иванов, аналитик технологий машинного обучения R‑Vision.В первой части эксперимента мы выяснили, как на производительность локальной LLM влияют длина контекста, количество параллельных запросов и объем генерируемого ответа. Стресс‑тесты позволили определить границы конфигурации Qwen3.5–122B‑A10B‑GPTQ, vLLM и NVIDIA RTX PRO 6000 Blackwell Max‑Q с 96 GB видеопамяти.
Нейросети без магии: как они работают, где приносят пользу и почему не заменят эксперта за один день
Продвижение в нейросетях: что на самом деле нужно заказчику
Всем привет. Меня зовут Владимир Назаров, я основатель агентства поискового маркетинга Head Promo.
В коде приложения Spotify для Android обнаружили упоминания функции распознавания музыки
Портал Android Authority обнаружил упоминание функции распознавания музыки в коде приложения стримингового сервиса Spotify версии 9.1.70.1086 для Android. Исследователи не смогли заставить функцию работать. Код указывает на необходимость доступа к микрофону устройства для записи звука и процедуру обработки ошибок, когда название песни не удаётся определить.
Midjourney купила стартап в области астрологии Co‑Star и разрабатывает собственное приложение
ИИ‑лаборатория Midjourney приобрела
Языковая Модель без магии: Крошечная Language Model на чистом Node.js
Схема Языковой МоделиEnglish | РусскийTokenization → embeddings → causal Transformer → LM head → softmax → loss → backpropagation. Без TensorFlow, без PyTorch, и без hidden autograd.
502 на ingress, 302 в приложении: как я учил инфраструктурного LLM-агента не врать
Сначала контекст. Я делаю внутреннего read-only агента для инфраструктурных расследований: он может читать данные, но не изменять production. Инженер пишет ему в Mattermost или резервном web-чате обычный вопрос: «почему сервис отдаёт 502?», «кто выкатил эту версию?» или «что изменилось перед инцидентом?». Агент сам собирает данные из Kubernetes, VictoriaMetrics, Elasticsearch, GitLab, Grafana, GSLB и других эксплуатационных источников, а затем возвращает ответ с доказательствами и явно перечисленными пробелами.
Как QA я все равно пишу документацию, но с ИИ трачу на нее часы, а не дни
Привет! Меня зовут Никита, с недавнего времени работаю в Cloud.ru на позиции QA-инженера, отвечаю за качество продукта для совместной разработки под названием Repo. В этой сфере я уже четыре года и успел поработать на проектах в GameDev и веб-разработке.
