Вайбкодинг закончился, когда пришёл второй пользователь
Бот уже отвечает. А продукт где? История разработки сервиса с ИИ.Друг принёс мне работающего Telegram-бота. Он сам много публикует короткие видео и хотел дать уже снятому ролику больше попыток залететь в просмотрах, не готовя каждую версию вручную.
Бот уже отвечает. А продукт где? История разработки сервиса с ИИ
Друг принёс мне работающего Telegram-бота. Он сам много публикует короткие видео и заметил интересную вещь: один и тот же ролик может набрать совершенно разное количество просмотров.
Как проверить, что ИИ-приложение действительно восстановилось после сбоя
Итак, резервные копии готовы, инфраструктура восстановлена, приложение снова отвечает на запросы. Но можем ли мы доверять его ответам? После сбоя ИИ-помощник рискует использовать устаревшие документы, возвращать отозванные права доступа и повторно выполнять действия, которые уже совершил. Разберемся, как избежать таких ошибок при восстановлении RAG-приложения.
Свои GPU плюс облако: как LLM-шлюз живёт в продакшене — ноды, отказы, ключи, обновления
В прошлой статье
Облако и on-premise в одном решении: кто защитит ваши данные?
Привет, Хабр! Уверен, что многие из вас знают о неприятных событиях, произошедших с инфраструктурой дата-центров в России. Наши коллеги по индустрии ищут разные способы защиты ЦОД и самого драгоценного – данных клиентов в этих дата-центрах, а владельцев бизнеса крепко задумались – а так ли безопасно хранить все данные и сервисы у внешнего облачного провайдера? Есть один вариант для максимальной защиты данных, рассказываем про него в тексте ниже.Как изменилась ситуация на рынке облаков?
Языковая модель в поиске магазина: как подключить её так, чтобы её падение никто не заметил
В прошлой статье я рассказывал, как устроено ядро нашего поиска: триграммы, crc32, словарь болей и два сита. В конце был короткий раздел «А где же нейросеть?», и он заслуживает отдельного разговора. Сегодня про то, как модель встроена сверху и почему мы с самого начала исходили из того, что она когда-нибудь подведёт.
Понятно о распределённых системах. Анонс книги Доминика Торнова
Привет, Хабр!Мы считаем, что в настоящее время просто незаменимы книги, рассматривающие такие темы, которые пока не автоматизируются средствами искусственного интеллекта. Одна из таких предметных областей - проектирование распределённых систем. В нашем ассортименте давно закрепилась добротная книга Иэна Гортона "Масштабирование систем. Основы и проектирование распределённых архитектур", которую многие читатели сравнивают с "
Как проверить postmortem, подготовленный LLM. Разбираем инцидент Cloudflare
«Все сервисы восстановили в 14:30» выглядит как обычная строка хронологии. Но для инцидента Cloudflare, который мы разберём ниже, она неверна: к этому времени в значительной степени восстановился основной трафик, а полное восстановление наступило позже.Такое сокращение меняет оценку последствий сбоя. Команда рискует пропустить часть проблем и меры, которые помогли бы их устранить.Если вы поручаете большой языковой модели, LLM, подготовить postmortem, письменный разбор причин и последствий сбоя, результату нужна содержательная проверка. Разберём её на материале
