BrainTools - Методики для развития мозга - страница 369

Иллюзия контроля: почему промпты не защищают ИИ‑агентов

От Permission Boundary Bypass до языка Дика: почему безопасность агента должна жить в runtime, а не в system prompt.Эпоха простых чат‑ботов подошла к концу. Сегодня мы строим автономных ИИ‑агентов, которые через MCP

продолжить чтение

Как мы научили реляционую базу хранить оргструктуру в виде графа на 500к пользователей

продолжить чтение

Галлюцинации недели: SpaceX покупает Cursor за $60 млрд, GLM-5.2 догоняет Opus, а Midjourney просвечивает людей звуком

продолжить чтение

Тимлид: тупик или развилка. Разбираем семь карьерных выходов

Четыре страха, которые стоит перечитатьПрежде чем разбирать карьерные треки, стоит честно назвать все четыре претензии к профессии тимлида. Не для того, чтобы отмахнуться, а чтобы посмотреть на обратную сторону каждой.

продолжить чтение

Запущена программа «Инженеры смыслов» для поиска перспективных инженерных идей, технологических решений и проектов

продолжить чтение

Где заканчивается вызов LLM и начинается backend система: локальный RAG на FastAPI и Ollama

На практике хотел понять где заканчивается простой вызов локальной LLM и начинается backend система: с API контрактом, логированием, request_id, источниками, индексом документов, диагностикой и честными ограничениями.Сначала проект выглядел просто: frontend отправляет вопрос, FastAPI принимает POST /ask, backend вызывает локальную модель через Ollama и возвращает ответ. Это уже работало, но стало понятно такой вариант ещё нельзя назвать системой по документации. Модель отвечает, но непонятно на что она опирается, откуда взяла ответ, сколько времени занял каждый этап и что делать если документы изменились.

продолжить чтение

Локальный RAG без магии: sources, timings, request_id и отказ от генерации

На практике было интересно не просто вызвать локальную LLM из Python а понять, в какой момент такой вызов превращается в backend-систему: с API-контрактом, логами, request_id, источниками ответа, индексом документов, диагностикой и честным отказом отвечать, если данных в документах нет.В этой статье показываю не теорию RAG, а небольшой локальный проект, где хорошо видно, какие инженерные проблемы появляются вокруг LLM:что попадает в prompt;какие sources были найдены;сколько заняли retrieval и generation;когда backend должен не вызывать LLM;почему stale index может давать странное поведение;

продолжить чтение

Архитектура высокоэффективных нейросетевых вычислений на C++ для прогнозирования динамики ВВП

Введение Принято считать, что для анализа макроэкономики и прогнозирования ВВП необходимы мощные серверы. Обычно разработчики используют Python и тяжелые библиотеки вроде TensorFlow или PyTorch. Однако бывают случаи когда надо чтобы модель была доступна на обычном недорогом ноутбуке или мы хотим применить наработки модели и переложить их на платы ардуино с лимитом памяти 32 кб и ценой в розничном магазине 300 - 400 рублей за штуку.

продолжить чтение

Ведущий инженер Anthropic: использование ИИ-агентов приводит к одиночеству

Фиона Фунг, руководитель инженерного отдела в Anthropic, рассказала, что чем больше инженеры полагались на ИИ-агентов, тем больше они изолировались друг от друга в работе.

продолжить чтение

Как вырасти до мидла: на что на самом деле смотрят тимлиды при оценке DevOps-инженеров

В начале карьеры может казаться, что для перехода с junior-уровня на middle достаточно выучить новые инструменты или просто набить пару лет опыта. На практике всё решает не только техническая база, но и мышление. То, как вы смотрите на задачу: просто «закрыть тикет» или понять, как ваше решение встроится в систему и повлияет на соседние компоненты.Я Алексей Сартаков, тимлид команды DevOps-инженеров во «Фланте». За годы работы вижу одну закономерность: быстрее растут не те, кто знает больше, а те, кто умеет видеть связи, вовремя задавать вопросы и брать ответственность за результат, а не только за строчку в манифесте чарта.

продолжить чтение

1...1020...367368369370371372...380390...2 701