llm. - страница 102

llm.

Нужную книгу больше не обязательно искать: как ИИ меняет сам принцип работы с информацией

Эдуард Ланчев · «Ланчев PRO ИИ»

продолжить чтение

Qwen3.8-27B на своей карте против 304B по API

Суббота, вечер. Хотел за час выяснить, какую из двух свежих моделей ставить себе - Qwen3.8-27B или DeepSeek V4 Flash 0731. Вышло семь часов и три новых строки в мой бенчмарк :)МодельБаллПрошлоtok/sTTFTQwen3.8-27B, NVFP4, своя карта0.78946/5059.627.7 сQwen3.8-27B, тот же вес по API0.78544/5015.0134.9 сDeepSeek V4 Flash 0731, по API0.73142/5053.3

продолжить чтение

Бесплатные API к Claude, GPT, DeepSeek и другим моделям: 6 AI-роутеров с бесплатным доступом

Все сервисы и лимиты проверялись 16 августа 2026 года. Условия бесплатных тарифов могут меняться. Получить API-доступ к современным языковым моделям можно не только напрямую у крупных провайдеров. Существуют сторонние роутеры, которые дают бесплатные модели, ежедневные лимиты или стартовые кредиты.Я собрал 6 таких сервисов и посмотрел, что именно получает новый пользователь после регистрации: какой баланс начисляют, какие модели доступны, какие ограничения действуют и можно ли действительно отправлять запросы через API.В подборку вошли OrcaRouter, TeamoRouter, AgentRouter, Token Harbor, NaraRouter и FreeRouter.OrcaRouter

продолжить чтение

Принять нельзя сопротивляться

Профессия программиста сейчас меняется быстрее, чем когда-либо. Причина, конечно, в LLM. Я без точной статистики, но, по ощущениям, уже больше 80% коллег используют ИИ каждый день. Раньше это была генерация бойлерплейта или простых методов, а сейчас нейронкам скармливают задачи целиком.

продолжить чтение

Правильный код мы отклоняем — и так задумано

Работаю в компании «Сибинтек-Софт», занимаюсь поддержкой корпоративных информационных систем. Имею сертификат DevOps-инженера, в рамках задач отдела внедряю ИИ в рабочие процессы.Как-то мой валидатор забраковал ответ, сославшись на статью, которой не существует.

продолжить чтение

How we choose LLMs and frameworks for AI agents

продолжить чтение

3 бита вместо 16: разбираем TurboQuant и когда его реально стоит включать

продолжить чтение

Протестировал Vibecraft от Яндекса. Один вопрос остался без ответа

Всем привет. На связи Сергей Игнатенко, основатель ИИ-платформы VibePilot. C недавнего времени партнер Яндекс, у меня грант AI Studio Boost, платформа работает на их моделях. Недавно мне пришло письмо от Yandex Cloud о том, что они запустили сервис вайбкодинга VibeCraft. Моя платформа также является сервисом вайбкодинга, и конечно же мне было интересно попробовать в работе этот новый сервис. Задача

продолжить чтение

Строим RAG вручную: как это работает под капотом

Имея некоторый опыт в построении классических ML и CV-проектов, я решил разобраться в NLP (Natural Language Processing) и собрать свою RAG-систему без использования сторонних RAG-фреймворков (LangChain, LlamaIndex и т.п.). Моя цель - понять, как на самом деле работает RAG под капотом: от разбиения текста до генерации ответа. Проблема, которую решает RAG Готовые LLM модели имеют несколько недостатков:модель не имеет доступа к документам, отсутствовавшим в обучающей выборке (внутренние базы знаний, личные файлы);модель не знает о событиях после даты отсечения обучающих данных;

продолжить чтение

AI Hardcore Set: записи докладов с митапа про MCP и агентов в проде

11 июля мы собрали тех, кто каждый день работает с MCP, пишет своих агентов и гоняет реальные AI-инструменты в проде. Теперь доклады с мероприятия можно пересмотреть всё в удобном темпе. Собрали записи всех выступлений в одной новости. Spec-Driven Development: теория, инструменты, практика — Александр Шаповалов

продолжить чтение