llm. - страница 49

llm.

У нас есть MCP дома

Всем привет! Меня зовут Петрович и я работаю техлидом java команды в небольшом международном финтехе. В прошлый раз я рассказывал, как мы меняли Redis на Hazelcast, а сегодня расскажу как мы делали свой MCP-сервер для Jira, Confluence и GitLab (все self-hosted). От пустого репозитория до прода прошло две недели, а сейчас у сервера уже почти 100 инструментов. Расскажу, почему не взяли готовое решение, как все устроено внутри и на какие грабли мы наступили (спойлер: почти все грабли назывались null).Немного матчасти: что такое MCPModel Context Protocol - это открытый стандарт

продолжить чтение

1С Напарник. Стоит он того?

Что решает — дорогое и долгое дообучение узкой модели или хорошая обвязка вокруг обычной облачной?На первый взгляд кажется очевидным, что модель от вендора, у которого привилегированный и неограниченный доступ к материалам, не оставит камня на камне от конкурентов. Но, может, мы уже дошли до того момента, когда разница в качестве ответов общих и специализированных моделей не оправдывает затрат на дообучение?Попробуем сравнить нашего интерактивного помощника на open-source стеке и Напарника

продолжить чтение

Джеффри Хантли: агенту хватит –help, если CLI сделана хорошо

Слева S-тир, справа F-тирДавно собирался про это написать. Да, поздновато, но я всё-таки влезу в спор «MCP против CLI». Есть мысль, которая кому-то может показаться интересной.Чем MCP-сервер на самом деле отличается от самой обычной CLI с флагом --help

продолжить чтение

JetBrains выпустила Mellum2.1 под лицензией Apache 2.0

продолжить чтение

Устроил маленьким моделям проектный институт: слабой деление на разделы дало вчетверо, рой пять пунктов

Я тепломеханик, начальник отдела в проектной организации, в проектировании четырнадцать лет. Программистом не был ни дня, с нейросетями вожусь меньше года. Весной взялся вырастить из слабых локальных моделей рой, который окажется умнее самой сильной из них. Рой не поумнел. Зато по дороге я разложил шесть маленьких моделей по схеме, по которой работает любой проектный институт, и замерил, что из этой схемы держит нагрузку. Держит одно деление на разделы, и слабой модели оно дает больше, чем сильной.

продолжить чтение

Я написал 61 тест для AI-ментора. Потом выяснилось, что тестам тоже нельзя верить

Репетитора не нанимают по резюме. Ему дают тетрадь реального ученика и смотрят не на то, знает ли он ответ, а на то, где он остановится. Подскажет, в какой строке ошибка, или перепишет задачу за ученика? Скажет «не знаю, давай проверим» или уверенно додумает?Месяц назад я встроил в свою учебную платформу AI-ментора: он видит уроки, прогресс студента и его последнюю попытку по заданию. Чтобы не выбирать модель и не править промпт по ощущениям, я собрал стенд из автоматических проверок и начал принимать решения по его цифрам.

продолжить чтение

Детектор ИИ-текста своими руками: какие признаки нейрослопа ловит код и какие остаются живому редактору

Я разложил по проверкам своего детектора ИИ-текста 12 признаков нейрослопа, то есть текста, который выдала нейросеть и никто не вычитал. Кодом ловятся пять. Остальные семь держатся только на правилах для редактора.Онлайн-детекторы проверяет тексты, но часто в ответ видишь лишь проценты — непонятно, что именно править. Сам процент тоже ненадёжен: в работе Liang и соавторов семь детекторов в среднем приняли за машинные 61% эссе TOEFL, написанных людьми, для которых английский не родной. OpenAI свой классификатор закрыла

продолжить чтение

Нафиг NVIDIA! Я запустил Qwen на FPGA за $50 — а свой TPU назвал бы «КЕДР». Часть 1

Я хотел разработать собственный AI-процессор, нашёл openTPU, взял FPGA за ~$50 с 4 ГБ оперативной памяти, подключил её к обычному мини-ПК и запустил на ней большую языковую модель - и улетел в космос (в позитивном и дофаминовом смыслах). Без NVIDIA. Без видеокарты. На открытой архитектуре, которая разработана при активном участии ИИ-агентов. openTPU — открытый AI-ускоритель Felipe Sens Bonetto.Мне стало интересно: а можно ли действительно взять такой проект с GitHub, загрузить его в физическую FPGA и запустить настоящий LLM-инференс?По замерам автора проекта на такой же плате:

продолжить чтение

Обучаем LLM по клику: платформа распределённого обучения на HGX

Привет, Хабр! Меня зовут Павел, я старший разработчик ML-платформы в Авито и последние полтора года занимаюсь MLOps. На прошедшей Kuber Conf от АОТ я выступал с докладом про нашу платформу распределённого обучения, а теперь решил сделать на его основе статью для вас. Если вам комфортнее воспринимать такие материалы в формате видео — держите.

продолжить чтение

LLM-разработка в 2026: навыки, кейсы, требования

Привет, Хабр!Я старший инженер-программист в Финаме и автор курса «LLM-разработчик» в Хекслете. Разговор пойдёт о практике LLM-разработки и о бытовых деталях: кому нужен RAG, обязательно ли связываться с большими моделями, каково на рынке LLM-разработки и как попасть в профессию — что уметь, как искать, сколько просить. Если лень читать — я всё это рассказал в видео. А этот материал — для тех, кто больше любит буквы, чем кино. 

продолжить чтение