llm.
У нас есть MCP дома
Всем привет! Меня зовут Петрович и я работаю техлидом java команды в небольшом международном финтехе. В прошлый раз я рассказывал, как мы меняли Redis на Hazelcast, а сегодня расскажу как мы делали свой MCP-сервер для Jira, Confluence и GitLab (все self-hosted). От пустого репозитория до прода прошло две недели, а сейчас у сервера уже почти 100 инструментов. Расскажу, почему не взяли готовое решение, как все устроено внутри и на какие грабли мы наступили (спойлер: почти все грабли назывались null).Немного матчасти: что такое MCPModel Context Protocol - это открытый стандарт
1С Напарник. Стоит он того?
Что решает — дорогое и долгое дообучение узкой модели или хорошая обвязка вокруг обычной облачной?На первый взгляд кажется очевидным, что модель от вендора, у которого привилегированный и неограниченный доступ к материалам, не оставит камня на камне от конкурентов. Но, может, мы уже дошли до того момента, когда разница в качестве ответов общих и специализированных моделей не оправдывает затрат на дообучение?Попробуем сравнить нашего интерактивного помощника на open-source стеке и Напарника
Джеффри Хантли: агенту хватит –help, если CLI сделана хорошо
Слева S-тир, справа F-тирДавно собирался про это написать. Да, поздновато, но я всё-таки влезу в спор «MCP против CLI». Есть мысль, которая кому-то может показаться интересной.Чем MCP-сервер на самом деле отличается от самой обычной CLI с флагом --help
Устроил маленьким моделям проектный институт: слабой деление на разделы дало вчетверо, рой пять пунктов
Я тепломеханик, начальник отдела в проектной организации, в проектировании четырнадцать лет. Программистом не был ни дня, с нейросетями вожусь меньше года. Весной взялся вырастить из слабых локальных моделей рой, который окажется умнее самой сильной из них. Рой не поумнел. Зато по дороге я разложил шесть маленьких моделей по схеме, по которой работает любой проектный институт, и замерил, что из этой схемы держит нагрузку. Держит одно деление на разделы, и слабой модели оно дает больше, чем сильной.
Я написал 61 тест для AI-ментора. Потом выяснилось, что тестам тоже нельзя верить
Репетитора не нанимают по резюме. Ему дают тетрадь реального ученика и смотрят не на то, знает ли он ответ, а на то, где он остановится. Подскажет, в какой строке ошибка, или перепишет задачу за ученика? Скажет «не знаю, давай проверим» или уверенно додумает?Месяц назад я встроил в свою учебную платформу AI-ментора: он видит уроки, прогресс студента и его последнюю попытку по заданию. Чтобы не выбирать модель и не править промпт по ощущениям, я собрал стенд из автоматических проверок и начал принимать решения по его цифрам.
Детектор ИИ-текста своими руками: какие признаки нейрослопа ловит код и какие остаются живому редактору
Я разложил по проверкам своего детектора ИИ-текста 12 признаков нейрослопа, то есть текста, который выдала нейросеть и никто не вычитал. Кодом ловятся пять. Остальные семь держатся только на правилах для редактора.Онлайн-детекторы проверяет тексты, но часто в ответ видишь лишь проценты — непонятно, что именно править. Сам процент тоже ненадёжен: в работе Liang и соавторов семь детекторов в среднем приняли за машинные 61% эссе TOEFL, написанных людьми, для которых английский не родной. OpenAI свой классификатор закрыла
Нафиг NVIDIA! Я запустил Qwen на FPGA за $50 — а свой TPU назвал бы «КЕДР». Часть 1
Я хотел разработать собственный AI-процессор, нашёл openTPU, взял FPGA за ~$50 с 4 ГБ оперативной памяти, подключил её к обычному мини-ПК и запустил на ней большую языковую модель - и улетел в космос (в позитивном и дофаминовом смыслах). Без NVIDIA. Без видеокарты. На открытой архитектуре, которая разработана при активном участии ИИ-агентов. openTPU — открытый AI-ускоритель Felipe Sens Bonetto.Мне стало интересно: а можно ли действительно взять такой проект с GitHub, загрузить его в физическую FPGA и запустить настоящий LLM-инференс?По замерам автора проекта на такой же плате:
Обучаем LLM по клику: платформа распределённого обучения на HGX
Привет, Хабр! Меня зовут Павел, я старший разработчик ML-платформы в Авито и последние полтора года занимаюсь MLOps. На прошедшей Kuber Conf от АОТ я выступал с докладом про нашу платформу распределённого обучения, а теперь решил сделать на его основе статью для вас. Если вам комфортнее воспринимать такие материалы в формате видео — держите.

