Квантование ломает вызов инструментов не так, как показывает BFCL: проверил на MCP-серверах
Есть простая практическая задача, из-за которой я вообще все это затеял. Вы берете маленькую модель, квантуете ее, чтобы она влезла в ноутбучную видеокарту, и хотите заранее понимать, насколько просядет ее способность вызывать инструменты. Обычно для этого смотрят на BFCL или ToolACE: там все измерено, есть таблицы, есть готовые цифры деградации по уровням квантования. И кажется логичным, что этими цифрами можно пользоваться.
Детектор был прав, разметка врала: как мы искали слепую зону LLM-судей и нашли ошибки в эталоне
Иногда самое опасное в исследовании — получить слишком красивый результат.Мы собрали training-free детектор галлюцинаций для RAG, получили хорошие метрики и наткнулись на группу примеров, где все шесть LLM единогласно спорили с эталонной разметкой. Сначала мы решили, что нашли общую слепую зону LLM-as-a-Judge — переносимый, заголовочный результат. Потом открыли первоисточник. И оказалось, что ошибались вовсе не модели.Дальше — история о том, почему несущим здесь оказалась не находка и не детектор, а процедура проверки, которая поймала нас самих.Что работает — и это мы не отзываем
Топ вопросов с NLP собеседований: обучение LLM, prompt-engineering и alignment
На NLP/LLM собеседованиях часто проверяют не только знание архитектуры Transformer, но и понимание полного жизненного цикла современной LLM: как модель предобучается, почему обычная GPT-модель ещё не является удобным ассистентом, зачем нужен instruction tuning, как работает RLHF и что такое alignment, какие у него есть подводные камни.В этой статье - чеклист по GPT-like моделям, prompt engineering, этапам обучения LLM и alignment. Это не полноценная лекция с нуля, а тренажёр перед техническим интервью: пройтись по ключевым определениям, увидеть типовые вопросы и закрыть пробелы в формулировках.Содержание:
xAI переименована в SpaceXAI
Стартап в сфере искусственного интеллекта xAI объявил о смене названия на SpaceXAI. Космическая компания SpaceX приобрела разработчика Grok в феврале этого года. C марта 2025 года в составе холдинга объединили компании xAI и X Corp. Таким образом теперь SpaceX теперь объединяет продукты космической компании, разработчика ИИ и социальной сети.
Новый курс Практикума PRO для продакт-менеджеров — по запуску AI-ML-продуктов
Запустили курс «Запуск AI/ML-продуктов и управление ими» для тех, кто хочет освоить эту роль. Освоите полный цикл создания продуктов с ИИ — от работы с данными до подсчета ROI. Программу писал Никита Радченко — старший AI/ML-продуктовый менеджер с опытом работы в Сбере, Т-Банке и Procter & Gamble. Кому подойдетЭто курс для опытных специалистов — нужен продуктовый бэкграунд, пусть даже небольшой: продакт-менеджеры прокачают работу с моделями, руководители проектов интегрируют ИИ в стратегию,
От REST к MCP: как LLM меняют принципы проектирования API и архитектуры систем. Часть вторая
Привет, Хабр! На связи Дмитрий Бондарев, я backend-разработчик Авито — занимаюсь проектами на стыке разработки и машинного обучения. В первой части этого материала мы обратились к истокам API и существующим ограничениям интерфейса в работе с агентами.
Под капотом у MOLOT’а: обзор ML-модели для обнаружения вредоносного кода
Всем привет! На связи Максим Митрофанов, руководитель ML-команды Application Security в Positive Technologies.
