Квантование ломает вызов инструментов не так, как показывает BFCL: проверил на MCP-серверах
Есть простая практическая задача, из-за которой я вообще все это затеял. Вы берете маленькую модель, квантуете ее, чтобы она влезла в ноутбучную видеокарту, и хотите заранее понимать, насколько просядет ее способность вызывать инструменты. Обычно для этого смотрят на BFCL или ToolACE: там все измерено, есть таблицы, есть готовые цифры деградации по уровням квантования. И кажется логичным, что этими цифрами можно пользоваться.
Почему model collapse может оказаться коллапсом не только моделей
«Мы принадлежим крестоформу?»Коллапс моделей
Сначала ИИ съел джуниоров. Потом — сеньоров. А потом оказалось, что новым специалистам взяться неоткуда
В последнее время мы привыкли бояться Терминаторов и Скайнет. Но, кажется, мы ищем угрозу не в том месте. Настоящий «Конвейер смерти» — это не красные глаза робота-убийцы, а банальная экономическая целесообразность и наша собственная самоуверенность. Рассмотрим сценарий заката человечества, который уже идет полным ходом. И закат этот наступит не из-за того, что ИИ станет слишком умным, а из-за того, что мы станем слишком тупыми.Часть 1. Черный ящик и зеленый доллар
Как я отупел от нейросетей
И начал снова учиться жить своим умом. О моём личном осознании через четыре полки из Леруа и ситуации с деградацией в мире.
Что происходит? Анализируем поведение модели и разбираем причины деградации её предсказаний
Сегодня просто написать хорошую модель уже недостаточно: важно постоянно следить за её предсказаниями, так как поведение клиентов меняется со временем, и модель может терять в их качестве. Чтобы эффективно отслеживать её работу, нужна система мониторинга, которая определяет методы и частоту проверок, критерии отклонений. Построение целой системы часто пугает ML-команды объёмом работ — так модели остаются и вовсе без мониторинга.
AI как новый опиум для разработчиков: Зависимость, которая убивает индустрию
Искусственный интеллект стремительно меняет IT-индустрию, обещая удобство и скорость. Но за этим фасадом скрываются серьёзные риски: деградация навыков, создание поколения разработчиков неспособных мыслить критически. Пора задуматься: Не превращаемся ли мы в заложников технологии, которая обещала нам свободу? 1. Кризис фундаментальных знаний: "Поколение операторов"ИИ превращает разработку в «сборку пазла». Молодые программисты перестают понимать, почему код работает. Чем больше человек доверяет ИИ, тем меньше развивает собственное суждение и когнитивные навыки.Это приведёт к:
