Microsoft представила агента с искусственным интеллектом в меню настроек Windows

В Windows появится новый помощник с искусственным интеллектом ^[1], который сможет изменять системные настройки с помощью команд на естественном языке. Новая языковая модель Мu работает полностью автономно на специализированных чипах с искусственным интеллектом, но пока она доступна только небольшой группе пользователей.

Вместо того чтобы копаться в меню, пользователи могут вводить такие команды, как «Увеличить яркость экрана», или описывать проблемы, например «Мой указатель мыши слишком маленький». Агент встроен в существующее поле поиска настроек и, по словам Microsoft, отвечает менее чем за полсекунды.

В основе работы ассистента лежит новая языковая модель под названием Мu, которую Microsoft разработала специально для этой задачи. Модель содержит 330 миллионов параметров и использует архитектуру «кодировщик-декодировщик», которая, по словам Microsoft, намного эффективнее, чем модели, использующие только декодер, которые обычно применяются сегодня.

В этой системе кодировщик обрабатывает вводимые пользователем данные один раз и преобразует их во внутреннее представление. Затем декодировщик генерирует соответствующие команды Windows. По словам Microsoft, такое разделение сокращает время отклика на 47% и повышает скорость обработки в 4,7 раза по сравнению с аналогичными моделями.

Полностью локальное выполнение на чипах NPU

Mu полностью работает на нейронных процессорах (NPU), которые используются в ПК с Copilot+. Эти специализированные чипы ИИ оптимизированы для задач машинного обучения ^[2] и позволяют модели обрабатывать более 100 токенов в секунду. По словам Microsoft, система может обрабатывать более 200 токенов в секунду на ноутбуке Surface Laptop 7.

Чтобы оптимизировать Mu для аппаратного обеспечения NPU, Microsoft использовала квантование после обучения, преобразуя веса модели из чисел с плавающей запятой в 8-битные и 16-битные целые числа. Это снижает потребление памяти ^[3] и увеличивает скорость обработки.

Обучен на 3,6 миллионах примеров

Microsoft начала с обучения Mu на сотнях миллиардов обучающих токенов, а затем извлекла знания из более крупных, но всё ещё небольших моделей Phi ^[4]. Для агента конкретных настроек Microsoft использовала 3,6 миллиона обучающих примеров — в том числе синтетических — для расширения охвата с примерно 50 до сотен настроек Windows.

Система лучше всего работает с более длинными и понятными запросами. Для коротких или неоднозначных команд в поле поиска по-прежнему отображаются стандартные результаты поиска. Например, команда «Увеличить яркость» может вызвать проблемы, если подключено несколько мониторов.

Доступно только для Windows Insiders с Copilot+

Microsoft собирает отзывы участников программы Windows Insiders, чтобы улучшить систему. В настоящее время основное внимание ^[5] уделяется наиболее часто используемым настройкам, а поддержка более сложных задач запланирована на будущее.

Пока неизвестно, когда эта функция будет доступна всем пользователям Windows. Поскольку она зависит от аппаратного обеспечения NPU, которое есть только в последних моделях ПК с Copilot+ ^[6], сначала она будет доступна ограниченному числу пользователей. Чтобы попробовать эту функцию, пользователям также необходимо зарегистрироваться в канале разработчиков.

Microsoft сигнализирует о переходе к компьютерам, которыми можно управлять с помощью естественного языка. Ранее компания демонстрировала экспериментальные системы агентов ^[7], которые взаимодействуют с графическими пользовательскими интерфейсами с помощью мультимодальных языковых моделей ^[8]. Обучение модели для выполнения очень конкретной задачи, как в случае с Mu, может быть менее гибким, но оказывается гораздо более эффективным.

По ссылке ^[9] вы можете получить 100 000 бесплатных токенов для первых задач на BotHub  ^[10]и уже сейчас начать работать!

Источник ^[11]