Microsoft анонсировала новый мощный чип для обработки данных с помощью ИИ

Компания Microsoft объявила о выпуске своего новейшего чипа Maia 200, который, по словам компании, представляет собой мощную вычислительную платформу, предназначенную для масштабирования вычислений в области искусственного интеллекта ^[1].

Как заявила компания, модель 200, являющаяся преемницей Maia 100, выпущенной в 2023 году ^[2], технически оснащена для более быстрого и эффективного запуска мощных моделей искусственного интеллекта. Maia оснащена более чем 100 миллиардами транзисторов, обеспечивая производительность более 10 петафлопс в 4-битном режиме и приблизительно 5 петафлопс в 8-битном режиме – существенное увеличение по сравнению с предшественником.

Под выводом понимается вычислительный процесс запуска модели, в отличие от вычислительных ресурсов, необходимых для ее обучения ^[3]. По мере развития компаний, занимающихся искусственным интеллектом, затраты на вывод становятся все более важной частью их общих операционных расходов, что приводит к возобновлению интереса ^[4] к способам оптимизации этого процесса.

Microsoft надеется, что Maia 200 сможет стать частью этой оптимизации, позволяя компаниям, работающим с искусственным интеллектом, работать с меньшими сбоями и меньшим энергопотреблением.

«На практике один узел Maia 200 может без проблем запускать самые большие современные модели, и у него будет достаточно запаса мощности для еще более крупных моделей в будущем», – заявила компания.

Новый чип Microsoft также является частью растущей тенденции, когда технологические гиганты обращаются к разработке собственных чипов, чтобы уменьшить свою зависимость от NVIDIA, чьи передовые графические процессоры ^[5] становятся все более важными для успеха компаний, занимающихся искусственным интеллектом.

С помощью Maia компания Microsoft позиционирует себя как конкурента этим альтернативам. В своем пресс-релизе в понедельник компания отметила, что Maia обеспечивает в 3 раза большую производительность FP4, чем чипы Amazon Trainium третьего поколения, и производительность FP8, превосходящую TPU седьмого поколения от Google.

Microsoft заявляет, что Maia уже активно используется для обеспечения работы моделей искусственного интеллекта, созданных командой Superintelligence. Она также поддерживает работу чат-бота Copilot. По состоянию на понедельник компания сообщила, что пригласила различные стороны, включая разработчиков, ученых и передовые лаборатории ИИ, использовать комплект разработки программного обеспечения Maia 200 в своих рабочих процессах.

Делегируйте часть рутинных задач вместе с BotHub! ^[6] Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке ^[7] вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!

Источник ^[8]