AMD приобрела стартап в сфере чипов для ИИ Taalas

AMD купила ^[1] стартап Taalas, производящий чипы для задач искусственного интеллекта ^[2]. Taalas внедряет веса языковых моделей в кремниевую архитектуру, что существенно повышает производительность обработки данных.

Индустрия рассматривает эту сделку в контексте лицензионного соглашения ^[3] Nvidia с Groq на $20 млрд, заключённого в декабре прошлого года. AMD не раскрыла условия сделки.

Основанная в 2023 году Taalas базируется в канадском городе Торонто. Компания использует подход к инверсии, который радикально отличается от традиционных графических процессоров или архитектур потоков данных, лежащих в основе LPU Groq или ускорителей Cerebras для обработки данных на уровне кремниевых пластин. В некотором смысле чипы Taalas представляют собой специализированные интегральные схемы для конкретной модели — Model‑Specific Integrated Circuits (MSIC).

В феврале стартап представил свой первый тестовый чип HC1, изготовленный по 6-нм техпроцессу TSMC. Первоначальные тесты показали, что чип обрабатывает данные в Meta Llama 3.1 8B со скоростью 16 960 токенов в секунду. На момент анонса это было в 48 раз быстрее, чем демонстрировали графические процессоры Nvidia. Также чипы Taalas были в 8 раз быстрее, чем ускорители Cerebras.

Компания тщательно скрывает принцип работы своих чипов, но известно, что процессоры состоят из двух основных областей: mask‑ROM и SRAM.

Для своего чипа второго поколения HC2 стартап планирует увеличить количество параметров до 20 млрд. При таких характеристиках потребуется всего 50 ускорителей, а AMD имеет вычислительную платформу стоечного масштаба и собственная команда разработчиков систем, которая может справиться с этим. Это значительно более компактное и энергоэффективное решение, чем недавно представленные системы LPX от Nvidia.

AMD намерена использовать свои процессоры Helios на базе Instinct в паре чипами, основанными на технологии Taalas, что подразумевает дезагрегированную архитектуру, где ресурсоёмкая обработка запросов выполняется на графических чипах, а генерация токенов переходит ускорителям на базе Taalas.