OpenAI начинает использовать тензорные процессоры Google для своих ИИ-продуктов

По данным The Information, компания OpenAI начала использовать тензорные процессоры Google (TPU) для запуска ChatGPT и других продуктов на основе ИИ. Это первый случай, когда OpenAI в больших масштабах использует чипы, отличные от графических процессоров Nvidia.

TPUs арендуются через Google Cloud и предназначены для снижения затрат на вывод — процесс запуска обученных моделей для генерации ответов на новые запросы. До сих пор OpenAI была одним из крупнейших клиентов Nvidia, использующим её графические процессоры как для обучения ^[1], так и для развёртывания больших языковых моделей.

У партнёрства с Google есть свои ограничения. Согласно The Information ^[2], Google не предоставляет OpenAI доступ к своим самым мощным моделям TPU. Сотрудник Google Cloud подтвердил это ограничение.

Сообщение в Microsoft

Этот шаг является чётким сигналом для Microsoft, крупнейшего инвестора OpenAI и компании, которая обеспечивала большую часть инфраструктуры для продуктов OpenAI. Перенося часть рабочих нагрузок на инфраструктуру Google, OpenAI использует свои отношения с ключевым конкурентом Microsoft в качестве стратегического рычага.

Сообщается, что генеральный директор OpenAI Сэм Альтман и генеральный директор Microsoft Сатья Наделла ведут переговоры о партнёрстве компаний ^[3]. OpenAI также расширила свои вычислительные мощности благодаря сделке с Oracle ^[4].

Google Cloud напрямую конкурирует с Microsoft Azure и является основным фактором роста Google. Решение OpenAI использовать инфраструктуру Google влияет не только на рынок ИИ, но и на облачный сектор, который в последние годы играл ключевую роль в динамике акций Microsoft.

Изначально Google использовала свои TPU для внутреннего применения, но теперь открывает доступ к ним для большего числа внешних партнёров. Помимо OpenAI, среди клиентов — Apple и стартапы Anthropic и Safe Superintelligence, основанные бывшими руководителями OpenAI.

По данным исследовательской компании Epoch AI ^[5], инфраструктура Google обеспечивает крупнейшие в мире вычислительные мощности для ИИ. Облако TPU является ключевой частью стратегии Google в области ИИ и конкурирует с графическими процессорами Nvidia, особенно при работе с большими моделями.

Источник ^[6]