Проблемы с использованием моделей Anthropic через AWS Bedrock

Согласно отчёту The Information, клиенты выражают недовольство Amazon Web Services из-за ограничений в платформе искусственного интеллекта ^[1] Bedrock.

Несмотря на то, что AWS инвестирует в Anthropic, компания, как сообщается, испытывает трудности с надёжной доставкой моделей Anthropic через Bedrock. Некоторые пользователи жалуются на произвольные ограничения использования и отсутствие функций, в том числе кэширования подсказок — функции, которая уже давно доступна при прямом доступе к моделям Anthropic через собственный API компании. В результате некоторые стартапы, такие как Lovable и Praxis AI, переходят на собственный интерфейс Anthropic.

Согласно отчёту, во внутренних обсуждениях AWS текущие проблемы с производительностью платформы были названы «катастрофой». Однако представитель AWS Кейт Ворис публично опровергла эту характеристику, заявив, что ограничения в использовании не вызваны нехваткой ресурсов. Вместо этого она назвала ограничения стандартной отраслевой мерой для обеспечения «справедливого доступа» в условиях «беспрецедентного спроса».

Amazon и Anthropic заключили стратегическое партнёрство ^[2], ориентированное на искусственный интеллект и облачную инфраструктуру. Amazon инвестировала до 8 миллиардов долларов в Anthropic ^[2], став крупнейшим спонсором стартапа. Взамен Anthropic использует AWS в качестве основного поставщика облачных услуг и запускает свои модели искусственного интеллекта Claude на специальных чипах AWS (Trainium и Inferentia) ^[3]. Amazon интегрирует эти модели в свою платформу Bedrock AI, стремясь привлечь корпоративных и государственных клиентов.

Основной интерес ^[4] Amazon заключается в увеличении доходов от облачных сервисов AWS за счёт поддержки ресурсоёмких рабочих нагрузок ИИ-стартапа Anthropic и привлечения большего числа клиентов в свою экосистему. Это циклическая инвестиционная стратегия: Amazon инвестирует миллиарды в стартапы в сфере ИИ, такие как Anthropic, которые, в свою очередь, используют этот капитал для покупки облачных сервисов у Amazon Web Services (AWS). Это создаёт самоподдерживающийся цикл, в котором финансовая поддержка Amazon стимулирует спрос на собственную инфраструктуру, увеличивая доходы AWS.

Эта стратегия циклических инвестиций характерна не только для Amazon — Microsoft и Google придерживаются схожих подходов в сфере ИИ. Microsoft, например, инвестировала более 13 миллиардов долларов в OpenAI. Взамен OpenAI запускает свои модели в облаке Microsoft Azure и интегрирует их в такие продукты Microsoft, как Copilot и Azure OpenAI Service. Google использует ту же модель с такими компаниями, как Anthropic и Runway.

Источник ^[5]