- BrainTools - https://www.braintools.ru -

Разработчик Codex: запуск большого количества ИИ‑агентов только увеличивает расход токенов

Разработчик OpenAI Codex Эрик Провенчер поделился [1] своим наблюдением: по его словам, параллельный запуск большого количества ИИ‑агентов часто лишь резко увеличивает расход токенов, но не улучшает результат.

Разработчик Codex: запуск большого количества ИИ‑агентов только увеличивает расход токенов - 1

По словам разработчика, это «налог на координацию». Он пояснил, что чем больше агентов работает одновременно, тем больше времени и токенов уходит на повторные проверки и дублирование действий.

«Очень сложно поддерживать столько параллельных потоков, не скатываясь в хаос и не сжигая токены на чрезмерные проверки», — написал Провенчер. Он пояснил, что агенты начинают буквально «перепроверять домашнюю работу друг друга».

Провенчер привёл эксперимент, в котором 1393 агента Claude Fable использовали для рефакторинга одного Python‑файла. В итоге на работу ушло около $20 тысяч в токенах. Разработчик подсчитал, что один агент GPT-6 Astra мог бы выполнить ту же задачу за «небольшую долю этой стоимости».

Несмотря на то, что рои агентов действительно могут сократить время выполнения некоторых задач, Провенчер называет перерасход токенов «ловушкой»: дополнительные агенты требуют собственных системных промптов, повторяют [2] вызовы инструментов и часто делают одну и ту же работу.

«Дублирование работы — пожалуй, главная проблема», — отметил разработчик. 

В качестве альтернативы он предлагает разбивать задачу на отдельные потоки и возвращать результаты главному агенту только после завершения.

Между тем OpenAI опубликовала [3] пост, в котором рассказала, сколько её исследователи расходуют на ИИ‑агентов для написания кода. С мая по середину августа ежедневные расходы на токены у среднего исследователя выросли со $162 до более чем $600. Так, самые продвинутые юзеры тратят на токены более $7 тысяч в день.

Автор: maybe_elf

Источник [4]


Сайт-источник BrainTools: https://www.braintools.ru

Путь до страницы источника: https://www.braintools.ru/article/35699

URLs in this post:

[1] поделился: https://x.com/pvncher/status/2099995741036933505

[2] повторяют: http://www.braintools.ru/article/4012

[3] опубликовала: https://habr.com/ru/news/1082376/

[4] Источник: https://habr.com/ru/news/1083836/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1083836

www.BrainTools.ru

Rambler's Top100