- BrainTools - https://www.braintools.ru -

Прогнали на нашем интерактивном бенчмарке gpt-5.5 показывает заметно более надёжный профиль работы с инструментами и проверкой собственного результата, чем gpt-5.4.
По формальной проверке корректности результата gpt-5.5 успешно закрывает на 20% больше задач.
Самое наглядное — success rate инструментов.
У gpt-5.5 он держится на 100% почти везде: read_file 497/497, edit_file 71/71, run_configuration 71/71, search_file_by_name 111/111.
У gpt-5.4 на сопоставимых объёмах есть просадки — run_configuration 93.9%, search_file_by_name 96.3%, edit_file 98.9%.
С этим хорошо совпадает и ревью LLM-судей: gpt-5.5 точнее держит пути и аргументы инструментов (11 задач против 3) и аккуратнее доводит инструментальную проверку результата (13 против 8). По метрике ToolCalls итог — 0.81 против 0.72 в пользу gpt-5.5.
В проверке собственной работы картина похожая. По блоку «верификация и чтение результатов» судья отдаёт gpt-5.5 18 задач против 10, по безопасности правок — 9 против 6: то есть gpt-5.5 заметно реже сообщает «всё ок» при падающей сборке и реже сам ломает соседние модули. И ведёт он себя при этом ощутимо экономнее: те же 32 чата закрываются за 1183 вызова инструментов и 235 855 токенов, тогда как gpt-5.4 тратит на это 1436 вызовов и 337 493 токена. То есть gpt-5.4 чаще «дожимает» задачу количеством шагов, а gpt-5.5 — точностью первого подхода.
По остальным метрикам качества разница невелика, и тут есть любопытный момент: судьёй в этом сравнении выступал сам gpt-5.4. Известно, что в таких ситауациях стабильно проявляется self-preference bias — модель-судья охотнее ставит победу ответам в собственном стиле, формулировках и способе закрывать шаг.
На этом фоне «ничья по скалярным оценкам» читается как сигнал в пользу gpt-5.5: его ответы выдерживают суд соперника, который оценивает «как бы сам себя», а там, где оценка опирается не на стиль, а на проверяемое поведение [1] с инструментами, gpt-5.5 уверенно впереди.
В Veai пользователь платит за минуту чистого времени работы модели, цена для вас не меняется. Для того, чтобы попробовать GPT-5.5, DeepSeek V4 и Kimi K2.6 или множество других передовых моделей достаточно установить плагин [2] и выбрать интересующую модель из выпадающего списка.
Автор: dirvika
Источник [3]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/29364
URLs in this post:
[1] поведение: http://www.braintools.ru/article/9372
[2] установить плагин: https://veai.ru/download
[3] Источник: https://habr.com/ru/companies/veai/news/1027820/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1027820
Нажмите здесь для печати.