ИИ будет думать быстрее: Meta* показала технологию DeepConf

Meta* AI совместно с Университетом Калифорнии в Сан-Диего представили новый метод DeepConf (Deep Think with Confidence), который позволяет языковым моделям быстрее и эффективнее справляться с задачами, требующими логических рассуждений и математических вычислений. В отличие от традиционных подходов, где несколько вариантов решения оцениваются одинаково, даже если часть из них ошибочны, DeepConf использует внутренние сигналы уверенности модели.

Слева: метрики либо проверяют весь ответ, либо фокусируются на отдельных разделах, например, на заключении. Справа: двухэтапный процесс DeepConf сначала отфильтровывает пути с низкой достоверностью, а затем выбирает окончательный ответ путем взвешенного голосования среди наиболее сильных кандидатов.

За счёт анализа распределения вероятностей следующего токена система может определять, какие цепочки рассуждений с большей вероятностью приведут к правильному результату, и отдавать им приоритет. Такой подход сокращает вычислительные затраты, позволяя отбрасывать слабые варианты ещё в процессе генерации.

Когда модель говорит что-то вроде «Подождите, позвольте мне перепроверить», рассчитанная уверенность падает. Если она опускается ниже порога (s), DeepConf обрезает этот путь решения, вместо того, чтобы позволить ему завершиться.

Метод работает в двух режимах: offline, когда все возможные варианты сначала генерируются, а затем фильтруются, и online, где уверенность оценивается на лету, а бесперспективные цепочки обрываются заранее.

Эти диаграммы показывают точность в зависимости от вычислительных затрат. DeepConf (зеленый) достигает максимальной точности, используя гораздо меньше токенов, чем голосование большинством (коричневый), постоянно превосходя базовый уровень.

Тесты на математических бенчмарках, включая AIME 2024/2025 и GPQA-Diamond, показали, что DeepConf не только повышает точность, но и существенно сокращает количество вычислений. Например, в связке с моделью GPT-OSS-120B метод достиг 99,9% точности на AIME 2025 при сокращении числа токенов почти на 85% по сравнению со стандартными методами.

Таким образом, DeepConf открывает путь к более рациональному использованию ресурсов в больших языковых моделях, делая их работу быстрее и надёжнее без потери качества вывода.

Делегируйте часть рутинных задач вместе с ^[1]BotHub ^[2]! Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке ^[3] вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!

*Meta признана экстремистской организацией и запрещена на территории РФ

Источник ^[4]

Автор: cognitronn

Источник ^[5]

Сайт-источник BrainTools: https://www.braintools.ru

Путь до страницы источника: https://www.braintools.ru/article/18988

URLs in this post:

[1] : https://bothub.chat/?utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_source=contentmarketing&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_medium=habr&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_campaign=news&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_content=GEMINI%20ON%20CHATGPT%27S%20HEELS:%20THE%20LATEST%20AI%20RANKING%20FROM%20ANDREESSEN%20HOROWITZ

[2] BotHub: https://bothub.chat/?utm%5C%5C%5C%5C_source=contentmarketing&utm%5C%5C%5C%5C_medium=habr&utm%5C%5C%5C%5C_campaign=news&utm%5C%5C%5C%5C_content=AI%20WILL%20THINK%20FASTER:%20META*%20SHOWCASES%20DEEPCONF%20TECHNOLOGY

[3] По ссылке: https://bothub.chat/?invitedBy=m%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_aGCkuyTgqllHCK0dUc7

[4] Источник: https://the-decoder.com/deepconf-can-greatly-reduce-computational-effort-in-language-model-reasoning-tasks/

[5] Источник: https://habr.com/ru/companies/bothub/news/942902/?utm_source=habrahabr&utm_medium=rss&utm_campaign=942902

Нажмите здесь для печати.