Как у меня НЕ получился торговый бот на Polymarket
Привет, Хабр. Видел в интернете кейс. где сделали бота с LLM для торговли на Polymarket и он сделал $10k из $1k за месяц. Ну и чо бы не попробовать что то такое же сделать! Побочный проект, чисто по приколу. Вооружил его вирутальным стартовым капиталом — $100 нарисованных.И вот на второй день этот несерьёзный проект показал +9% на счёте.
За пределами LLM, часть 2: якорная таблица Кэли, которая не является ни полем, ни моноидом
В первой статье я высказал простую идею: если вычисление можно свести к конечной таблице операции, его можно проверять, а не угадывать. То есть его можно свести не к "модель выдала вероятность 0,67", а просто открыть таблицу и сказать: вот ячейка, вот результат, rc=0.
Колесо потока против раскола
Привет Хабр. Надеюсь читатели поймут моё желание закрепить результат по алгоритмизации
Стяж одностороннего потока против маятникового раскола в процессе целенаправленного (и не только) наращивания ветвей
Привет Хабр. Надеюсь читатели поймут моё желание закрепить
«Продай мне этот космолёт» или история любви к симуляторам. От космосима X-Tension до ActorModel-DoD-ECS архитектуры. Ч2
«Все модели неправильны. Некоторые из них полезны.» — Джордж Бокс «Через тернии к звездам»
Квантизация больших языковых моделей: FP32, BF16, INT8, NF4 и QLoRA
Большие языковые модели требуют огромных объёмов памяти. Например, модель с 8 миллиардами параметров в формате FP16 занимает 24–27 ГБ памяти только для инференса (веса, кэш ключей-значений, буферы). Для полного обучения той же модели нужно уже 84–128 ГБ памяти. Даже с такими методами, как checkpointing активаций или offloading на CPU, требования остаются высокими, особенно для моделей с 70 миллиардами параметров.
