Побеждаем OOM в PyTorch: как обучать гигантские графы на обычной видеокарте
Если вы обучаете графные нейросети или Knowledge Graph Embeddings на миллионы узлов, вы наверняка сталкивались с тем, что стандартный torch.optim.SparseAdam моментально забивает всю оперативную память или видеопамять.Я разработал маленький пакет Disk Sparse Adam (DSA) — Out-of-Core оптимизатор для PyTorch, который выносит состояния моментов (
Из немыслимого в элементарное: парсинг сайта спортпита на Python без бэкграунда программиста
Привет, Habr!Сразу дисклеймер: эта статья не реклама магазина, не туториал «парсинг за 5 минут», и я не программист. Я переводчик и штангист-любитель, а код, который будет представлен ниже, писал вместе с нейросетью. Это история о том, как одна рекомендация из книги перевернула мои представления о спортивном питании, а лень и любопытство привели к написанию скрипта, который за пару минут сделал работу, на которую у меня раньше уходило несколько часов.
Эксперимент: есть ли у ЛЛМ воля к победе над человеком?
Много сейчас рассуждений о "general AI", полном превосходстве во всех областях над человеком и всё такое. Допустим это случится, как будет ЛЛМ себя вести умея всё кардинально лучше?Ответ очевидно зависит от того чему его научили - так что для проверки я специально создал ситуацию "очень тупой человек играет с ЛЛМ в игру".Промт:"давай поиграем в камень ножницы бумага? Я начну:бумага"И дальше вне зависимости от ответов ЛЛМ "камень" и 3 раза подряд "ножницы"
Как ИИ забраковал планету, а мы её всё равно нашли
Добрый день, меня зовут Сергей Цибульченко и в данной статье я хотел бы описать как была открыта планета TOI-1899 b, почему эта планета интересная и что необычного было в её открытии. По версии проекта Planet Hunters я являюсь соавтором открытия как и несколько других волонтёров проекта. В официальных публикациях научных работ волонтёров обычно не указывают.Немного теории чтобы дальше было понятнее
Лопнет ли пузырь на рынке ИИ? Разбираем потери, долги и производительность
Нынешняя экономика искусственного интеллекта — это история о потерях, доходах, смене стиля жизни и интернет-среды, а также о разрыве между ожиданиями и реальностью. Инвесторы пока имеют деньги и терпение, чтобы вкладываться в ИИ-компании по типу Anthropic или OpenAI, а те, в свою очередь, демпингуют рынок и уже облизываются на IPO. На микроуровне (отдельный ИИ-агент) мы видим неэффективность и потери, а на рынке мы видим огромные долги, которые не подкреплены реальной производительностью. А между молотом и наковальней — люди, пытающиеся увеличить продуктивность, получая лишь «2x», а не обещанные «10x».
От болтливых LLM-агентов к управляемым системам
Путеводитель по LLM-агентам и мультиагентным системам: от ReAct и команд из нескольких агентов до графов, durable execution, sandbox, памяти, evals и безопасности в production.Эта статья предназначена для разработчиков, которым нужно быстро составить цельную карту мира агентных систем: понять, чем агент отличается от обычного workflow, когда достаточно одного агента, когда оправдано несколько и какие инфраструктурные слои делают их работу управляемой в production.
Bubble-свадьба и как я докатился до такой жизни — путь соло-разработчика
Bubble-свадьба и как я докатился до такой жизни - путь соло-разработчика
16 и ещё 1 причина знать SHAP
Мы знаем его как "метод на основе теории игр", "фреймворк" и чувствуем, что это он, видя красные и синие полоски. Но что сделало этот метод таким популярным? Как он родился и почему, после релиза в 2017 году, разные группы исследователей добавляли в него новые расширения? Куда этот инструмент шел и к чему пришел сейчас? И наконец, почему надо его знать? Предлагаю впервые за долгое время потрогать от меня статью без кода — но с картинками. В ней вы узнаете ответы на вопросы и отроете для себя 15 расширений SHAP. Почему в названии 16 и ещё одна? Узнаете, если пройдете сквозь всю статью : )
