753B на одной видеокарте: разбор FreeToken
Чувак из Калифорнии вряд ли запускает это все на таком ноутбуке
Нейронные сети нетрадиционного ускорения
Главным бутылочным горлышком инференса современных языковых моделей является пропускная способность памяти, ведь из-за использования авторегрессионной генерации ради получения всего одного токена модели вынуждены прогонять через видеопамять все гигабайты весов.Решением этой проблемы стало спекулятивное декодирование: лёгкая модель-черновик (drafter) быстро генерирует последовательность токенов, а большая целевая модель проверяет весь блок за один параллельный проход.
Nvidia вложит $7 млрд на развитие open-weight конкурента китайским ИИ-моделям
Nvidia заключила с AI-стартапом Poolside соглашение на $6 млрд: компания лицензирует его технологии и забирает в свою команду более 100 сотрудников. Они присоединятся к разработке семейства открытых моделей Nemotron. Еще $1 млрд Nvidia инвестирует непосредственно в Poolside при оценке стартапа в $12 млрд до сделки. Основатели Poolside при этом останутся в компании, а сама сделка по лицензированию технологий является отдельной от инвестиции.
ИИ в сфере добычи руды: как мы создали уникальную систему для комбината
Рассказываем, как компьютерное зрение заменило запаздывающий лабораторный контроль на входе в производство и что это дало комбинату в цифрах.
WSJ: финансирование от ЦРУ помогло Стиву Джобсу триумфально вернуться в Apple
Финансирование от Центрального разведывательного управления США позволило спасти от банкротства компанию NeXT в 1980-х годах, а также помогло Стиву Джобсу триумфально вернуться в Apple, пишет Wall Street Journal.
Гайд по сборке простого Wi-Fi-радара
Подробное руководство по сборке радара для мониторинга присутствия в помещении человека и даже просто его дыхания.
Сложность через сжатие. Разбираю проект нейросимвольного ИИ Сергея Шумского
Инженеров раздражает крайне низкая интерпретируемость нейросетей на базе трансформеров. Бизнес раздражает отсутствие гарантий правильного ответа. И всех пользователей весьма беспокоят галлюцинации LLM.Именно поэтому исследователи работают над альтернативными архитектурами ИИ, пытаясь устранить недостатки LLM. Одно из направлений таких исследований, это использование принципов символьного ИИ.В этой статье я рассматриваю концепцию кандидата физико-математических наук, известного IT-исследователя Сергея Шумского.Символьный ИИ
Кого обслуживает твой сайт на старте, юзеров или ботов? Как оценить нужную производительность? Реальные измерения
Началось все с ИИ. Решил я начинать внедрять ИИ во все что возможно свои проекты так как начиная с 2026 года они стали настолько толковыми, что можно уже стало реализовывать довольно большие проекты вообще не привлекая кодеров. Конвертируя задачу в код посредством только ИИ. Про другие не скажу но у меня работает Claude. Ну и поскольку появился рабочий инструмент то понадобилось иметь про него максимум информации при том что именно сейчас крайне высока динамика и знать постоянно все новинки с рынка это просто профессиональная необходимость. И сделал я сайт для сбора новостей об ИИ силами ИИ. И тут выяснилось интересное.
Почему Java-разработчики слишком доверяют рекомендациям ИИ
Представьте: в пятницу вечером руководитель уверенно сообщает, что переход со Spring Boot 3.5 на 4.0 будет простым и его можно закончить за выходные. Скорее всего, вы уточните, на чём основана такая оценка, и напомните о несовместимых изменениях.Теперь заменим руководителя на GitHub Copilot или другую большую языковую модель (LLM). Она предлагает рефакторинг метода, новую зависимость или готовый шаблон реализации. Ответ выглядит аккуратно и звучит уверенно. Модель не предупреждает, что может ошибаться. Возникает вопрос: проверяем ли мы такой код столь же строго, как заявление руководителя, или сразу принимаем его?По данным
