Масштабирование LLM: от одного чипа до ЦОДа. Глава 1. Теоретические основы
ПредисловиеНедавно прочитал цикл статей о масштабировании LLM от Jax, в котором очень подробно и во всех нюансах разжеван процесс тренировки и инференса LLM на разных масштабах. Мне он показался очень полезным, поэтому я решил подготовить цикл статей на русском, являющихся не столько переводом, сколько научно-популярным пересказом того, что там написано, поскольку оригинальный текст рассчитан в основном на специалистов, и неспециалисту многие моменты в нем могут показаться сложными и не очевидными. Также планирую добавить информацию из других источников, например
Стартовала весенняя сессия сдачи нормативов «ТехноГТО» на золотые значки
Стартовала весенняя сессия сдачи очных нормативов технологической грамотности «ТехноГТО
«В США не любят ИИ» — Сэм Альтман считает это проблемой
Глава OpenAI Сэм Альтман заявил
Как я вайбкодил озвучку текста для AutoCraft
Немного предысторииС этим расширением всё началось довольно просто: я хотел упростить себе озвучку книг и больших текстов внутри своего проекта, а не прыгать каждый раз между разными сервисами и программами.План был обычный: вставил текст, выбрал движок, получил озвучку.Но потом, как это часто бывает, всё поехало чуть дальше:LLM подкинула несколько идейкто-то попросил добавить дополнительные возможностиа мне самому пришлось разбираться с символами, которые вообще не должны озвучиватьсяВ итоге из обычной функции озвучки выросло отдельное расширение для веб-панели AutoCraft.
Нейросети против открытого кода: Malus автоматизировал легальный обход лицензий
Проект Malus запустил автоматизированный сервис, использующий две изолированные группы нейросетей для переписывания библиотек с открытым исходным кодом. Технология позволяет легально удалять оригинальные лицензии и делать программное обеспечение проприетарным, решая проблему юридических рисков корпоративного сектора, которая оценивается в миллионы долларов ежегодно.«Чистая комната» как услуга
Один ИИ за пять дней уничтожил двадцать лет опенсорсной защиты. Вот как это было
854 миллиона скачиваний за год. Пять дней работы Claude Code.
Наш ответ Гогену. Часть третья — белковые нейронные сети: от диффузных сигнальных систем до распознавания запахов
Это третья часть в серии статей об эволюции разума. С предыдущей частью можно ознакомиться здесь. Какими бы продвинутыми не были генные сети, описанные в первых двух главах, основной их недостаток заключается в слишком большой медлительности реакции на изменение внешних условий. С появлением биологических нейронных сетей этот недостаток был в значительной степени исправен. В настоящее время накапливаются данные, указывающие, что
SLAY-ASR, или как я перестал волноваться и полюбил тренировать модели
Как добавить аудио-модальность в LLMку максимально экономно? Рассказываю про серию попыток добиться совместимости эмбеддингов разной природы....Зачем?
