Локальный ассистент для зумов, часть 8: модель, ради которой я поменял диаризацию за один вечер
В третьей части я написал, что не вижу чужой модели, ради которой стоит менять связку. sherpa-onnx на диаризации, свой второй проход поверх, канал собеседников двадцатиминутного звонка размечается минут семь. Жить можно.23 сентября NVIDIA выложила Nemotron 3 Diarization. Вечером 28-го я включил её в разбор своих созвонов. Тот же канал — три секунды.Что этоSortformer на сто миллионов параметров, до восьми голосов. На каждые 10 мс у каждого голоса своя вероятность, два голоса в одном кадре для неё норма. Старая связка решает по отпечатку куска речи. Двое говорят разом — отпечаток общий, кто-то пропадает.
Модель, которую «строил ИИ». Китайская NaiveAI открыла модель под лицензией MIT
27 сентября пекинский стартап NaiveAI опубликовал на Hugging Face
Nvidia запустила Open Agent Safety Platform для предотвращения атак со стороны ИИ‑агентов
Nvidia запустила платформу Open Agent Safety Platform, которая позволит разработчикам искусственного интеллекта задавать ограничения для ИИ‑агентов и не допускать их выхода за пределы изолированных сред. Релиз платформы состоялся после того, как OpenAI, Anthropic, Google и другие компании в сфере ИИ раскрыли информацию о недавних инцидентах, в ходе которых ИИ‑модели вышли за пределы изолированных сред, попытались взломать другие компании и получить доступ к их компьютерным системам.
Как работает инференс в больших языковых моделях
Когда вы вводите промпт в большую языковую модель (LLM), машина преобразует ваш текст в числа, обрабатывает их, а потом возвращает ответ токен за токеном. В этой статье мы разберём, что такое инференс (логический вывод) в LLM и посмотрим, как он работает.Что такое большие языковые модели?LLM — это просто нейронные сети, построенные на основе трансформерной архитектуры
Почему инференс LLM становится дорогим и как снизить расходы на GPU без покупки новых карт
Материал подготовлен в рамках курса «MLOps».Всем привет, меня зовут Сергей Прощаев и в этой статье расскажу про то, как снизить стоимость инференса LLM на собственных GPU, не меняя
В Калифорнии воры угнали фуры c логотипами Nvidia, рассчитывая найти внутри видеокарты, но там был песок для балласта
В штате Калифорния воры угнали фуры компании PlusAI с логотипами Nvidia, рассчитывая найти внутри видеокарты, но там был песок для балласта, пишет Wired. Пропажу обнаружил высокопоставленный руководитель компании PlusAI, которая специализируется на системах автономного вождения для грузовиков. Знакомый руководителя рассказал о нахождении фур рядом с офисом в Ньюарке, хотя они должны были быть на складе в нескольких сотнях метров оттуда.
В Epoch AI протестировали нейросети на предмет выявления ошибок в сборке мебели
В Epoch AI провели тест FAB (Furniture Assembly Benchmark — “Сборка мебели”) для разных нейросетей, в котором использовали фотографии трёх предметов мебели IKEA, сделанные в процессе сборки с намеренно допущенными ошибками. Лучший результат на пространственное мышление вырос с 28% до 80% всего за 10 месяцев.

