Открытые модели против облака: T-one, GigaAM или Deepgram: что реально тянет обычный CPU для живых субтитров в звонке
Число vCPU ничего не говорит: как я считал, нужен ли свой ASR-сервер вместо DeepgramМне понадобились живые субтитры для созвонов один на один на русском языке. Проще всего решить эту задачу через облачный API: буквально одним вызовом. Это удобный вариант, если разговоров немного, а их содержание можно передавать внешнему сервису.
Труба, обёрнутая в трубу или почему современные ИИ это иллюзия, и какой путь мы выбрали вместо них
Открытая тема для размышления. Парадокс, который никто не хочет замечать.
Машинное обучение на PHP: Rubix ML 3.x – большое обновление экосистемы
В PHP-экосистеме не так часто происходят заметные изменения в области машинного обучения. Пока основное внимание разработчиков сосредоточено на Python, PyTorch и больших языковых моделях, инструменты для ML на PHP продолжают развиваться, хотя и остаются нишевым направлением.Поэтому выход Rubix ML 3.x – важное событие для PHP-разработчиков, которые хотят использовать машинное обучение в своих проектах. Это не просто очередная версия библиотеки: обновление затронуло производительность, обучение нейросетей, обработку данных и возможности параллельных вычислений.
Проверяю выбор функций и значения аргументов в ELM
Если вы подключаете к чату настоящие инструменты, нужно проверить два случая: когда вызов следует выполнить и когда ни один инструмент не подходит. Я сравнил два способа: модель сама пишет вызов или выбирает функцию и аргументы из готовых вариантов.Второй способ я исследую в собственной экспериментальной системе ELM — так я называю свой проект. Код предлагает варианты, нейросеть выбирает из них, а код собирает вызов. В проверяемом здесь режиме нейросеть не генерирует текст вызова.
Лимиты ChatGPT и локальные LLM: мой эксперимент с Hermes Agent
Иногда я за час работы с облачной моделью выбираю весь доступный лимит. Потом ещё четыре часа жду его восстановления. Задача уже в голове, хочется продолжать, но приходится прерываться.В последнее время всё чаще смотрю на следующий тариф ChatGPT за 100 евро. Но жаба душит: прежде чем платить больше, хочется понять, нельзя ли часть работы выполнять на своём компьютере.
Зачем сисадмину ИИ‑агент: реальный опыт работы с pi
Статья для тех, кто живёт в терминале, пишет Ansible и устал копировать конфиги в окно браузера. Без картинок — только текст, код и честный опыт.Вместо введенияНочная смена. На мониторинге краснеет алерт — что‑то опять не так на одном из серверов. Ты открываешь терминал, листаешь логи, лезешь в конфиги, пытаешься вспомнить, как именно три года назад настраивал этот сервис, грепаешь историю bash в поисках той самой команды… Знакомая картина?
Компьютерное зрение on‑premise выше SOTA, весом 4мб и на одном ядре CPU: как «Ночной глаз» превратился во всевидящее око
Вода камень точит. А у нас — не вода.Итак.
