Бот, которому запретили оправдываться
Обложка: рыба мечты в руке сурового сахалинского рыбакаНа восьмой день бот перестал отвечать половине чата. Он не упал и не завис, он просто молчал. В журнале на каждое такое молчание стояла одна строка: «ответ забракован (английские слова: Alex)».
Голосовые в текст на одном ядре: GigaAM v3, нарезка по паузам и очередь по кругу
Голосовые и кружки в Telegram удобно записывать и неудобно получать. Встроенная расшифровка есть, но полноценно — только с Premium. Ботов для этого много, и почти у всех одна схема: несколько бесплатных минут, дальше подписка, реклама или «подпишись на четыре канала».Я сделал бота @chisto_text_bot
Дообучаем Gemma 26B на MacBook с 24 ГБ памяти: как устроен голосовой помощник, который работает без интернета
Полгода я собираю голосового помощника для macOS, который не просто отвечает, а выполняет действия на компьютере: открывает папки, ищет файлы, включает фильмы, читает почту. Главное условие, которое я себе поставил, — языковая модель должна работать локально, на том же Mac, без облака и подписок. В статье расскажу, из чего состоит такая система, как я дообучал модель на ноутбуке и на какие грабли наступил по дороге.Общая схемаПриложение написано на Electron. Вокруг окна работают несколько отдельных процессов:Слух — процесс на Python: детектор речи (VAD) и распознавание через Whisper в сборке под MLX (Apple Silicon).
NVIDIA CMP 50HX: Еще не все потеряно…
ПредысторияЕсть домашний сервер обычной “подстольной” конфигурации. Proxmox с несколькими виртуалками. В какой-то момент прикупил на аукционе NVIDIA CMP 50HX за копейки, ради поиграться с простенькими модельками. Модели запускаю через llama.cpp, дополнительно использую Whisper для распознавания речи. Быстро смирился со скоростью работы и жил с этим всем спокойно несколько месяцев, пока не наткнулся на статью NVIDIA CMP – микроскопы для забивания гвоздей? Копаем глубже….Очень рекомендую прочесть статью
Диктовка без «ну» и «вот»: Whisper на своём компьютере и маленький посредник к LLM
Я пишу книги, и кроме самих книг за день набирается много другого текста: сообщения, письма, задания нейросетям. Говорить быстрее, чем печатать, поэтому большую часть этого я диктую. Только живая речь, записанная слово в слово, читается плохо. Вот фраза, которую Whisper распознал без единой ошибки:Ну вот, короче, я, это самое, хотел сказать, что, ну, завтра... завтра созвон переносится, ну, на три часа, не, на четыре.А отправить я хотел вот это:Я хотел сказать, что завтра созвон переносится на четыре.
Аналитик и ИИ: три инструмента, которые превращают хаос в требования
Мы работаем на крупном проекте, где присутствует десятки интеграций, сотни бизнес-сценариев, документация в Confluence, а теперь ещё и описания бизнес-сценариев с помощью ИИ прямо в репозиториях. Это здорово выручает для погружения в проект, но всё равно не покрывает всю картину при работе над конкретной доработкой. Поэтому в команде аналитиков мы начали заводить собственных ИИ-агентов: собираем в папку нужные репозитории из Git, БФТ от заказчика, заметки со встреч, и вместе с агентом проектируем и анализируем.
Домашний ИИ: простой способ добавить «интеллект» своему компьютеру
В этой статье мы рассмотрим открытые модели машинного обучения. Они не требуют обязательного подключения к интернету и подписки, никуда не передают ваши данные и достаточно компактные, чтобы их можно было запускать на ПК или ноутбуке. Эксперименты выполнялись на ПК с Core i5-14600, 32 ГБ DDR5 и RTX 3070Ti c 8 ГБ VRAM. Комментарии подготовлены экспертами лаборатории искусственного интеллекта российской ИТ-компании «Криптонит».Быстрый стартЕсть множество оболочек для запуска моделей: Ollama, Open WebUI, GPT4All, Unsloth Desktop,
Скам‑бот в Telegram выдал себя таймером: разбор юзербота с реконструкцией на Telethon
Что это юзербот, я понял почти сразу. Аккаунт без username, фото девушки на фоне моря, диалог, который за полчаса доходит до развода и «может на ты перейдём». Интереснее было понять, к чему меня ведут и как эта штука устроена внутри.Деньги и ссылки я никому не отправлял. Всё расследование уместилось в одну ночь и в один личный чат.11 сентября в 15:30 «Мария» написала первой. Увидела меня в группе про IT, хочет попробовать себя в этой сфере и просит посоветовать материалы для старта. Безобидный повод, на который трудно не ответить, особенно если сам работаешь в IT.
