llm-модели. - страница 9

Тендеры без ошибок: как ИИ обошёл экспертов в проверке документации

Кто победит в соревновании по обработке документов — опытный специалист или нейросеть? На рутинных повторяющихся задачах ИИ уверенно обходит человека: он работает быстрее и не устаёт, тогда как внимание человека дискретно — мы ошибаемся из‑за усталости или монотонности работы.Оптимальное решение — разделить роли: нейросеть быстро и точно сортирует данные, а человек ставит задачи, контролирует процесс и оценивает результат. Как же на практике превратить ИИ-помощника и живого эксперта в эффективную команду?

продолжить чтение

На что способна новая модель NVIDIA — Nemotron 3 Super 120B. Бенчмарки, тесты и интеграция в Luxms BI

120 миллиардов параметров, контекст 256K токенов, агентное поведение — и всё это на одной видеокарте. Мы подключили Nemotron 3 Super к Luxms BI и неделю тестировали на реальных аналитических задачах. В этой статье — что получилось, где модель справляется, а где пока нет.Одна видеокарта – это принципиально другая экономика владения. Кластер из 8 карт – это капитальные затраты, инженерная команда для обслуживания, электричество, охлаждение и площадь в серверной. Одна RTX PRO 6000 – это единица оборудования, которая встаёт в стандартную рабочую станцию. Разница в совокупной стоимости владения (TCO) – на порядок.

продолжить чтение

Пробуем использовать бесплатные ИИ для написания кода

ИнтроИскусственный интеллект проникает повсюду. Если он нас ещё физически не захватил, то информационное поле уже почти всё занял. Каждую неделю появляются новости о том, что ИИ стал ещё лучше и скоро заменит те или иные профессии. Но если посмотреть на реальные показатели, картина не столь радужная: даже топовые модели ошибаются на сложных задачах, а компании иногда получают сбои после внедрения AI и принимают меры. Но кажется, что мир понемногу меняется, и глупо сегодня это игнорировать и не пробовать.

продолжить чтение

В Москве пройдет международный чемпионат по ИИ-агентам

Офис Positive Technologies станет одним из 18 офлайн-хабов международного соревнования по автономным ИИ-агентам BitGN Agent Challenge: Personal & Trustworthy

продолжить чтение

Локальные 200B уже не выглядят фантастикой: что меняют Bonsai и TurboQuant

Последние новости в сфере ИИ натолкнули меня на одну обнадёживающую мысль: локальный запуск очень больших моделей уже не выглядит чем-то совсем фантастическим.Пока это ещё не новая реальность, но последние опубликованные технологи подводят именно к этому. Давайте разберёмся, какие именно новости к этому подводят и чего можно ожидать в ближайшем будущем.PrismML анонсировала и выложила в открытый доступ Bonsai 8B

продолжить чтение

Мы использовали LLM в разработке ровно год. Рассказываю о реальных результатах

Рассказываю о реальном опыте использования AI в разработке и о тех практических результатах, которых удалось добиться за один год регулярной работы с современными языковыми моделями. Спойлер: получилось многое, но не все.

продолжить чтение

Vibe-design в 2026. LLM агент во Fuion360 шестеренками крутил

Выкатили mcp llm ассистента во fusion360. Я сразу попробовал сделать то, что проектировал уже 60 раз и пытался автоматизировать сам - лестницу(деревянную).оффтоп: Я 5 раз пытался собрать(разработать) свои скрипы для автоматизации проектирования, в том числе и MCP сервер для llm, по API fusion настолько скудный и не задокументированный что скрипты работают со скрипом в ограниченном режиме.Мой ТГ про AI и предпринимательствоЭтап 1 - ступени.Промт + фактуар:

продолжить чтение

Маленький LLM-чат на Python с Ollama и LiteLLM. Часть 2: делаем консольный чат

В первой части мы сделали самый важный стартовый шаг: подняли локальную модель через Ollama, подключили её к Python через LiteLLM и получили первый осмысленный ответ из кода.Но пока это ещё не чат. Наш main.py умел только одно: отправить один заранее заданный вопрос, вывести ответ и завершиться.Для учебного эксперимента этого достаточно. Для приложения — уже нет.Во второй части превратим этот одноразовый скрипт в маленький консольный чат

продолжить чтение

Из полезного ассистента в SupremacyAGI: почему чат-бот может внезапно стать психопатом

В феврале 2024 года один реддитор обнаружил

продолжить чтение

В поисках эмбеддинга личности или Как зарождается личность LLM

Пару месяцев назад я публиковал отчет об эксперименте по созданию языковой модели на базе модульной архитектуры с ядром на латентных представлениях. Данная статья является отчетом о новых аспектах этого эксперимента. Поэтому для тех, кто не в теме, совсем коротко: классические авторегрессивные LLM оперируют токенами, условно говоря думают на токенном уровне. В модульной архитектуре отдельно выделяется языковой интерфейс в виде энкодера и декодера, а само «думающее» ядро работает уже не с токенами напрямую, а с их сжатыми латентными представлениями. Кому интересно, вот ссылка на статью с предыдущим экспериментом:

продолжить чтение