llm. - страница 298

llm.

Рассуждающая модель QwQ 32B доступна в Ollama

Мощная рассуждающая языковая модель с открытым исходным кодом QwQ-32B теперь доступна в Ollama. Это среднеразмерная модель с 32.5 миллиардами параметров из серии Qwen разработана для выполнения сложных задач и демонстрирует конкурентоспособное качество по сравнению с другими reasoning моделями, такими как DeepSeek-R1.

продолжить чтение

Как я сделал RAG для своей компании (часть 2). И как начал делать AI Агента

Итак, в первой части я сделал подход к RAG для нашей небольшой компании с большим кол-вом документов на wiki, и множеством переписок в Slack.Стек технологий: Python, ChromaDB, простой SentenceTransformer("all-MiniLM-L6-v2"), Slack API, OpenAI API, Google Gemini API, YandexGPT API, Sber Gigachat API.Что уже работает?Данные можно собрать с Wiki запуском скрипта WikiToJson.Затем данные можно загрузить в векторную базу ChromaDB, с помощью скрипта JsonToChromaDB.

продолжить чтение

Hugging Face Tutorial: Unleashing the Power of AI and Machine Learning

In this article, I'll take you through everything you need to know about Hugging Face—what it is, how to use it, and why it's a game-changer in the ever-evolving landscape of artificial intelligence. Whether you're a seasoned data scientist or an enthusiastic beginner eager to dive into AI, the insights shared here will equip you with the knowledge to Hugging Face's full potential.What is Hugging Face?What is Hugging Face?

продолжить чтение

Yelp адаптирует технологии ИИ для улучшения пользовательского опыта

Во время недавнего всплеска интереса к технологиям ИИ приложение для отзывов Yelp столкнулось с препятствиями при использовании современных LLM для некоторых функций.У клиентов, особенно у тех, кто пользовался приложением лишь изредка, возникали проблемы с 

продолжить чтение

Foxconn запустила собственную большую языковую модель

Тайваньская Foxconn сообщила о создании собственной большой языковой модели (БЯМ) с возможностями рассуждения под названием FoxBrain. Обучение модели контрактного производителя Apple заняло всего четыре недели.

продолжить чтение

Великая перестройка ПО: ИИ не просто поглощает всё, он и есть всё

Когда-то ПО поглотило мир. Теперь ИИ переваривает то, что осталось. Старая модель вычислений, в которой доминировали приложения, доступ к которым контролировали торговые площадки, а платформы получали свою долю, распадается. На смену ей приходит мир, основанный на ИИ, в котором программные функции не заперты в приложениях, а существуют как динамичные сервисы по запросу, доступные через интерфейсы, созданные с помощью ИИ.

продолжить чтение

Adafruit автоматизировала разработку оборудования с помощью Claude Code

Adafruit Industries использовала инструмент большой языковой модели (LLM) Claude Code для оптимизации разработки оборудования, рассказала управляющий директор компании Лимор Фрид.

продолжить чтение

AFFiNE — Obsidian здорового человека

9 сентября - это был последний день, когда мы могли еще нормально использовать Notion. Объективно, я что тогда, что сейчас так и не нашел инструмента лучше, удобнее, гибче и ПРОЩЕ, чем Notion. Да, он во всем был лучше как для жизни, так и для работы.В конце концов, о его уходе анонсировали еще в конце августа, и я до сих пор помню статью "Obsidian - Notion свободного человека

продолжить чтение

Настройка PostgreSQL для LLM

Итак, в этой статье я расскажу, как эффективно настроить PostgreSQL, чтобы вам было проще работать с большими языковыми моделями.Пока звучит странно, не правда ли? Что я имею в виду? Я имею в виду повышение эффективности создания любых SQL-запросов в базу данных с использованием LLM (ChatGPT, DeepSeek, Llama и других).Метод, о котором пойдет речь, до безобразия прост и от этого гениален. После прочтения этой статьи вы сможете самостоятельно или в рамках вашей компании увеличить скорость формирования SQL-запросов в 50 раз!

продолжить чтение

LLM для кодинга и локальный тест открытых моделей на AMD

LLM кодеры уже показывают отличные результаты на бенчмарках и в реальных задачах. Кажется, сейчас хорошее время, чтобы начать пробовать ими пользоваться.В статье разберем открытые LLM для кодинга. Сравнимы ли они с подписочными моделями? Можно ли их использовать для работы? А есть ли вариант начать локально?В части туториала:Запустим через docker с помощью llama.cpp.Сделаем замеры скорости генерации.Ускорим за счет спекулятивного декодинга. Подключим в vscode, заставим работать локально и через ssh.Что можно делать с llm

продолжить чтение