- BrainTools - https://www.braintools.ru -

Как я несколько часов гуглил, чтобы потом за 15 минут запустить локальный DeepSeek для Python и SQL

Робот может написать симфонию?

Робот может написать симфонию?

Полгода назад мне понадобился личный AI помощник (знаю…звучит слишком пафосно и мне самому это словосочетание не нравится) для работы на своем ноутбуке на Windows.
В основном для достаточно простых вещей. Посмотреть простой Python код, разобраться с Pandas, найти ошибку [1] в SQL запросе или переписать кусок кода.
Проблема была в том, что рабочий код и данные нельзя было отправлять во внешний контур. Поэтому привычный сценарий с ChatGPT или другим облачным сервисом мне не подходил. Я слышал, что существуют локальные языковые модели, но до этого никогда их самостоятельно не запускал. Казалось, что для этого придется разбираться в Linux, Docker, CUDA и еще десятке технологий. В итоге все оказалось заметно проще.
Я установил Ollama, скачал DeepSeek и получил локального AI помощника, который работает непосредственно на моем компьютере. В этой статье покажу весь путь от установки до первого запроса. Без глубокого погружения в устройство LLM. Просто повторяем [2] несколько шагов и получаем работающую модель через 15 минут. Сразу оговорюсь… Это не инструкция по построению полноценного корпоративного закрытого контура. Речь именно о локальном запуске модели на своем компьютере. Если у вас есть требования информационной безопасности, их необходимо учитывать отдельно.

Что будем делать, весь процесс состоит из трех шагов:
1. Установим Ollama.
2. Скачаем модель DeepSeek R1 8B.
3. Запустим ее и зададим первый вопрос.
На этом все. Можно расходиться =)
В моем случае вся настройка заняла около 15 минут, если не считать время скачивания самой модели.

Шаг 1. Устанавливаем Ollama
Ollama позволяет запускать языковые модели непосредственно на своем компьютере. Для начала переходим на сайт Ollama https://ollama.com/download [3] и выбираем Windows.

Скрытый текст
Как я несколько часов гуглил, чтобы потом за 15 минут запустить локальный DeepSeek для Python и SQL - 2

Нажимаем Download for Windows и ждем, пока установочный файл будет скачиваться.

Скрытый текст
Как я несколько часов гуглил, чтобы потом за 15 минут запустить локальный DeepSeek для Python и SQL - 3

Я ничего специально не настраивал и просто прошел установку с параметрами по умолчанию.

Скрытый текст
Как я несколько часов гуглил, чтобы потом за 15 минут запустить локальный DeepSeek для Python и SQL - 4

После установки Ollama запускается и нас встречает приветственное окно с подсказками.

Скрытый текст
Как я несколько часов гуглил, чтобы потом за 15 минут запустить локальный DeepSeek для Python и SQL - 5

На этом этапе сама Ollama уже установлена, но модели у нас еще нет. И здесь важно разделять эти две вещи. Ollama это инструмент для запуска моделей. DeepSeek это сама модель, с которой мы будем работать.

Шаг 2. Скачиваем DeepSeek
Теперь нам нужна сама модель. Открываем командную строку Windows. Самый простой вариант: нажать Win + R, написать cmd и нажать Enter.
В появившемся окне выполняем команду:
ollama run deepseek‑r1:8b

Скрытый текст
Как я несколько часов гуглил, чтобы потом за 15 минут запустить локальный DeepSeek для Python и SQL - 6

По аналогии можно скачать и другие локальные модели и запускать их через Ollama. Тут уже все упирается в возможности вашего компьютера.
У меня, например, обычный игровой ноут: 16 ГБ оперативки, видеокарта на 8 ГБ и никаких специальных железок для запуска ИИ. Покупал его вообще не для этого, а модель на нем вполне себе работает.

Если ноутбук послабее, можно попробовать более легкую версиюdeepseek-r1:1.5b
Полный список доступных моделей можно посмотреть в библиотеке Ollama: ollama.com/library [4]

Если модели еще нет на компьютере, Ollama автоматически начнет ее скачивать.
В моем случае загрузка составила 5,2 ГБ.
Скорость, конечно, будет зависеть от вашего интернета.
После завершения загрузки Ollama проверит модель и запустит ее.
В командной строке появится приглашение для ввода запроса.
Все. Модель уже работает.

Шаг 3. Задаем первый вопрос
Можно сразу написать что‑нибудь простое.
Например:
«Привет. Расскажи, кто ты и что ты умеешь?»
И получить спустя 9 секунд ответ.

Как я несколько часов гуглил, чтобы потом за 15 минут запустить локальный DeepSeek для Python и SQL - 7

Но для меня интереснее был другой вопрос.

А сможет ли эта штука действительно помогать в работе аналитика? Проверяем на условно реальной задаче…
Допустим, у нас есть такой Pandas код:
df.groupby(“client_id”)[“revenue”].sum()
Можно попросить модель объяснить, что здесь происходит и какие проблемы могут возникнуть, если в столбце revenue есть пропуски.

Скрытый текст
Это просто пример вопроса и ответа.

Это просто пример вопроса и ответа.

Или взять SQL запрос:
SELECT client_id, COUNT(*) AS orders FROM orders GROUP BY client_id
И спросить, что он делает, какие данные вернет и на что стоит обратить внимание [5].

Скрытый текст
Это просто пример вопроса и ответа.

Это просто пример вопроса и ответа.

Кажется, что это уже ближе к тому сценарию, ради которого я вообще начал разбираться с локальными моделями.
Мне не нужен был автономный AI программист. Мне нужен был собеседник, которому можно показать небольшой кусок кода и быстро задать вопрос.

Что в этом понравилось:
Главное преимущество для моего сценария достаточно очевидное.
Модель запускается локально, то есть запрос обрабатывается на моем компьютере, а не отправляется в облачный AI сервис. Для работы с внутренним кодом это принципиально меняет ситуацию.
Кроме того, для первого запуска не понадобились:

Кроме того, для первого запуска не понадобились:
регистрация, API ключ, Docker, отдельный сервер, Linux, специальная AI инфраструктура

Фактически потребовалась одна установка и одна команда:
ollama run deepseek‑r1:8b

Но есть важный нюанс!
Локальная модель не означает, что она автоматически станет полноценной заменой облачным AI сервисам. Скорость и качество ответов зависят от производительности компьютера. Имеют значение процессор, видеокарта, объем оперативной памяти [6] и видеопамяти. При этом небольшая локальная модель может отвечать заметно хуже крупных современных моделей в облаке, особенно на сложных задачах. Поэтому я бы не воспринимал этот эксперимент как попытку заменить все существующие AI сервисы. Для меня это скорее другой инструмент. Если задача простая, модель уже скачана, а код нельзя выносить наружу, локальный AI может оказаться очень удобным.

Что оказалось в итоге:
Полгода назад я представлял локальный AI как довольно сложную техническую историю. На практике первый запуск оказался намного проще
Скачать Ollama. Установить. Выполнить одну команду. Подождать загрузку модели. Задать первый вопрос. И все это можно сделать без регистрации и без API ключа.

Для опытного пользователя Ollama это, скорее всего, совершенно очевидная инструкция. Для меня полгода назад такой инструкцией она точно не была. Поэтому решил написать этот материал именно для тех, кто тоже хотел попробовать локальный AI, но откладывал из‑за ощущения, что сначала придется долго разбираться в технических деталях. Но для первого знакомства, как оказалось, действительно достаточно примерно 15 минут.

А дальше уже можно идти глубже: подключить модель к Python через API, использовать ее в VS Code, научить работать с локальными документами, попробовать разные модели и сравнить их на своих задачах. А затем постепенно собрать собственного локального помощника под конкретные рабочие сценарии.

Спойлер из реальной жизни: небольшие локальные модели могут очень убедительно выдавать неправильные ответы. Они способны уверенно объяснить ошибку, которой нет, предложить несуществующий параметр или выдать некорректный SQL запрос, и на первый взгляд это будет выглядеть вполне профессионально. Поэтому к таким ответам я бы относился крайне осторожно: локальность и удобство не делают модель надежным источником истины. Использовать ее как помощника можно и нужно, но все важные выводы, расчеты и код стоит всегда перепроверять.

Автор: roman_cheb

Источник [7]


Сайт-источник BrainTools: https://www.braintools.ru

Путь до страницы источника: https://www.braintools.ru/article/36133

URLs in this post:

[1] ошибку: http://www.braintools.ru/article/4192

[2] повторяем: http://www.braintools.ru/article/4012

[3] https://ollama.com/download: https://ollama.com/download

[4] ollama.com/library: https://ollama.com/library

[5] внимание: http://www.braintools.ru/article/7595

[6] памяти: http://www.braintools.ru/article/4140

[7] Источник: https://habr.com/ru/articles/1087416/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1087416

www.BrainTools.ru

Rambler's Top100