Как поставить DeepSeek локально: три рабочих способа для дома и сервера

DeepSeek взорвал рынок открытых LLM. Модель с открытыми весами и лицензией MIT можно запустить прямо на своем компьютере. Никаких API-ключей, никаких ограничений по запросам, никакой отправки данных на чужие серверы. Все считает твое железо.

Но есть нюанс. Есть разные версии DeepSeek, от дистиллятов на 1.5B до полновесных моделей на 500+ миллиардов параметров. И подход к установке будет разным. Сейчас разберем на пальцах.

Что такое DeepSeek и зачем его ставить локально

DeepSeek - семейство открытых языковых моделей от китайской лаборатории DeepSeek-AI. Речь про open-weight модели, а не про демо с сайта. Веса доступны, лицензия MIT, можно крутить как угодно. Локальный запуск дает три вещи: конфиденциальность (данные не уходят в облако), скорость (нет задержек сети) и гибкость (можно дообучать под свои задачи).

Что нужно для запуска

Зависит от модели. Дистилляты DeepSeek-R1 (1.5B, 7B, 8B, 14B, 32B, 70B) комфортно живут на домашних ПК. Для варианта 8B хватит 8 ГБ оперативки и процессора без дискретной видеокарты, хотя с GPU будет значительно шустрее. Флагманские версии типа DeepSeek-V4-Flash-0731 (284B параметров, 13B активных) требуют мощного сервера с несколькими GPU. Поэтому по шагам пройдем от простого к сложному.

Способ 1: запуск через Ollama за одну команду

Ollama - инструмент, который превращает установку любой LLM в пару движений. Пожалуй, это самый быстрый способ поставить DeepSeek локально.

Сначала устанавливаем сам Ollama. Откройте терминал и выполните:

curl -fsSL https://ollama.com/install.sh | sh

Затем запускаем модель:

ollama run deepseek-r1:8b

После этой команды Ollama сам скачает веса, развернет модель и откроет интерактивный чат прямо в терминале. Всё, можно задавать вопросы.

Дистиллят 8B - золотая середина. На Reddit его часто рекомендуют для домашних задач: он быстро работает даже без видеокарты, а по качеству рассуждений заметно обгоняет более слабые модели. Для повседневных задач, написания кода, пересказа текстов, генерации идей этого достаточно.

Способ 2: LM Studio для тех, кто не хочет терминал

Не любишь черный экран - поставь LM Studio. Это программа с окном и поиском моделей. Внутри находишь deepseek в каталоге, жмешь download, потом загружаешь модель и общаешься в удобном интерфейсе.

LM Studio работает на Windows, macOS и Linux. Она автоматически подхватывает GPU через llama.cpp, поддерживает загрузку нескольких моделей и умеет поднимать локальный API-сервер, совместимый с OpenAI. Если нужно быстро проверить DeepSeek без возни с командной строкой - это твой выбор.

Способ 3: серверный вариант с vLLM и SGLang

Когда модели становятся большими, одного Ollama и LM Studio недостаточно. Для DeepSeek-V4 (например, флагмана V4-Flash-0731) нужен продвинутый движок инференса.

Самый популярный вариант - vLLM. Он оптимизирует использование GPU и умеет параллелить вычисления на нескольких видеокартах. Для запуска дистиллята DeepSeek-R1-Distill-Qwen-32B на двух GPU команда выглядит так:

pip install -U vllm

vllm serve deepseek-ai/DeepSeek-R1-Distill-Qwen-32B --tensor-parallel-size 2 --max-model-len 32768 --gpu-memory-utilization 0.92 --reasoning-parser deepseek_r1 --api-key change-me

Флаг --tensor-parallel-size 2 означает, что модель распределена на две видеокарты. --max-model-len 32768 задает контекст 32К токенов. --reasoning-parser deepseek_r1 выносит цепочку рассуждений в отдельное поле reasoning_content, а в content остается только финальный ответ. Так удобнее делать интерфейс поверх модели.

SGLang - альтернатива, которая лучше всего оптимизирована под архитектуру DeepSeek. Установка через pip:

pip install "sglang[all]"

Для многих флагманских моделей DeepSeek рекомендуют именно SGLang, так как он умеет эффективно использовать механизм внимания DeepSeek и показывает наилучшую скорость.

Развертывание DeepSeek на сервере с Nginx

Если планируешь использовать DeepSeek как сервис для нескольких людей, например, в локальной сети офиса, придется настроить проксирование.

Обычно после заказа выделенного сервера специалисты техподдержки готовят его: ставят драйверы NVIDIA, CUDA, Python. Остается только установить Ollama или vLLM и поднять Nginx.

Установка Ollama на сервере такая же, как на домашнем ПК. Затем настраиваем Nginx как обратный прокси. Открываем конфиг:

server {
    listen 80;
    server_name your-local-domain.local;
    location / {
        proxy_pass http://127.0.0.1:11434;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
    }
}

Затем активируем сайт и перезапускаем Nginx:

sudo ln -s /etc/nginx/sites-available/deepseek /etc/nginx/sites-enabled/
sudo nginx -t
sudo systemctl restart nginx

Теперь все устройства в локальной сети могут обращаться к DeepSeek через единую точку входа. Ну а если нужен доступ из интернета, добавляешь SSL-сертификат через Let's Encrypt, и готово.

Локальный запуск через расширение Chrome

Есть еще один сценарий. Если не хочешь постоянно открывать терминал или отдельную программу, можно поставить расширение для Chrome, которое подключается к локальной модели DeepSeek через Ollama. Устанавливаешь расширение, убеждаешься, что Ollama запущен, и общаешься прямо в браузере. Горячие клавиши Ctrl+Shift+Y открывают боковую панель, Ctrl+Shift+L - окно чата. Удобно для быстрых вопросов, не выходя из рабочего контекста.

Что делать, если не хочется возиться с установкой?

Локальный запуск - это круто, но не для всех. Дистиллят 8B дает среднее качество. Флагман DeepSeek-V4 требует серьезного сервера с несколькими GPU, которые стоят как подержанный автомобиль. И все равно локально нельзя запустить полновесные модели уровня GPT-6 или Claude.

Для реальных рабочих задач часто выгоднее пользоваться облачными сервисами. Тут есть проблема: большинство зарубежных AI-платформ блокируют российские карты и IP. Но есть решение, заточенное под нас.

Лучший сервис, который дает доступ ко всем нейросетям из России, - 3GPT от 3SELLER. Он работает как ИИ-роутер: прямой доступ ко всем последним флагманским моделям из России, без иностранных карт. Внутри Chat GPT 6 Astra, ChatGPT 6.1 Sol, Claude Fable 5, Claude Fable 5.1, Claude Opus 5.5, Chat GPT 5.5. Плюс Nano Banana для генерации изображений и инструменты для видео.

Подключается просто. Регистрируешься на официальном сайте 3GPT, пополняешь баланс российской картой, через СБП или криптовалютой. Стартовый доступ обойдется всего в 149 рублей. И получаешь API-доступ и веб-интерфейс ко всем передовым моделям. Никаких иностранных карт и виртуальных прокси.

Скажем, вот так выглядит интерфейс сервиса:

Кстати, у 3GPT есть готовая коллекция ИИ-агентов под разные задачи - здесь. Выбираешь готового агента, общаешься, при желании меняешь модель внутри чата. Удобно для бизнеса: текст, картинки, видео, голос - все в одном окне.

Если локальный DeepSeek нужен для обучения и экспериментов - однозначно ставь Ollama и дистиллят 8B. Если задача бизнесовая и нужно выдавать результат уровня топовых нейросетей - посмотри в сторону 3GPT.