Пару недель назад я решил запустить DeepSeek R1 на своем ПК. Думал, будет боль: конфиги, драйверы, сборки из исходников. А оказалось - одна команда в терминале, и модель уже генерирует ответы. Сейчас расскажу, как это сделать, и заодно поделюсь, что делать, если локального запуска недостаточно.
DeepSeek R1 - это open-weight модель, которую реально запустить дома
DeepSeek-R1 прогремел на весь мир, а потом все как-то забыли, что его можно запустить локально. Да, есть API, есть облака, но когда нужно что-то протестировать без интернета и без ограничений, локальный запуск - спасение. Сама модель имеет архитектуру Mixture of Experts, в ней 671 миллиард параметров. Для полной версии нужно около 1.5 ТБ видеопамяти. Такое не потянет ни один домашний компьютер. Поэтому используют дистилляты - облегченные версии, которые обучались на ответах оригинальной модели. Они бывают от 1.5B до 70B параметров. Вот их как раз можно запустить на обычном ПК.
Например, DeepSeek-R1-Distill-Qwen-7B отлично работает на видеокарте с 8 ГБ памяти. А версия 1.5B вообще запускается на процессоре без видеокарты. Правда, в этом случае ответы будут медленными, но для знакомства с моделью подойдет.
Что нужно для запуска DeepSeek R1 на своем ПК
Первым делом смотрите на видеопамять. Вот ориентировочные требования для дистиллятов:
- 1.5B - от 4 ГБ (можно даже без видеокарты)
- 7B - от 8 ГБ VRAM
- 14B - 12-16 ГБ VRAM
- 32B - от 24 ГБ VRAM
Если у вас старая видеокарта или вообще только процессор, не расстраивайтесь. Модель 1.5B будет тормозить, но работать. У меня на старом ноутбуке с 4 ГБ ОЗУ и без видеокарты 1.5b отвечала за полторы минуты - медленно, но жить можно. Для тестов этого достаточно. Следующий вопрос - свободное место на диске. Модель 7B занимает около 4-5 ГБ, 14B - около 9 ГБ. Учитывайте это.
Ollama - самый простой способ развернуть DeepSeek R1
Для запуска моделей я использую Ollama - инструмент, который скачивает модель, запускает ее и предоставляет API. Работает на Windows, Linux и Mac. Никаких сложных настроек. Уже через пять минут после установки вы будете общаться с DeepSeek.
На Linux или Mac установка в одну команду:
curl -fsSL https://ollama.ai/install.sh | sh
На Windows просто скачайте установщик с официального сайта ollama.com и запустите. После установки проверьте, что все прошло успешно:
ollama --version
Чтобы Ollama всегда запускалась при загрузке системы, выполните:
sudo systemctl enable ollama.service
Эта команда пригодится тем, кто планирует использовать модель как локальный сервер для своих проектов.
Какую версию DeepSeek R1 выбрать
Заходите на официальный сайт Ollama, в поиске вводите deepseek-r1. Вы увидите список доступных версий. Моя рекомендация для начала - 1.5b. На Reddit в сообществе LocalLLaMA эту версию называют самым безопасным стартом для знакомства с моделью. Она маленькая и быстрая. Уровень ответов ниже, чем у большой версии, но понять принцип работы можно. Плюс она не требует мощной видеокарты.
Если у вас видеокарта с 8+ ГБ памяти, берите 7b. Качество заметно выше. Модель справляется с написанием текстов, генерацией кода, решением логических задач. Для большинства повседневных задач этого достаточно.
Тем, у кого 16 ГБ и больше, можно попробовать 14b. Она дает еще более глубокие рассуждения и лучше работает с длинными контекстами. Правда, и требования к железу растут.
Запускаем DeepSeek R1: команды и проверка
Допустим, вы выбрали версию 1.5b. В терминале выполняете:
ollama run deepseek-r1:1.5b
Для 7b команда будет:
ollama run deepseek-r1:7b
Ollama сама скачает модель, это займет некоторое время в зависимости от скорости вашего интернета. Потом появится приглашение к диалогу. Пишите свой вопрос и получайте ответ.
Если в терминале видите подробный вывод процесса, значит, все прошло успешно. Ошибки чаще всего связаны с нехваткой видеопамяти. Тогда берите более легкую версию. Иногда помогает перезапуск Ollama или обновление драйверов видеокарты.
Подключаем Open WebUI для удобного чата
Терминальный интерфейс удобен не всем. Хочется красивый чат как в веб-версии. Тогда ставим Open WebUI - централизованную панель управления для Ollama. Open WebUI - это веб-интерфейс, где можно общаться с моделью, менять модели, хранить историю диалогов.
Установка через pip:
pip3 install open-webui
Или через Snap:
snap install open-webui
После установки запускаете Open WebUI, открываете браузер и работаете с DeepSeek в удобном интерфейсе. Такой подход удобен для рабочих задач: история диалогов всегда под рукой.
Альтернативные способы: llama.cpp, LM Studio, vLLM
Ollama - не единственный вариант. Для более тонкой настройки используют llama.cpp. Он поддерживает квантованные GGUF-модели и позволяет выжать максимум из вашего железа. Но требует ручной работы: скачать модель с Hugging Face, указать параметры запуска.
LM Studio - это десктопное приложение с графическим интерфейсом. Оно тоже умеет запускать GGUF-модели, но работает не на Linux. Если у вас Windows или Mac, попробуйте.
vLLM предназначен для серверов. На нем запускают DeepSeek-V4.1-Flash-1017 и другие тяжелые модели. Но для дома это избыточно. Начинающим я советую именно Ollama: меньше настроек, больше пользы.
Что с DeepSeek-V4? Последние модели уже не для ПК
Вы могли слышать про DeepSeek-V4.1-Flash-1017. Это свежая модель с контекстом 1M и поддержкой изображений. Но развернуть ее на домашнем ПК не выйдет. Для нее нужны серверы с SGLang или vLLM. Требования к памяти колоссальные. Так что для работы с последней версией DeepSeek лучше использовать облачные сервисы.
Для дома лучший флагман - V4-Flash-0731, но он тоже требует серьезных ресурсов. С дистиллятами R1 все проще. Поэтому если ваша задача - просто пощупать модель или встроить ее в небольшой проект, остановитесь на R1.
Слабое железо или нужно больше моделей? Используйте 3GPT
Иногда локального запуска недостаточно. Например, хочется попробовать Chat GPT 6 или Claude Fable 5. На своем ПК вы их не развернете - это закрытые модели. Но есть сервис 3GPT от 3SELLER, который дает доступ ко всем флагманским нейросетям из России. Включая последние версии Chat GPT, Claude, DeepSeek, Nano Banana для изображений и генерацию видео. Всего за 149 рублей.
Оплата без иностранных карт - российской картой, через СБП или криптой. Никаких VPN и танцев с бубном. Просто открыли сайт и работаете. Я пользуюсь локальным DeepSeek для экспериментов, а для рабочих задач беру 3GPT. Такой подход закрывает все потребности.
Получить доступ можно тут: https://3seller.com/3gpt
Отдельная фишка сервиса - готовые ИИ агенты под типовые задачи. Выбираете агента для продающих текстов, кода, анализа данных и начинаете общаться. Модель агента можно менять прямо в чате. Посмотрите: https://3seller.com/ai/agents
Полезные советы для тех, кто решил развернуть DeepSeek R1 локально
Начните с маленькой 1.5b модели. Даже если у вас мощная видеокарта, первым делом проверьте, как все работает. Потом уже переходите на большую.
Используйте квантованные GGUF-версии из Hugging Face, если хотите сэкономить память. В блоге Hugging Face отмечают, что Q4_K_M - оптимальный баланс между качеством и размером. Например:
ollama run hf.co/unsloth/DeepSeek-R1-0528-Qwen3-8B-GGUF:Q4_K_M
Эта команда скачает и запустит модель прямо с Hugging Face. Главное - чтобы у вас был установлен Ollama версии, поддерживающей такую команду.
Если нужно дообучить модель на своих данных, Ollama тоже подходит. Экспортируете адаптер в GGUF, создаете Modelfile и запускаете:
ollama create my-model -f Modelfile
Так вы получите модель, которая знает вашу специфику. Но это уже тема для отдельной статьи.
Что я думаю про локальный запуск DeepSeek R1
Локальный DeepSeek R1 - это реально. Не нужны серверы и сложные конфигурации. Одна команда в Ollama - и вы общаетесь с моделью. Если хочется большего - берите облачный 3GPT. Идеально для тех, кто в России и не хочет париться с иностранными картами.
Запустите 1.5b прямо сейчас - команда одна, время - десять минут. Если после теста захотите большего, ставьте 7b или откройте 3GPT - там все флагманские нейросети в одном окне.