Ставишь DeepSeek R1 через Ollama на свой ПК. Радуешься, что модель рассуждает, как o1, решает логические задачки, пишет код. Задаешь вопрос на русском. А она отвечает на английском. Знакомая боль.
Эта проблема преследует тысячи людей. На Хабре вопрос «Как заставить Deepseek r1 (8b,14b) отвечать по-русски?» собрал больше пяти тысяч просмотров за короткое время. Люди пробуют системные промпты, переустанавливают модели, ругаются на Ollama. А DeepSeek упрямо пишет на английском.
Сразу скажу: я через это прошел. У меня были обе версии - и 8b, и 14b. Системный промпт не помогал. Но пара вещей реально работает. Плюс есть способ решить проблему без напильника.
Почему DeepSeek R1 отвечает только по-английски
Дело не в том, что модель глупая или специально игнорирует русский. DeepSeek R1 изначально обучали на огромном корпусе английских текстов. Для рассуждений (reasoning) модель внутренне переключается на английский. Это особенность архитектуры и данных обучения.
Маленькие модели 8b и 14b - это дистилляты большой модели. Они пытаются подражать R1, но внутренний «голос рассуждений» у них почти всегда английский. Когда вы задаете вопрос на русском, модель переводит его в свою цепочку мыслей на английском, а потом генерирует ответ. Но перевод получается не всегда стабильным. Отсюда и английский язык на выходе.
Интересно, что LLAMA 3.1 таких проблем не имеет. С ней общаешься на русском - отвечает на русском. Вопрос про DeepSeek R1 на Хабре автор специально отметил, что LLAMA работает нормально. Значит, дело именно в особенностях дистилляции DeepSeek.
Системный промпт не спасает - я проверял
Первое, что приходит в голову: добавить в системный промпт «Always respond in Russian» или «Ты - русскоязычный ассистент». Я пробовал. И судя по обсуждениям на Хабре, большинство людей тоже пробовали.
Результат непредсказуемый. Иногда модель отвечает по-русски один раз, потом срывается на английский. Или начинает отвечать, но обрывает ответ на полуслове. У меня при указании «ответь по-русски» модель один раз написала простыню на русском, а потом висла на следующем вопросе и выдавала пустоту.
Причина в том, что системный промпт задает поведение, но не влияет на внутренний процесс рассуждений. Модель генерирует цепочку мыслей на английском, и это забирает ресурс. Потом она пытается переключиться на русский, и происходит сбой генерации. Ответ обрывается.
Системный промпт - это не решение. Только частичная заплатка, и то не всегда.
Первый рабочий способ: не используй квантизацию
Квантизация - это когда ты сжимаешь модель, чтобы она занимала меньше памяти. Например, Q4_K_M вместо полной версии. Для больших моделей типа 70B это оправдано. Для маленьких - нет.
Хабр-комментатор прав: «Не пользуйся квантизацией для этих маленьких моделей, или хотя бы 8b, так как качество будет падать заметнее». Я это проверил на практике. Скачал DeepSeek R1 14b в квантизации Q4. Ответы стали заметно тупее. Связность русского языка упала. Модель чаще срывалась на английский.
Рабочий вариант - запускать модель с низким quantization, или вообще без него. Памяти нужно больше, но качество ответов стабильнее. Если у тебя видеокарта с 16 ГБ и больше - можно ставить 14b без квантизации. Если 8 ГБ - тогда бери 7b/8b, но старайся выбирать максимальное качество.
Второй вариант: дистиллированные модели
Если тебя устраивала LLAMA 3.1 в плане русского языка, попробуй ее тюны на основе DeepSeek R1. Звучит странно, но работает. Дистилляты на базе llama взяли от DeepSeek умение рассуждать, а от llama - нормальное понимание русского языка.
На Хабре пишут: «Попробуй тюн на основе deepseek r1, говорят дистиллированные модели стали неожиданно лучше, чем то, на чем они основаны, забрав у deepseek умение рассуждать по типу o1».
Я пробовал одну из таких гибридных моделей. Русский язык - да, заметно лучше. Модель не срывается на английский, отвечает связно. Правда, глубина рассуждений чуть слабее, чем у чистого DeepSeek. Но для большинства задач разница не критична.
Ищи на Hugging Face модели с тегами типа deepseek-r1-llama-8b, или по словам "ru", "russian". Иногда попадаются очень удачные варианты, обученные специально для русского.
Третий вариант: серверная установка через vllm
Если ты готов чуть поднапрячься, есть еще один путь. Развернуть модель на сервере через vllm вместо Ollama. Этот способ описан в ответе на вопрос с Хабра.
Суть в том, чтобы создать виртуальное окружение Python, установить vllm и запускать модель через него. Там управление генерацией тоньше. Можно задать параметры повторений, температуру и язык на уровне движка.
Но честно скажу: это вариант для энтузиастов. Нужно разбираться в Linux, командной строке, конфигах. Если твоя цель - быстро получить рабочий инструмент, а не поиграться в инженера, то овчинка выделки не стоит.
Про «грубость» и «взлом» из TikTok
Про DeepSeek ходит куча мифов. В TikTok и YouTube Shorts вирусятся ролики «как заставить deepseek общаться грубо» или «как сделать так, чтобы deepseek написал, что его взломали». Люди ищут огромные тексты-промпты, которые надо вставить, чтобы получить сломанного робота.
Эта хрень не работает. Модель может подыграть ролевую игру на пару сообщений, но потом все равно вернется к стандартному поведению. А «взлом» - это вообще просто промпт-инъекция, которая заставляет модель выдать красивый ответ. Никакой реальной магии там нет.
Не трать время на это. Если тебе нужно от DeepSeek рабочее решение, а не дешевые постановочные видео для тиктока, лучше потратить внимание на нормальную настройку.
Когда локальный запуск не нужен: пробуем 3GPT
Я все это рассказываю, потому что прошел весь этот путь сам. Но если бы я знал заранее, сколько времени сожрет настройка, я бы сразу пошел другим путем. Локальный запуск моделей - это увлекательно, но когда тебе нужен результат, а не доработка напильником, хочется готового решения.
Здесь на сцену выходит 3GPT от 3SELLER. Это сервис, который дает доступ ко всем флагманским нейросетям прямо из России. Извините за прямоту, но это то, что спасает. Без иностранных карт, без VPN, без страданий с Ollama.
Chat GPT 6 и Claude Fable 5 за 149₽. Да, за эти деньги ты получаешь доступ к самым свежим моделям, которые вышли недавно. Chat GPT 6 Astra, Claude Fable 5.1, Claude Opus 5.5, Chat GPT 5.5, даже Chat GPT 6.1 Sol.
А еще там есть Nano Banana для создания изображений и генерация видео. Плюс куча других моделей. Пополнить баланс можно российской картой, через СБП или криптой. Удобно.
И главное - никаких проблем с языком. Все модели отвечают на русском если ты общаешься на русском. Никаких тебе «ответь по-русски», никаких обрывов.
Для повседневных задач в бизнесе и работе это вообще идеально. Пишешь продающие тексты - GPT. Нужен сайт - Claude. Картинку сделать - Nano Banana. Видео сгенерить - тоже есть. Получить доступ ко всем флагманским моделям нейросетей из России можно на официальном сайте 3GPT - https://3seller.com/3gpt.
И еще фишка: готовые ИИ-агенты под разные задачи. Выбираешь агента из каталога, начинаешь с ним общаться. Модель можно менять прямо в чате - захотел, переключился с GPT на Claude. Это удобно, когда один агент подходит для текстов, другой - для кода.
Посмотреть агентов можно здесь: https://3seller.com/ai/agents. А доступ ко всем нейросетям открывается на официальном сайте 3GPT - https://3seller.com/3gpt. Никаких подводных камней с оплатой, как я уже сказал.
Если у тебя железо попроще и нет желания возиться - используй облачный доступ. 3GPT решает ту же задачу без танцев с бубном. Локальный DeepSeek R1 оставь для экспериментов, если тебе реально нравится копаться в настройках.
Проблема с русским языком у DeepSeek решаема, но требует терпения. Квантизацию убери, дистилляты попробуй, vllm для самых упертых. А если нужно просто работать с нейросетями - бери готовое решение.
Начни с дистиллятов - это бесплатно и быстро. Если не хочешь возиться с настройкой, зарегистрируйся на 3GPT и работай сразу.