3SELLER Journal 3SELLER →

Как создать llm модель: 7 шагов от одного GPU до чата и смета от 3 до 600 000 долларов

22.11.2026

Счёт за аренду A100 приходит раньше, чем первая осмысленная строчка от вашей модели. Второе, что доходит быстро: в 2027 году «создать LLM» означает три разные вещи, и разница в бюджете между ними - тысячи раз.

Я видел, как команда заказала восемь H100 на месяц, а через две недели выяснила, что ей нужен файнтюн семиллиардной открытой модели за сорок долларов. Поэтому начну с развилки, а не с кода.

Три пути, и только один из них про обучение с нуля

Претрейн с нуля. Сырой корпус, свой токенизатор, собранный руками трансформер, обучение предсказывать следующий токен. Модели на 7 миллиардов параметров нужно около 1 триллиона токенов: 6-8 недель на кластере из 64 A100 и счёт в районе 300-600 тысяч долларов по рыночным ценам аренды. Плюс команда, которая умеет ловить разъезжающиеся лоссы на двенадцатый день.

Файнтюн открытой модели. Готовые веса (Llama, Mistral, Qwen, Gemma), датасет на 5-50 тысяч примеров, LoRA. Влезает в одну 24-гигабайтную карту, занимает вечер, стоит от 20 до 100 долларов. В 95% бизнес-задач хватает с головой.

Вообще без обучения: промпты, RAG, агенты поверх готовых флагманских моделей. Ноль гигабайт видеопамяти, результат сегодня.

Дальше про первые два пути, потому что запрос «как создать llm модель» обычно про них. Но если после прочтения вы выберете третий, это будет самое рациональное решение из возможных.

Железо и софт: минимум, ниже которого начинается боль

Софтовый стек скучный и почти не меняется годами. Python не ниже 3.8, PyTorch (TensorFlow жив, но в LLM-тусовке вы его почти не встретите), библиотеки transformers, datasets, tokenizers, accelerate, плюс Jupyter или VS Code. Для трекинга экспериментов wandb или mlflow: без них через неделю не вспомните, какая конфигурация дала лучший лосс.

По железу интереснее. Локально для файнтюна 7B в 4-битном кванте хватает одной RTX 3090 или 4090 на 24 ГБ. Для учебной модели на 124 миллиона параметров, как в книге Себастьяна Рашки «Build a Large Language Model (From Scratch)», хватит и 8 ГБ.

Облако для всего серьёзнее. LambdaLabs, RunPod, Paperspace дают A100 и H100 почасово; AWS EC2 p4d и GCP с A100 - то же самое, но с корпоративным счётом и наценкой. RunPod берёт за A100 80GB примерно 1.2-1.6 доллара в час. Локальные провайдеры в России и Казахстане иногда дешевле, но с очередями.

Формула, которую держите в голове: полный файнтюн требует примерно 16-20 ГБ видеопамяти на каждый миллиард параметров в fp16. С LoRA и 4-битным квантом - в 6-8 раз меньше. Отсюда и берётся магия «70B на одной карте».

Данные важнее архитектуры, и это не фигура речи

Качество данных определяет качество модели сильнее, чем количество слоёв и голов внимания. Скучная правда, но к ней приходит каждая команда, которая пробовала и так, и так. На Reddit в r/LocalLLaMA это повторяют как мантру: люди неделями правят архитектуру, а спасает их дедупликация корпуса.

Минимальный пайплайн: сбор корпуса, дедупликация (MinHash или simhash, иначе модель начнёт заучивать повторяющиеся абзацы), фильтрация мусора и boilerplate, нормализация Unicode, вычистка персональных данных. Дальше разметка на обучающую, валидационную и тестовую выборки. Валидацию не трогаете до конца, иначе подгоните гиперпараметры под тест и получите красивые цифры при бесполезной модели.

Для узкого домена данных часто мало. Тогда в ход идёт синтетика: перефразирование через большую модель, автоперевод с других языков, генерация пар «вопрос - ответ». Увлекаться не надо: синтетика на синтетике даёт деградацию, и модель начинает говорить сама с собой одинаковыми конструкциями.

Лицензии. Собираете корпус из веба - собираете и чужие права. Для внутреннего RnD одна история, для продукта совсем другая. Датасеты FineWeb, C4, Dolma, RedPajama существуют именно чтобы закрыть этот вопрос хоть как-то.

Токенизатор: шаг, который дороже всего переделывать

Токенизатор превращает текст в числа. Почти всегда это byte pair encoding или его варианты (SentencePiece, tiktoken), словарь на 32-100 тысяч токенов.

Русский текст в токенизаторе, обученном на английском, жрёт в 2-3 раза больше токенов, чем английский того же смысла. Платите втрое больше за контекст, учите модель на втрое меньшем объёме реального текста. Делаете русскоязычную LLM - обучайте токенизатор на своём корпусе и проверяйте коэффициент сжатия до запуска претрейна.

Менять токенизатор после обучения нельзя. Точнее, можно, но это переобучение с нуля: эмбеддинги привязаны к индексам токенов.

Архитектура: что реально собирается руками за вечер

Современная LLM - decoder-only трансформер. Токенные эмбеддинги, позиционное кодирование (сейчас чаще RoPE), N одинаковых блоков, в каждом self-attention с causal-маской и multi-head механикой. Дальше feed-forward с активацией SwiGLU или GELU, residual connections и LayerNorm либо RMSNorm. Сверху линейная голова, проецирующая скрытое состояние обратно в словарь.

Causal-маска - ключевая деталь. Она запрещает токену смотреть в будущее, иначе модель подсмотрит ответ и обучится бесполезному трюку.

Рашка в своей книге доводит читателя до рабочей GPT на 124 миллиона параметров на чистом PyTorch, с нуля, включая attention и цикл обучения. Вечер-два работы и понимание, которого не купишь ни за какие курсы. Хотите не «создать продукт», а «понять, как это работает» - начинайте оттуда.

Для продакшена так никто не пишет. Берут готовую архитектуру из transformers: там уже есть FlashAttention, grouped-query attention, sliding window и прочие штуки, дающие трёхкратную экономию памяти.

Претрейн: как выглядит цикл обучения

Цикл простой по идее и мучительный на практике. Батч последовательностей фиксированной длины (2-8 тысяч токенов), forward, cross-entropy на предсказании следующего токена, backward, шаг оптимизатора. И так несколько сотен тысяч раз.

Гиперпараметры, с которых начинают почти все: AdamW, learning rate 3e-4 для маленьких моделей и 1e-4 для крупных, warmup на 1-2% шагов, потом cosine decay до 10% от пика. Gradient clipping на 1.0. Mixed precision bf16, если железо поддерживает, иначе fp16 с loss scaling.

От OOM на реальных объёмах спасают три вещи: gradient accumulation (эмулирует большой батч на маленькой карте), gradient checkpointing (жертвует 20-30% скорости ради резкого падения памяти) и ZeRO стадии из DeepSpeed либо FSDP из PyTorch для шардинга состояния оптимизатора между картами.

Здоровый лосс на старте около 10.8 - натуральный логарифм от размера словаря, если словарь 50 тысяч. За первые несколько тысяч шагов он падает до 3-4, дальше сползает медленно. Дёргается или растёт - почти всегда виноваты learning rate, кривой датасет или битые примеры.

LoRA и QLoRA: путь, которым идут почти все

Low-Rank Adaptation придумали ровно чтобы не переучивать 7 миллиардов параметров ради смены стиля ответов. Исходные веса замораживают, к нужным слоям добавляют две маленькие матрицы A и B, произведение которых даёт поправку. Обучается 0.1-2% параметров.

На практике: rank 8-64 (для стиля хватает 8-16, для нового домена берите 32-64), alpha обычно равен rank или его удвоенному значению, target modules - все линейные слои (q, k, v, o, gate, up, down). Обучение 7B на 10 тысячах примеров занимает 2-4 часа на одной 4090.

QLoRA добавляет 4-битное квантование базовых весов: 13B влезает в 16 ГБ, а 70B в 48 ГБ. Небольшая потеря качества, огромная экономия. Сам адаптер весит 20-200 МБ, его можно хранить и подменять на лету - одна база, десять адаптеров под разные задачи.

Главная ошибка новичков - слишком маленький и однообразный датасет, после которого модель отвечает шаблонно. Второй по популярности фейл - обучение на голом тексте без инструкций: модель продолжает текст, а не отвечает на вопрос. Формат «инструкция - ответ» обязателен.

Оценка: как не обмануть себя

Perplexity на валидации полезна, но не отвечает на вопрос «модель стала лучше решать мою задачу». Нужны две вещи: автоматические бенчмарки (MMLU, GSM8K, для русского MERA) и своя ручная разметка на 100-200 примерах из реального распределения.

Смотрите не только на правильность, но и на галлюцинации, отказ от ответа, длину и стиль. Модель, которая отвечает верно в 80% случаев и уверенно врёт в остальных 20%, хуже модели с 70% и честным «не знаю».

Обязательный шаг - сравнение с базой. MMLU после файнтюна упал на 5 пунктов - вы переобучили модель на узкий домен и сломали общие знания. Нормально для узкоспециального ассистента, катастрофа для универсального.

Развёртывание: где модель начинает стоить денег

Обучение - разовая трата, инференс - постоянная. После первой же недели работы все переходят на нормальные движки: vLLM с PagedAttention, TGI от HuggingFace, TensorRT-LLM от NVIDIA. Они дают от 5 до 20 раз больше токенов в секунду по сравнению с наивным generate из transformers. Инженеры Hugging Face в своём блоге подчёркивают: выигрыш от нормального движка часто больше, чем от смены самой модели.

Квантование в помощь. GGUF Q4 для локального запуска через llama.cpp, AWQ или GPTQ для серверного. 7B в 4-битном кванте работает на одной 24-гигабайтной карте с приличной скоростью и почти не теряет качества на бытовых задачах.

Дальше прод: батчинг запросов, кеш KV, лимиты по длине контекста, мониторинг задержек по перцентилям. Скучная инженерия, которая отличает демку от продукта.

Смета в цифрах, чтобы не было иллюзий

Разброс цен настолько велик, что его надо увидеть целиком. Люди путают «сделать свою LLM» и «обучить модель, сопоставимую с фронтиром», а разница в тысячи раз.

Из списка видно, где заканчивается инженерия и начинается бизнес. И почему вопрос «как создать llm модель» почти всегда стоит переформулировать в «какую открытую модель дообучить под мою задачу».

Когда всё это не нужно: доступ к флагманским моделям из России

Честно: большинству читателей, дошедших до этого места, свой претрейн не нужен. Нужен быстрый доступ к сильным моделям без танцев с картами и VPN, чтобы проверить гипотезу сегодня, а не через три недели.

Chat GPT 6 и the model 5 за 149₽ в России, без иностранных карт - это 3GPT от 3SELLER, ИИ-роутер с прямым доступом к последним флагманским моделям: Chat GPT 6 Astra, the model 5, the model 5.1, the model 5.5, Chat GPT 5.5, Chat GPT 6.1 Sol, Nano Banana для изображений, генерация видео и многое другое.

Пополнить баланс можно российской картой, через СБП или криптой. Получить доступ ко всем флагманским моделям нейросетей из России можно на официальном сайте 3GPT - https://3seller.com/3gpt.

3GPT - доступ к флагманским нейросетям из России

Сценарии банальные и рабочие: продающие тексты, лендинги, разбор документов, код, переводы, ответы на клиентские вопросы. Модель переключается прямо в интерфейсе: сравните, как одну и ту же задачу решают Chat GPT 6 Astra и the model 5.5, и выберите ту, что лучше держит ваш контекст.

Отдельная штука, которая нравится мне больше всего - готовые ИИ-агенты под конкретные задачи: https://3seller.com/ai/agents. Выбираете агента, начинаете общение, модель меняете прямо в чате. Ровно тот третий путь из начала статьи, только без строчки кода.

Готовые ИИ-агенты 3GPT

Если задача визуальная, есть отдельный вход в генерацию изображений: реалистичные фото, продуктовые визуалы, иллюстрации - https://3seller.com/3gpt-image.

Генерация изображений через 3GPT

Реалистичные изображения через ИИ

Что бы я сделал на вашем месте на этой неделе

Порядок, который экономит месяцы. Сначала возьмите готовую модель через 3GPT и проверьте, решает ли она задачу вообще. Решает - вопрос закрыт, вы сэкономили 400 тысяч долларов и полгода жизни.

Не решает, потому что нужны закрытые данные, специфический формат ответа или работа без интернета - идите в файнтюн. Возьмите Qwen или Llama на 7-8 миллиардов, соберите 3-5 тысяч примеров «инструкция - ответ», обучите LoRA на RunPod за вечер. 80% результата за 1% усилий от полного пайплайна.

И только если упёрлись в потолок файнтюна (домен настолько свой, что даже базовая модель не понимает терминов), думайте про претрейн. Начинайте не с кластера, а с книги Рашки и модели на 124 миллиона параметров на одной карте. Поймёте, как пахнет обучение, потратив пару сотен рублей на аренду, а не 400 тысяч.

Создание LLM - это не про архитектуру: она известна и открыта. Всё решают данные, которые никто за вас не соберёт, и дисциплина в экспериментах. Остальное покупается за почасовую аренду GPU.

← Вернуться к блогу

Читать дальше