Мне этот вопрос прилетает в личку раза три в неделю. Обычно после ролика, где человек запускает Llama на домашнем ПК и говорит, что теперь ему не нужны никакие подписки. Дальше идет бюджет, сборка, а через месяц выясняется, что восемьдесят процентов задач он закрывал бы через браузер, а системник пылится под столом.
Поэтому отвечу не как продавец железа, а как человек, который такие машины собирал, ломал и чинил. Короткий ответ: все зависит от того, считаете вы модели у себя или просто пользуетесь чужими. Разница в цене примерно как между велосипедом и грузовиком.
Сначала ответьте себе: модель крутится у вас или вы к ней ходите
Сценариев ровно два. Первый - вы запускаете веса локально, файнтюните, гоняете инференс на закрытых данных, держите весь пайплайн в контуре компании. Второй - пользуетесь моделями через интерфейс или API. Тут расхождение радикальное: во втором случае хватит ноутбука за сорок тысяч и нормального интернета.
Люди путают эти сценарии постоянно. Видят, как кто-то разворачивает Qwen3 32B на двух картах, и решают, что без этого не написать ни одного поста и не сделать ни одной картинки. Не нужно. Сборка имеет смысл, когда есть данные, которые нельзя выносить наружу, либо когда вы посчитали расходы на токены и поняли, что локальный инференс дешевле. В остальных случаях вы покупаете хобби, а не инструмент.
Звучит обидно, но это самая частая ошибка, которую я вижу. Человек вкладывает триста тысяч в карту, а потом все равно идет в веб-интерфейс: новая флагманская модель вышла в облаке на полгода раньше, чем появились веса.
VRAM - единственная цифра, которая реально решает
Процессор, материнка, частота памяти - все это вторично. Упирается почти всегда в видеопамять. Грубая прикидка, которой я пользуюсь: модель в четырехбитном кванте занимает примерно 0.55-0.6 ГБ на миллиард параметров. Плюс KV-кэш под контекст, плюс служебный запас.
Отсюда практика. Модель на 8B - это 6-7 ГБ, хватает карты на 12 ГБ. 32B - около 18-20 ГБ, значит нужна карта на 24 ГБ, и она работает впритык: длинный контекст уже режется, батч больше единицы не поставить. 70B в четырех битах - примерно 40 ГБ, одна RTX 5090 со своими 32 ГБ не справится. Нужны две либо профессиональная карта на 96 ГБ вроде RTX PRO 6000 Blackwell. Модели класса 120-235B - это два-четыре ускорителя и бюджет в миллионы рублей.
Отдельно про контекст, потому что об этом забывают. KV-кэш на 32B модели при контексте в 32 тысячи токенов съедает еще несколько гигабайт. Люди берут карту ровно под веса, а потом удивляются, почему все падает на длинных документах. В обсуждениях на Reddit про локальный инференс всплывает тот же нюанс: жалеют не о переплате за память, а о том, что взяли впритык и уперлись в контекст на первом же длинном документе. Запас по VRAM - не роскошь, а условие работы.
Порог входа для экспериментов и небольших моделей - 16-24 ГБ VRAM. Для локальных LLM с большим контекстом, дообучения и профессиональной работы - от 32 ГБ и выше, причем с запасом. Держите несколько моделей одновременно или гоняете крупные батчи - запас обязателен: забитая под потолок карта свопится в системную память, и скорость падает в разы. Проверял лично, зрелище печальное.
CUDA и Tensor Cores - не маркетинговая строчка. AMD и Intel в ML-стеке до сих пор требуют танцев с бубном: часть библиотек не собрана под них, часть работает через костыли, часть просто падает. Для учебы и энтузиазма сойдет, для продакшена берите NVIDIA.
Какую карту брать под конкретные модели
Карта на 16 ГБ - потолок для моделей 8-14B в кванте Q4. Нормальный старт, если вы учитесь и пробуете. 24 ГБ открывают 32B, и это самый разумный компромисс по деньгам для домашней станции. 32 ГБ на RTX 5090 дают воздух под контекст и батчи, но 70B все равно не влезут целиком.
Дальше начинается профессиональная лига. RTX PRO 6000 с 96 ГБ закрывает 70B без компромиссов и позволяет держать несколько моделей. Стоит она как половина квартиры в регионе, но для студии, которая живет на локальном инференсе, окупается.
Квантование не бесплатное. Q4 практически не теряет качества на большинстве задач, Q3 уже заметно тупее, Q2 ломает модель. Нужны честные веса в fp16 - считайте объем как два байта на параметр: 32B это 64 ГБ только под веса.
Процессор: не переплачивайте, но и не ставьте что попало
GPU считает, CPU кормит. Готовит данные, крутит препроцессинг, собирает батчи, держит даталоадеры. Слабый процессор - и карта простаивает: вы заплатили за 5090, а получили производительность уровня младшей модели.
Intel Core i7-13700K - тот самый баланс. В тестах машинного обучения он выдает результаты, близкие к более дорогим моделям, а сэкономленное уходит в видеопамять, что правильнее. Intel Core i9-13900K: 24 ядра, 32 потока, 36 МБ кэша L3. Вариант для тех, кто учит модели сутками и кому нужна стабильная частота под длительной нагрузкой без просадок.
AMD Ryzen 9 7950X берут за большой кэш. Хорошо работает там, где одни и те же данные гоняются по кругу. Еще лучше в этом смысле модели с 3D V-Cache, но для большинства сценариев разница не критична.
Threadripper Pro и Epyc - отдельная лига. Много линий PCIe, поддержка нескольких GPU, DDR5 ECC, параллельные вычисления на серьезных объемах. Дома такое ставить некуда и незачем, это для студий и лабораторий.
И про миф. Самый дорогой камень не равен лучшему результату. Тесты TRG Datacenters показывали, что процессоры прошлых поколений спокойно отрабатывают в AI-сценариях. Экономия на CPU в пользу GPU почти всегда выигрышна.
Память, диски и питание - скучная часть, которая ломает проекты
Оперативка: 32 ГБ - минимум для комфорта, 64 ГБ - норма, 128 ГБ и выше - когда работаете с большими датасетами и держите в памяти несколько процессов параллельно. Для рабочих станций DDR5 ECC: трое суток обучения и случайный битфлип в памяти - это очень обидно.
Диск: NVMe, и лучше не один. Датасет на 200 ГБ с медленного SATA превращает обучение в ожидание. Скорость загрузки батчей напрямую бьет по утилизации GPU, а это ровно те деньги, которые вы заплатили за карту.
Питание и охлаждение. RTX 5090 с ее аппетитами требует блока на 1000-1200 Вт с запасом и корпуса, который нормально продувается. Обучение - не игровая сессия на два часа, а 72 часа непрерывной нагрузки. Плохой отвод тепла даст троттлинг ровно посередине эксперимента. Я видел, как люди теряли неделю работы, сэкономив полторы тысячи на вентиляторах.
Что проверить перед покупкой, чтобы потом не пересобирать:
- мощность блока с запасом 30% от пикового потребления карты и CPU
- количество линий PCIe, если в планах вторая карта
- продув корпуса и место под радиатор башенного кулера
- наличие двух NVMe-слотов, желательно с отдельным охлаждением
Отдельная история - линии PCIe. Знакомый собрал станцию на 192 ГБ памяти, воткнул две карты и три дня искал, почему torch видит только одну. Оказалось, слоты делили линии, и в BIOS это переключается одной строкой.
Операционная система: Linux или Windows с WSL2
Для Jupyter, Python-стека и большинства ML-фреймворков удобнее Ubuntu. Драйверы, CUDA, cuDNN ставятся предсказуемо, сообщество решает проблемы быстро. Windows хорош, если кроме ИИ на машине живут обычные рабочие программы. Компромисс - Windows с WSL2: получаете линуксовое окружение, не уходя с привычной системы.
Сколько это стоит в рублях
Цифры, от которых стоит отталкиваться, чтобы понимать масштаб. Станция начального уровня для локальной разработки Qwen3, Gemma 3, Mistral и Llama - от 450 тысяч рублей. Внутри Ryzen 7/9 или Core i7-Ultra 9, видеокарта от RTX 5080 до RTX PRO 6000, суммарно до 96 ГБ VRAM, оперативки 32-192 ГБ.
Конфигурация под Qwen3 32B, Llama 3.1 70B и модели класса 120B - от 2 миллионов. Threadripper Pro 7000WX либо Xeon W, до двух RTX 5090 или RTX PRO 6000, до 192 ГБ VRAM, 128-1024 ГБ памяти с ECC.
Машина под Qwen3-235B-A22B, Llama 3.1 405B и подобное - от 4 миллионов, до четырех GPU. Такая сборка уже не для дома, а сервер в стойку.
Ноутбук в эту картину плохо вписывается. Мобильные карты режут и по VRAM, и по тепловому пакету. Для инференса мелких моделей на ходу сойдет, для обучения - нет, даже если наклейка на крышке обещает обратное.
Экономика: когда локально дешевле, а когда нет
Простая арифметика, которую мало кто делает. Станция за 450 тысяч рублей при работе на API должна окупиться за год-полтора, иначе это чистое хобби. Посчитайте реальный месячный расход на токены, умножьте на 18. Выходит меньше стоимости сборки - покупать железо нет смысла.
Второй фактор важнее денег: скорость появления новых моделей. Флагманские веса приезжают в открытый доступ с задержкой, а иногда не приезжают вообще. Вы покупаете карту под сегодняшнюю модель, а через полгода она уже не топ.
Девяносто процентов людей, которые спрашивают меня про сборку, решают не ту задачу. Им нужен доступ к актуальным моделям, а не к розетке на полтора киловатта. Закрывает такую задачу роутер доступа: один из рабочих вариантов - 3GPT от 3SELLER, который дает доступ ко всем нейросетям из России без иностранных карт и без VPN.
Там Chat GPT 6 Astra, the model 5, the model 5.1, the model 5.5, Chat GPT 5.5, Chat GPT 6.1 Sol, Nano Banana для изображений, генерация видео и еще десяток моделей. Стартовый доступ - от 149 рублей, пополнить баланс можно российской картой, через СБП или криптой. Ссылка на сервис: https://3seller.com/3gpt.
Сравните сами. Одна RTX 5090 - порядка 300 тысяч плюс обвязка, питание, корпус, охлаждение. За эти деньги вы получаете 32 ГБ VRAM и модель, которая отстает от флагманов на год-полтора. Либо получаете доступ к актуальным версиям сегодня и тратите остаток бюджета на задачи, а не на железо.
Живой сценарий. Нужно написать серию продающих текстов, собрать лендинг и нарисовать к нему графику. Раньше это три разных сервиса, три подписки и три способа оплаты. Сейчас - один интерфейс и переключение модели прямо в чате, когда текущая не тянет.
Готовые ИИ-агенты вместо конструктора с нуля
Отдельная штука, которую многие не замечают. Есть готовые ИИ-агенты под конкретные задачи: https://3seller.com/ai/agents. Выбираете агента, начинаете с ним общение, а модель меняете прямо в чате, если текущая не справляется.
Для малого бизнеса это часто единственный реалистичный вход в ИИ. Не нужен ни системник за полмиллиона, ни штатный ML-инженер. Нужен человек, который понимает задачу и умеет формулировать, что он хочет получить.
Картинки и видео - самый прожорливый сценарий
Генерация изображений и видео съедает VRAM вагонами, а время рендера на домашней карте измеряется минутами, которые складываются в часы. Именно здесь локальные мощности окупаются хуже всего: модели обновляются каждые пару месяцев, и каждая новая требует больше памяти.
Практичнее взять доступ к генерации реалистичных фото и обработке изображений через https://3seller.com/3gpt-image. Никаких локальных мощностей, никакого ожидания в очереди к собственной карте.
Практика простая: вы не привязаны к одной машине, не считаете киловатты, не ждете, пока освободится GPU. Работаете с ноутбука, из офиса, с телефона в поезде.
Кому своя станция действительно нужна
Перечислю честно, без обобщений. Медицина и финансы, где данные физически нельзя выпускать за периметр. Команды, которые регулярно файнтюнят модели на собственных корпусах и делают это постоянно, а не один раз для эксперимента. Продукты, где инференс стоит денег и объемы уже перевалили за порог окупаемости железа. Исследователи, которым нужен контроль над весами и воспроизводимость результатов.
Всем остальным сначала стоит посчитать экономику. Локальная станция за 450 тысяч имеет смысл, если вы сжигаете сопоставимую сумму на доступе за год-полтора. Если нет, вы просто купили красивый системник с подсветкой.
Ошибки, которые я видел чаще всего
Экономия на блоке питания при карте за триста тысяч. Один NVMe на всю систему, куда пишутся и веса, и датасеты, и логи. Карта на 8 ГБ, купленная под модели 30B - человек думал, что «влезет в кванте». Ставка на CPU-инференс без GPU, потому что «процессор тоже считает». Ноутбук для обучения. И самое частое - покупка железа до того, как человек определился, какие модели и какого размера ему реально нужны.
Порядок действий тут обратный интуиции. Сначала месяц работы с моделями на реальных задачах, потом понимание, во что вы упираетесь. Потом уже выбор карты под конкретный размер модели и формат кванта.
Что сделать прямо сейчас
Если задача - работать с ИИ, а не строить дата-центр, начните с доступа к моделям. Откройте 3GPT, посмотрите список, погоняйте неделю на своих настоящих задачах, а не на демо. Дальше станет понятно, упираетесь вы в возможности моделей или в их отсутствие. Первое лечится подпиской, второе - только железом, и то не всегда.
Сборку под локальные модели имеет смысл обсуждать, когда вы точно знаете размер модели, формат кванта, объем контекста и объем данных. До этого любая конфигурация - пальцем в небо. И да, 16-24 ГБ VRAM хватает большинству, кто доходит до реальной практики. Остальные цифры - для тех, кто уже уперся в потолок и знает, зачем ему 96 ГБ.