Три вечера, два переустановленных драйвера и команда в терминале, которая упорно возвращала ошибку. Так выглядела моя первая попытка поставить ИИ агента на домашний компьютер. Сейчас на всё уходит минут двадцать, и я точно знаю места, где спотыкаются почти все.
Ниже два рабочих маршрута. Первый честный локальный: Ollama, квантованная модель, ручная сборка инструментов. Второй для тех, кому нужен результат, а не процесс: доступ к флагманским моделям из России без видеокарты и без иностранных карт.
Агент на компьютере - это три разные вещи, которые постоянно путают
Когда человек говорит «хочу установить ИИ агента», он обычно имеет в виду чат. Агент отличается от чата циклом: модель получает задачу, решает, какое действие выполнить, вызывает инструмент, читает результат и продолжает работу. Без инструментов и без цикла получается локальный собеседник, который ничего не делает за вас.
Технически сборка состоит из трёх слоёв. Runtime запускает модель и поднимает локальный API: Ollama, LM Studio, llama.cpp. Дальше сама модель, файл с весами на 4-30 ГБ. И обвязка, которая даёт агенту руки: поиск в интернете, чтение файлов, запуск скриптов, работа с таблицами. Люди ставят первый слой, радуются и останавливаются. А потом удивляются, почему «агент» не может открыть папку на диске.
Понимание этой тройки экономит дни: сразу видно, на каком этапе застряли и что докупать.
VRAM считают до скачивания, а не после
Порог входа в 2026 такой: минимум 8 ГБ VRAM, это RTX 3060 или RTX 4060. Комфортный уровень 16 ГБ: RTX 3080, RTX 4070 Ti, RTX 4080. Для моделей на 70B нужна связка из двух карт либо Mac с M2 Ultra или M3 Max и 64 ГБ unified memory.
Хитрость, о которой узнают уже после загрузки. Модель на 14B в квантизации Q4 занимает около 9 ГБ. На карте с 8 ГБ она запустится, но часть слоёв уедет в оперативную память, и скорость упадёт до 3-5 токенов в секунду. Работать можно, читать длинные ответы больно. Плюс контекст: чем длиннее диалог, тем больше памяти съедает KV-кэш, и в какой-то момент модель начинает выгружаться и грузиться заново.
Владельцам ноутбуков стоит сразу проверить, есть ли дискретная видеокарта. На встроенной графике Intel или AMD агент запустится только в варианте 3B-7B и будет отвечать медленнее, чем вы печатаете. Для реальной работы сценарий почти бесполезен.
Ollama ставится за пять минут, и это не преувеличение
Заходите на ollama.com, выбираете свою операционную систему. Есть десктопное приложение для Windows и macOS, есть CLI-версия для терминала и сборка для Linux. Скачали, запустили, всё. Никаких зависимостей, Python-окружений и танцев с CUDA.
Дальше открываете терминал. На macOS это Terminal, на Windows PowerShell. Команда для скачивания модели: ollama pull qwen2.5:14b. Загрузка занимает от пяти до двадцати минут в зависимости от канала, весит около 9 ГБ.
После загрузки запуск: ollama run qwen2.5:14b. Появится приглашение ввода, можно писать. Если ответ пошёл, значит runtime работает и модель держится в памяти. Выключили терминал, модель выгрузилась, при следующем запуске загрузится с диска за несколько секунд.
Один нюанс для Windows: если PowerShell не видит команду ollama, перезапустите его после установки. Переменные окружения подхватываются только в новом процессе, и на этом теряют по полчаса.
Выбор модели решает больше, чем мощность карты
Названия моделей читаются проще, чем кажется. GGUF означает формат файла для локального запуска. Число вроде 14b, это количество параметров в миллиардах. Квантизация Q4_K_M, степень сжатия весов и компромисс между качеством и памятью. Чем агрессивнее сжатие, тем меньше файл и тем заметнее модель тупеет на сложных инструкциях.
Для русскоязычных задач лучше всего держится Qwen 2.5 14B. Модель точнее понимает контекст и стабильнее генерирует вызовы инструментов, а именно на этом ломаются самодельные агенты. Проверяется просто: дайте одной и той же сборке задачу «найди файл отчёта и пришли выжимку». Qwen с первого раза отдаёт корректный вызов функции, Mistral 7B присылает вежливый текст с извинениями. Mistral 7B хорош для суммаризации и переписывания, но в агентных цепочках сдаёт и путает формат ответа. Qwen 2.5-Coder 7B берут, когда агент работает с кодом, файлами и скриптами. Gemma 2 стоит попробовать, если хочется сравнить стиль и скорость на своей машине.
Ставить сразу 70B на домашнюю карту смысла нет. Разница в качестве с флагманскими облачными моделями всё равно останется, а время ответа вырастет в разы. Лучше взять 14B, которая отвечает быстро и влезает в память, чем ждать по три минуты на каждый запрос.
Одна команда curl показывает, работает ли API
Ответ в терминале ещё не значит, что к модели сможет подключиться сторонний клиент. Проверяем честно: curl -d '{"model": "qwen2.5:14b", "prompt": "Привет, ты агент?", "stream": false}' http://localhost:11434/api/generate
Если в ответ пришёл JSON с полем response, API живой и на порту 11434 слушает локальный сервер. С этого момента к модели можно цеплять что угодно: свои скрипты, n8n, сторонние клиенты, обёртки на Python.
Порт по умолчанию 11434 и адрес localhost означают, что снаружи машина закрыта. Если нужен доступ с другого устройства в сети, придётся менять OLLAMA_HOST и открывать порт, а это уже вопрос безопасности. Для удалённого доступа с ноутбука к домашней машине правильнее поднять SSH-туннель: ssh -L 11434:127.0.0.1:11434 user@ip и работать так, будто модель стоит рядом. Порт наружу не торчит, доступ защищён ключом.
Голый runtime не агент, ему нужны инструменты
Дальше начинается та часть, из-за которой люди бросают затею. Агенту нужны инструменты: поиск, работа с файлами, вызов внешних API, иногда браузер. Вариантов два. Первый визуальный, через n8n: собираете сценарий из нод, где модель вызывает нужные шаги, а результат возвращается в диалог. Второй через OpenClaw и подобные клиенты, которые работают поверх тех же локальных моделей и берут обвязку на себя.
Есть и путь через Modelfile: в конфигурации прописывается системный промпт, температура, список доступных действий. Работает, но требует понимания, что вы делаете. Ошибка в описании инструмента, и модель начинает вызывать его не туда, придумывать несуществующие параметры или просто игнорировать инструкцию.
Отдельно про безопасность. Агент с доступом к файловой системе и терминалу получает ровно те же права, что и ваша учётная запись. Запускайте такие эксперименты в Docker или на отдельной машине, а не на рабочем ноутбуке с бухгалтерией и клиентскими базами. Одна неудачная формулировка в промпте, и агент удалит не ту папку без всякого злого умысла.
Типичные ошибки, которые съедают вечера
Первая и самая частая: скачать модель на 32B на карту с 8 ГБ и решить, что локальные агенты не работают. Работают, просто не эта модель на этом железе.
Вторая по частоте: ждать от 7B-модели качества флагмана. Она перепишет текст, расставит запятые, сделает выжимку. Сложную многошаговую задачу с инструментами развалит на третьем шаге.
Дальше идёт отсутствие системного промпта. Без него модель не знает, что она агент, какие у неё инструменты и в каком формате отвечать. Люди удивляются, почему вместо вызова функции приходит вежливый текст с извинениями.
Четвёртая: попытка сделать всё сразу. Сначала запустите модель и убедитесь, что она отвечает. Потом добавьте один инструмент. Потом второй. Отладка цепочки из пяти инструментов, собранной за один присест, отнимает больше времени, чем последовательная сборка.
Локальный путь проигрывает там, где нужен результат
Я люблю локальные модели за автономность. Отключил интернет, и агент работает. Данные не уходят наружу, что критично, если вы разбираете внутренние документы или клиентские базы. На этом плюсы заканчиваются.
Минусы конкретные. 14B модель на сложной задаче с длинным контекстом путается в деталях чаще флагмана. Скорость на домашней карте в пять-десять раз ниже облака. Настройка инструментов съедает вечера. А когда через месяц выйдет новая модель, всё придётся проверять заново, потому что формат вызова инструментов у каждой свой.
Для большинства рабочих задач быстрее получить доступ к флагманским моделям, чем собирать ферму дома. Особенно если задача разовая и результат нужен сегодня.
Второй маршрут: агент без терминала и без видеокарты
Сервис 3GPT от 3SELLER решает ровно ту проблему, из-за которой локальная установка превращается в проект на неделю. Chat GPT 6 и the model 5 за 149₽, из России, без иностранных карт. Внутри доступ к флагманским моделям: Chat GPT 6 Astra, the model 5, 5.1 и 5.5, Chat GPT 5.5, Chat GPT 6.1 Sol, плюс Nano Banana для изображений и генерация видео. Без прокси и без настройки инфраструктуры. Пополнение баланса российской картой, через СБП или криптой.
149 рублей на входе. Для сравнения, одна видеокарта на 16 ГБ, которая даст вам модель уровнем заметно ниже, стоит как несколько лет такого доступа.
Получить доступ ко всем флагманским моделям нейросетей из России можно на официальном сайте 3GPT: https://3seller.com/3gpt

Использовать это можно для повседневных задач в работе и бизнесе. Продающие тексты, сайты, разбор документов, ответы клиентам, обработка изображений, видеоролики и синтез голоса. Всё в одном окне, без переключения между сервисами и без VPN.
Готовые агенты, которых не надо собирать
Помимо чата у сервиса есть готовые ИИ агенты под конкретные задачи: https://3seller.com/ai/agents. Выбираете агента, открываете диалог и работаете. Модель внутри агента меняется прямо в чате, так что можно сравнить, как одну и ту же задачу решают Chat GPT 6 Astra и the model 5.5, и остаться на той, что лучше держит ваш контекст.

Практическая разница с локальной сборкой огромная. Не надо думать про VRAM, квантизацию, формат вызова инструментов и версии зависимостей. Агент уже умеет то, ради чего вы вообще затевали установку. А если задача нестандартная, вы меняете модель и получаете другой стиль решения без переустановки чего-либо.
Картинки, видео и голос на том же доступе
Отдельная ветка, которая локально почти нереалистична. Генерация изображений через https://3seller.com/3gpt-image даёт реалистичные фото, обработку и апскейл. Nano Banana справляется с правками по текстовому описанию, когда нужно поменять фон или одежду, не пересобирая кадр заново.


Плюс видео и синтез голоса. На домашней карте на 8 ГБ генерация видео это эксперимент на ночь с неясным результатом. Через сервис занимает минуты, и можно сразу переделать, если не понравилось.
Как выбрать между двумя маршрутами
Локальная установка оправдана в трёх случаях. Данные нельзя выносить за периметр. Нужна работа без интернета. Вы хотите разобраться в теме руками, и процесс вам сам по себе интересен. Тогда Ollama плюс Qwen 2.5 14B, а инструменты через n8n по мере необходимости. Это хорошая школа, я сам через неё прошёл.
Во всех остальных случаях, а их большинство, вы просто теряете время. Написать продающий текст, собрать лендинг, обработать партию фотографий, сделать видео, разобрать договор. Для этого нужен доступ к сильным моделям, а не собственный сервер в спальне и не ночные бои с зависимостями.
Начните с двадцати минут на Ollama, чтобы понять, как устроено внутри. Потом откройте https://3seller.com/3gpt и сделайте ту же работу за один вечер. 149 рублей на входе дешевле, чем вечер, потраченный на вызов инструментов, который так и не сработал.