3SELLER Journal 3SELLER →

Как сделать локального ИИ агента за один вечер: Ollama, Qwen 2.5 и ноль строк кода

21.11.2026

Локальный ИИ агент звучит как задача для инженера с тремя мониторами. На деле рабочий агент на вашем компьютере собирается за вечер, бесплатно и без единой строки кода на старте. Я собрал таких с десяток: разбор почты, мониторинг конкурентов, отчеты из таблиц, черновики постов. Ниже выжимка из этого опыта, только то, что реально работает.

Агент это не модель: мозг и руки раздельно

Первая ошибка, на которой спотыкаются почти все новички: скачанная нейросеть воспринимается как готовый агент. Не готовый. Ollama, LM Studio и другие рантаймы дают вам мозг, то есть языковую модель, которая отвечает на запросы. Агент это надстройка: модель плюс память плюс инструменты плюс логика многошаговых действий. Модель думает, агент действует.

Простой пример из практики. Пишете модели «найди цены пяти конкурентов и сведи в таблицу». Модель ответит, что не имеет доступа к интернету, и будет права. Агент с подключенным инструментом поиска сделает это физически: отправит запросы, соберет данные, запишет файл на диск. Разница не в интеллекте, а в руках.

Ollama здесь базовый слой: движок, который превращает ваш компьютер в персональный сервер для LLM. Через него запускают Llama, Mistral, Qwen, DeepSeek и десятки других открытых моделей. Поверх строятся агенты: n8n, OpenClaw, OpenCode, LangGraph. Запомните это разделение, оно спасет от половины путаницы в туториалах.

Что дает локальность на самом деле

Три аргумента, ради которых затевается вся эта история. Конфиденциальность: договоры, клиентские базы, переписка не покидают ваш диск, ничего не уходит на чужие серверы. Деньги: локальная модель не имеет абонентской платы, после разового скачивания вы генерируете сколько угодно токенов за ноль рублей. Независимость: нет блокировок, нет сбоев API на чужой стороне, нет зависимости от того, поменяло ли очередной сервис условия доступа.

Плюс один неочевидный бонус. Локальный агент не боится нагрузки: если он размечает тысячу строк таблицы ночью, то не упрется в rate limit и не съест баланс. Массовые операции, где облачный API намотал бы заметную сумму, локально бесплатны и безлимитны.

Железо: локальный агент потянет даже средний ноутбук

Самый частый вопрос перед стартом, отвечаю по личным замерам, без маркетинговых цифр.

Модели класса 7B в квантованном виде занимают 4-5 ГБ и заводятся на любой машине с 16 ГБ оперативки. Работают даже на процессоре: медленно, пара токенов в секунду, но для тестов и суммаризации хватает. Если в ноутбуке есть дискретная видеокарта хотя бы с 6 ГБ, скорость вырастает в разы.

Следующая ступень, 14B, требует уже 9-10 ГБ памяти. На видеокарте с 12 ГБ (RTX 3060, RTX 4070) такие модели летают бодро, десятки токенов в секунду. На чистом процессоре ответ на пару абзацев растянется на минуту, в ежедневной работе такое терпеть тяжело.

Модели 30B+ и полноценные DeepSeek это уже 24-32 ГБ памяти, сюда же приличная видеокарта и быстрая RAM. Такой сетап стоит денег и для большинства агентских задач избыточен. Мой совет: не гонитесь за размером. Агент на 14B с хорошими инструментами обходит голую 70B модель почти по любым прикладным задачам.

Установка Ollama: три команды и пять минут

Шаг первый. Заходите на ollama.com, скачиваете установщик под свою систему (Windows, macOS, Linux), ставите как обычную программу. На Windows Ollama живет в трее, на Mac и Linux работает как служба в фоне.

Шаг второй. Открываете терминал и тянете модель:

ollama pull qwen2.5:14b

Девять гигабайт, на нормальном интернете минут десять. Затем запускаете диалог:

ollama run qwen2.5:14b

Появилось приглашение ввода, пишете вопрос, получаете ответ. Чат уже работает, хотя формально агент вы еще не собрали.

Шаг третий, проверка API. Ollama поднимает локальный сервер на порту 11434, и любой софт может с ним общаться. Классическая проверка через curl:

curl http://localhost:11434/api/generate -d '{"model": "qwen2.5:14b", "prompt": "Привет, ты агент?", "stream": false}'

Пришел JSON с полем response, значит API живой и к нему можно цеплять внешние инструменты. Технически сложная часть на этом закончена, дальше сплошные конструкторы.

Выбор модели: нужна не эрудиция, а стабильные вызовы инструментов

Тут многие ошибаются, беря модель по принципу «где больше цифра в названии». Агенту важна не эрудиция, а умение стабильно возвращать данные в строгом формате. Сценарий ждет JSON, модель вместо него выдает рассуждения на три абзаца - и вся цепочка падает.

Мой рабочий чек после нескольких месяцев экспериментов:

Для русскоязычных задач Qwen 2.5 14B вне конкуренции. Текст без кальки с английского, а для агента, который переписывается с вашими клиентами или пишет посты, это решающий фактор. Если машина слабая, берите Qwen 2.5 7B: потери заметны, но терпимы.

Руки агенту дает n8n или OpenClaw

Модель без инструментов это собеседник. С инструментами становится сотрудником. Добавим сотруднику руки, тут два основных пути.

n8n, визуальный конструктор автоматизаций. Ставится локально одной командой Docker, после чего сценарии собираются мышкой: пришло письмо, агент прочитал, что-то решил, записал в таблицу, отправил ответ. Для Ollama в n8n есть готовая нода, связка настраивается за двадцать минут даже без опыта. Для бизнес-задач типа разбора почты, лидов и отчетов это самый короткий путь от нуля до работающего агента.

OpenClaw и подобные фреймворки, путь для тех, кто хочет автономного агента с доступом к файловой системе, браузеру и терминалу. Такой агент получает цель, сам разбивает ее на шаги и выполняет, а вы подтверждаете ключевые действия. OpenCode поверх Ollama работает как автономный программист: предлагает изменения, показывает диффы, ждет одобрения. Контроль полностью у вас, код не покидает пределы машины.

Третий путь для не боящихся Python: фреймворки уровня LangGraph. Порог входа выше, зато контроль максимальный. В LangGraph Studio агент собирается как граф, узлы это шаги, ребра это логика переходов. Отдельный плюс: готовые шаблоны агентов лежат прямо в документации.

Первый рабочий сценарий: агент разбора почты за вечер

Чтобы теория не осталась теорией, сценарий, который я собрал за один вечер на связке n8n плюс Ollama. Агент разбирает входящие письма.

Триггер: новое письмо. Шаг первый: текст уходит в модель с промптом «определи категорию: заказ, вопрос, спам, партнерство, ответь одним словом». Шаг второй: по категории срабатывает ветка, заказы падают в таблицу, вопросы пересылаются в поддержку, спам уходит в архив. Сложные письма агент помечает флагом для человека. Работает месяцами, обрабатывает порядка двухсот писем в день, ни один заказ не потерян.

Туда же по шаблону собираются: утренний дайджест, где агент собирает новости по вашим темам и пишет выжимку; контентщик, который готовит черновики постов по контент-плану; аналитик, раз в сутки читающий выгрузку из CRM и пишущий отчет с аномалиями. Каждый такой сценарий занимает вечер, экономит в сумме часы в неделю.

Грабли, на которые я наступил, чтобы вы не наступили

Контекст. У Qwen 2.5 14B заявлено до 32K токенов, но стабильно агент чувствует себя при 8-16K. В обсуждениях на Reddit практикующие отмечают то же: заявленный контекст и реально комфортный - разные цифры. Не пихайте в промпт весь сайт целиком, режьте на куски и подавайте по частям.

Формат ответа. Для таблиц и JSON просите модель отвечать строго по шаблону и добавляйте проверку в сценарии. Фраза «ответь только валидным JSON без пояснений» снимает большую часть проблем, остаток ловится повторным запросом при ошибке парсинга.

Сеть. По умолчанию Ollama слушает только localhost. Если агент крутится в Docker или на другой машине, правьте переменную OLLAMA_HOST на 0.0.0.0. И держите в голове безопасность: открытый наружу порт локальной LLM это плохая идея, закрывайте его файрволом.

Сон Windows. После спящего режима служба иногда теряет модель из памяти, и агент начинает отвечать ошибками. Лечится перезапуском Ollama, в настройках службы сразу включите автоперезапуск.

Температура. Для агентских задач ставьте temperature в районе 0.1-0.3. Агенту нужна предсказуемость, а не креативность, иначе один и тот же сценарий в понедельник и во вторник отработает по-разному.

Квантизация и настройки, которые экономят нервы

Скачивая модель, вы замечаете теги вроде q4_K_M или q8_0. Это уровень сжатия: чем меньше число, тем меньше памяти ест модель и тем сильнее деградирует качество. q4_K_M золотая середина, на ней качество почти не проседает, а памяти уходит вдвое меньше против полной точности. На Reddit в ветках про локальные модели q4_K_M стабильно называют точкой, где сжатие еще не убивает качество. Дефолтные сборки в Ollama уже идут в разумной квантизации, так что лезть в дебри на старте не нужно.

Полезные команды на каждый день: ollama ps показывает, какие модели сейчас в памяти и сколько занимают; ollama list выводит все скачанные модели с размерами; параметр keep_alive управляет тем, как долго модель остается загруженной. Если агент дергает модель раз в пять минут, держите ее резидентно, иначе каждая пауза будет стоить секунд на повторную загрузку в память.

Сеть агентов: следующий уровень после первого

Один агент это уже удобно, но настоящий скачок дает сеть, где несколько агентов передают работу друг другу. Простейшая схема на той же связке: агент-приемщик разбирает входящий поток и классифицирует, агент-исполнитель выполняет по типу задачи, агент-контролер проверяет результат и возвращает на доработку при браке.

На n8n это собирается как оркестрация: один workflow вызывает другие, передавая контекст. На LangGraph похожая картина, только граф переходов пишется кодом и дает больше гибкости в маршрутизации. Практический совет: не стройте сеть из пяти агентов сразу, начните с двух и добавляйте узлы по мере появления реальных задач. Сети агентов, построенные «на вырост», обычно умирают от собственной сложности раньше, чем приносят пользу.

Честно о пределах локальной сборки

Теперь то, о чем в туториалах обычно молчат. Локальный агент на 14B уверенно решает: работу с текстами, суммаризацию, разбор почты, простые скрипты, заполнение шаблонов, классификацию. С этим он справляется стабильно, бесплатно и круглосуточно.

С чем справляется плохо: многошаговые рассуждения высокой сложности, тонкая работа со стилем в продающих текстах, генерация изображений и видео, свежие знания без дообучения. Локальная 14B против флагманских Claude или ChatGPT по качеству рассуждений проигрывает заметно, разрыв виден на первых же сложных запросах.

Тут важно не впадать в крайности. Одни бросают локальную сборку, разочаровавшись в первом же сложном задании. Другие фанатично тащат на локальные модели все подряд и теряют качество. Рабочая схема гибридная: рутинные массовые задачи крутятся локально, задачи, где нужен максимум качества, уходят на флагманские облачные модели.

Гибрид: локальный агент плюс флагманы из России за 149₽

С флагманами из России классическая беда: подписки привязаны к иностранным картам, доступ нестабилен, VPN-танцы утомляют. Давно решаю это через 3GPT от 3SELLER, и для гибридной схемы это идеальный второй контур.

3GPT дает прямой доступ из России к последним флагманским моделям: Chat GPT 6 Astra, Chat GPT 6.1 Sol, Chat GPT 5.5, Claude Fable 5, Claude Fable 5.1, Claude Opus 5.5, плюс Nano Banana для генерации изображений и генерация видео. Пополнение баланса российской картой, через СБП или криптой, от 149₽. Никаких иностранных карт, никаких блокировок.

Доступ к флагманским нейросетям из России через 3GPT

Моя схема выглядит так. Локальный агент на Qwen 2.5 молотит рутину круглосуточно: разбор входящих, черновики, сортировка, таблицы. Задачи, где нужен результат флагманского уровня, отправляю через 3GPT: в повседневной работе и бизнесе это продающие тексты, структура сайта, максимально реалистичная обработка изображений, видеоролики и генерация голоса. Все в одном окне, без VPN.

Получить доступ ко всем флагманским моделям нейросетей из России можно на официальном сайте 3GPT.

Готовые ИИ агенты: путь для тех, кто не хочет собирать

У 3GPT есть фишка, закрывающая потребность в агенте почти для всех непрограммистов. В каталоге лежат готовые ИИ агенты под конкретные задачи: выбираете агента и сразу начинаете с ним общение. Модель агента меняется прямо в чате: сегодня агент работает на Claude Fable 5.1, завтра переключили на Chat GPT 6.1 Sol, потому что задача требует другого типа мышления.

Готовые ИИ агенты в 3GPT

Разница с локальной сборкой принципиальная: не нужен Docker, не нужна видеопамять, не нужен вечер на настройку. Выбор агента, диалог, результат. Для бизнеса это часто оптимальный вход в агентов вообще, а локальную сборку строите позже, когда поймете, какие именно сценарии хотите автоматизировать на своих данных.

Выбрать готового агента и начать работу можно здесь: готовые ИИ агенты 3GPT.

Фотореализм локально не летает, и вот рабочий обход

Отдельно про картинки, потому что это боль всех локальных сборок. SDXL и Flux на домашней машине выдают приличные арты, но фотореализм уровня «не отличить от снимка» локально недостижим без серьезного железа и многочасовых экспериментов с промптами. Лица, руки, текст на изображениях остаются зоной провала большинства открытых моделей.

Через генерацию реалистичных изображений в 3GPT получаются фотографии, которые на первый взгляд неотличимы от реальной съемки: рекламные креативы, карточки товаров, контент для соцсетей. Промпт на русском пишется прямо в чат, результат приходит в то же окно.

Реалистичные изображения через 3GPT

Примеры генераций изображений 3GPT

Сколько это стоит на самом деле

Локальная часть: ноль рублей за токены. Разовые вложения только в железо, и то если у вас нет подходящей машины: б/у RTX 3060 с 12 ГБ обойдется примерно в 25-30 тысяч, этого достаточно для 14B моделей. Электричество при работе агента пару часов в день стоит копейки.

Облачный контур: подписки на флагманы напрямую из России дороги и требуют иностранных карт. Через 3GPT вход от 149₽, пополнение российской картой, СБП или криптой, и вы получаете сразу веер моделей вместо одной: Chat GPT 6 Astra и 6.1 Sol, Chat GPT 5.5, Claude Fable 5 и 5.1, Claude Opus 5.5, Nano Banana, генерацию видео и голоса. Для гибридной схемы, где локальный агент съедает девять задач из десяти, а флагманы достаются оставшейся одной, такой расклад бьет чисто облачные сценарии по бюджету с большим отрывом.

План на первый вечер

Конкретика вместо абстракций. Ставите Ollama с официального сайта. Тянете qwen2.5:14b, на слабой машине берите 7b вариант. Проверяете API командой curl. Поднимаете n8n в Docker, цепляете ноду Ollama, собираете сценарий из одного триггера и одного действия. К полуночи у вас работает личный агент, который не зависит от зарубежных серверов, подписок и утечек данных.

Когда упретесь в потолок качества локальных моделей, а вы упретесь, добавляйте второй контур: 3GPT от 149₽ с Chat GPT 6, Claude Fable 5 и Opus 5.5, оплата российской картой или через СБП. Локальный агент для рутины, флагманы для качества, гибрид для результата.

← Вернуться к блогу

Читать дальше