Мне часто пишут: "Хочу своего ИИ-агента, но чтобы все работало локально, без облаков и платных API". Желание понятное. Приватность, экономия, полный контроль над данными. Сегодня покажу три способа собрать такого агента на своем компьютере. Без ежемесячных подписок и иностранных карт.
Что такое ИИ-агент и зачем он нужен локально
ИИ-агент - это программа, которая не просто отвечает на вопросы, а выполняет задачи: ищет информацию, пишет код, составляет сводки. Он сам решает, какие инструменты использовать и в каком порядке. Локальный агент запускается на вашей машине, а не на чужом сервере.
У локального агента три ключевых преимущества: данные не покидают компьютер, нет расходов за каждый запрос, можно работать без интернета. Но есть и минусы: локальные модели слабее облачных флагманов. Для сложных задач не хватит мощности. Поэтому важно понимать, где локальный агент справится, а где лучше использовать облачные сервисы.
Если вам нужен агент для рутинных операций - лента новостей, парсинг, генерация отчетов - локальные решения вполне тянут. А для тяжелой работы вроде создания контента или анализа больших данных лучше подключать облачные модели. Об этом расскажу в конце.
Что нужно для запуска локального агента
Для начала подготовимся. Вам понадобится компьютер с операционной системой Windows, macOS или Linux. Чем больше оперативной памяти, тем лучше. Минимально - 8 ГБ, комфортно - 16 ГБ и выше. Также нужно место на диске для загрузки моделей. Модели на 7-13 миллиардов параметров занимают несколько гигабайт.
Из инструментов понадобятся: среда выполнения (например, Python), менеджер моделей (Ollama или LM Studio) и платформа для логики агента (n8n или LangGraph). Некоторые из них не требуют установки, работают через браузер.
Выбирайте способ под свой уровень: новичкам подойдет первый, разработчикам - второй и третий.
Способ №1: n8n Community Edition + Ollama - бесплатный конструктор без кода
Самый простой путь для новичка. n8n - платформа для автоматизации, а Ollama запускает языковые модели локально. Связка работает без единой строчки кода.
Разберем на конкретном примере. Допустим, агент должен искать свежие новости об искусственном интеллекте в RSS-ленте TechCrunch и готовить по ним краткую сводку со ссылками на источники. Платные API для этого не понадобятся. Доступ в интернет агенту потребуется только для загрузки RSS-ленты.
Сначала формулируем задачу и описываем ожидаемый результат. Важный шаг, его часто пропускают. Агент без четкого ТЗ начинает делать не то. Например, в нашем случае опишите, какие рубрики интересуют, сколько новостей включать в сводку, нужны ли ссылки.
Устанавливаем n8n Community Edition. Она бесплатна и предназначена для самостоятельного запуска. Открываем терминал и выполняем команду:
npx n8n
После запуска переходим в интерфейс. Добавляем узел Chat и компонент AI Agent. В нижней части узла выбираем Chat Model и через поиск добавляем Ollama Chat Model.
Теперь настраиваем модель. В настройках нажимаем Set up credential и проверяем поле Base URL. Для локальной версии Ollama по умолчанию используется адрес http://localhost:11434. Сохраняем настройки. Если появляется ошибка ECONNREFUSED, попробуйте указать в Base URL адрес http://127.0.0.1:11434.
Дальше запускаем модель локально с помощью Ollama. После установки десктопной версии открываем терминал и выполняем команду:
ollama serve
Модель можно выбрать любую, например, llama3 или qwen. В n8n подключите ее по имени. Теперь агент готов. Проверьте: он должен загрузить RSS, отобрать свежие новости и сделать сводку.
Такой подход хорош, когда нужно быстро собрать рабочего агента без программирования. Но управление потоками в n8n иногда напоминает паутину. Если задача сложнее, лучше обратиться к инструментам для разработчиков.
Способ №2: LangGraph CLI для разработчиков - визуализируем каждый шаг
LangGraph - это фреймворк для создания агентов на Python. Он позволяет описать граф состояний и действий. Удобно, когда нужно точно контролировать логику и видеть, как агент принимает решения.
Сначала создаем проект и файл langgraph.json. В нем прописываем маршруты, узлы и поведение агента. Например, узел steps_node может выполнять поиск результатов, суммировать их и извлекать ключевые моменты.
Затем запускаем сервер разработки командой:
langgraph dev
Эта команда запускает сервер разработки LangGraph и использует файл langgraph.json для загрузки настроек. Если все работает успешно, вы получите локальную LangGraph Studio.
Studio помогает визуализировать шаги. Вы видите, как узел steps_node выполняет поиск, суммирует данные и извлекает ключевые моменты. Это очень удобно для отладки. Можно остановить агента на любом шаге, изменить параметры и продолжить.
Если нужно подключить к агенту Copilot Cloud, придется открыть туннель. При локальном запуске LangGraph-агента используйте команду:
npx copilotkit@latest dev --port 8000
Есть и другие способы запуска: Self-hosted FastAPI для Python-агентов или развертывание на LangGraph Platform для продакшена. Но для экспериментов достаточно локальной разработки.
Подход требует знания Python и асинхронного программирования. Зато вы получаете полный контроль над каждым шагом агента. Такой вариант подойдет тем, кто готов писать код и разбираться в архитектуре.
В качестве примера можете посмотреть статью "Как создать своего первого ИИ-агента за 30 минут" на Хабре. Там описан процесс создания агента с несколькими узлами и интеграцией с Copilot Cloud. Но даже без облака, только локально, LangGraph дает много возможностей.
Способ №3: LM Studio - локальный агент в два клика
Самый быстрый способ попробовать локального агента без кода и сложных настроек - LM Studio. Эта программа скачивает модель и запускает локальный сервер прямо внутри себя.
Скачиваем LM Studio, выбираем модель. Например, Qwen 3.5 - она умеет распознавать изображения и имеет reasoning, то есть "думалку". Прежде чем давать ответ, модель рассуждает. Это полезно для сложных задач.
После загрузки модели запускаем локальный сервер. В интерфейсе нажимаем кнопку Developer, включаем тумблер запуска сервера и подгружаем модель. Принцип такой же, как у Ollama, но все в одном окне.
Теперь к этому серверу можно подключиться из любой программы. Например, из VS Code с помощью расширения Continue или Cline. Агент будет работать полностью автономно, даже без интернета.
Обратите внимание на важный момент: чтобы результаты были предсказуемыми, не полагайтесь только на модель. Делегируйте точные задачи Python-скриптам.
Почему агент с Python-скриптами работает лучше
Модель хороша в рассуждениях, но может ошибаться в арифметике. Например, попросите агента посчитать 1 + 1: он может выдать 2, а может 3, если его перепутали. Решается это делегированием вычислений Python-скриптам.
Вместо того чтобы модель считала сама, научите ее писать Python-скрипт и выполнять его. Тогда результат будет точным. Модель генерирует код, скрипт исполняет, и мы получаем гарантированный ответ.
Такой подход снижает количество ошибок и делает работу агента повторяемой. Это простая, но мощная идея: дайте модели не только думать, но и использовать инструменты.
В LM Studio и LangGraph это реализуется без особых сложностей. Вы просто описываете функцию, которую агент может вызвать, и передаете ей входные данные. Например, для математических операций можно определить функцию calculate(expression), а агент будет вызывать ее через инструменты.
В видео Local AI Agent in 13 Minutes (No Coding) показан именно такой пример: агент получает задачу, пишет Python-скрипт для ее решения и выполняет его. Это обеспечивает точность и воспроизводимость.
Когда локальный агент не справляется
Локальные модели хороши, но они не сравнятся с флагманами вроде ChatGPT 6 или Claude Fable 5. Если нужно написать продающий текст, сделать сайт или сгенерировать реалистичное изображение, локальная модель на домашнем ПК будет долго думать и выдаст посредственный результат.
Для таких задач запустили 3GPT от 3SELLER. Это ИИ-роутер, который дает прямой доступ из России к последним флагманским моделям. Без иностранных карт и за 149 рублей в месяц.
3GPT включает в себя многомодельный доступ: ChatGPT 6 Astra, Claude Fable 5, Claude Fable 5.1, Claude Opus 5.5, ChatGPT 5.5, ChatGPT 6.1 Sol, Nano Banana для создания изображений и генерацию видео. Все это через один интерфейс.
Пополнить баланс можно российской картой, через СБП или криптой. Никаких зарубежных платежных систем. Получить доступ можно на официальном сайте 3GPT.
Но 3GPT помогает не только с текстами. Используйте его для повседневных задач в бизнесе и работе. Создавайте продающие тексты, сайты, изображения, видеоролики и генерируйте голос.
А если не хотите ничего настраивать, у 3SELLER есть готовые ИИ-агенты под ваши задачи. Выберите подходящего агента на странице готовых ИИ агентов и начните общение. Модель агента можно менять прямо в чате.
Локальный агент - это здорово, когда нужно приватно и бесплатно. Но для сложных задач не мучайте свой компьютер, используйте облачные мощности.
Мой совет: начните с LM Studio, чтобы понять, как работает агент. Потом переходите к n8n или LangGraph для более серьезных сценариев. А когда почувствуете потолок - смело подключайте 3GPT.