Открываешь чат, а персонаж смотрит пустыми глазами и спрашивает, кто ты такой. Хотя полчаса назад вы вместе выбирались из подвала, и он клялся, что никого не бросит. Знакомая история. Дело не в кривой карточке и не в том, что автор бота халтурщик. Ты упёрся в лимит контекста, и лечится он одной настройкой: внешней моделью через прокси.
Про Janitor AI ходит много путаницы. Люди слышат слово «прокси» и думают про сетевые туннели и анонимайзеры, которыми пользуются сисадмины. В интерфейсе Janitor это означает совсем другое. Разберу по-человечески, что происходит, когда жмёшь фиолетовую кнопку Proxy, и почему после этого бот внезапно начинает писать как живой.
В Janitor прокси это слот для чужой модели, а не туннель для трафика
По умолчанию Janitor AI генерирует ответы своей моделью. Она называется JLLM, включена всем и не стоит ни копейки. Для знакомства с платформой этого хватает: персонажи отвечают, сюжет как-то двигается, интерфейс симпатичный.
Нюансы начинаются дальше. JLLM это компромисс между стоимостью и качеством, и качество там среднее. Модель осторожничает, сглаживает углы, любит скатываться в вежливое «она улыбнулась и спросила, что делать дальше». Драматургию она не держит, инициативу не берёт.
Прокси в Janitor подставляет вместо JLLM любую внешнюю модель по API. Создаёшь конфигурацию, вбиваешь адрес провайдера, свой ключ и точное имя модели - и запросы на генерацию уходят туда. Интерфейс, персонажи, чаты, история переписки остаются на месте. Меняется только мозг, который пишет ответы.
Технически это обычный HTTP-запрос к эндпоинту провайдера, авторизованный твоим ключом. Никакой магии. Практически это разница между ботом, который «ну вроде отвечает», и ботом, с которым не стыдно провести вечер.
Память: 4 тысячи токенов против 32-64 тысяч
Вот главная причина, по которой люди вообще лезут в настройки. Контекст JLLM это около 4 тысяч токенов. Звучит абстрактно, поэтому переведу на человеческий: карточка персонажа, системный промпт, твоя персона, последние сообщения. Всё обязано уместиться в четыре тысячи. На практике после двадцати-тридцати реплик модель начинает вытеснять ранние сообщения из памяти.
Дальше начинается то самое «кто ты такой». Персонаж забывает имя, забывает договорённости, заново знакомится с твоим героем, теряет завязку сцены. В ролевой игре это убивает погружение быстрее любого плохого слога.
Прокси-модели дают в среднем 32-64 тысячи токенов контекста. Разница не в два раза, а в десять-пятнадцать. Бот помнит предысторию, помнит, что вы уже обсуждали, помнит характер ваших отношений и держит тон. Длинная арка на сто сообщений перестаёт разваливаться на несвязанные куски. На Reddit в тредах по Janitor эту разницу формулируют коротко: перестаёшь быть незнакомцем для собственного персонажа.
Есть и вторая, менее очевидная сторона. Чем больше контекста, тем меньше модель фантазирует на пустом месте. Когда у неё есть доступ к деталям сцены, она не придумывает левых родственников и не путает локации. Ответы становятся плотнее, меньше воды и повторов.
Канон персонажа держится на модели, а не на карточке
Новички верят, что качество бота зависит от того, насколько подробно заполнена карточка. Отчасти да, но потолок задаёт модель. Можно исписать портрет на три экрана, а JLLM всё равно сведёт его к дружелюбной болванке, которая соглашается со всем подряд.
Сильные модели держат характер. Сарказм остаётся сарказмом, а не превращается в мягкую иронию. Мрачный персонаж не начинает сыпать комплиментами через две реплики. Модель способна на конфликт: она спорит, отказывает, ошибается, делает неудобные вещи. Именно из этого рождается ощущение живого собеседника, а не сервиса поддержки.
Заодно подтягивается юмор. Хорошая модель ловит ритм шутки, умеет в подколку и вовремя сбрасывает напряжение. JLLM в этом месте выдаёт что-то в стиле корпоративного календаря.
Отдельно про то, как прокси ведёт сюжет. Слабая модель ждёт, пока ты придумаешь, что делать. Сильная предлагает ходы сама: вводит второстепенных героев, обостряет ситуацию, подкидывает последствия твоих же решений. Сцену не приходится тянуть в одиночку.
Долгая ролевая игра и сцены на четверых
Короткий этюд на двадцать сообщений вытянет и JLLM. Настоящая ролевая игра это часы, иногда недели. За это время накапливается история, персонажи обрастают деталями, появляются второстепенные линии.
Тут вступает комбинация памяти и послушности промпту. Прокси-модели лучше разделяют голоса. Если в сцене четыре героя, каждый говорит своим тоном, а не одинаковым голосом автора. Для групповых RP это критично, иначе получается спектакль одного актёра в четырёх шапках.
Ещё момент: сложные сцены с ретроспективами, снами, письмами внутри истории. Модель с большим контекстом удерживает рамку и не путает уровни повествования. Модель с четырьмя тысячами токенов уже к середине забывает, что это был сон.
Бот сам лезет в интернет за фактами
Часть моделей умеет искать информацию. Практическая польза больше, чем кажется. В RP это работает так: упоминаешь незнакомое имя или город один раз, и модель подтягивает контекст вместо того, чтобы выдумывать.
Полезно и вне ролевой игры. Исторические сцены, реальные локации, техника, кулинария, профессиональный жаргон. Не нужно пересказывать модели матчасть в скобках, она найдёт сама.
Оговорка: поиск есть не у всех провайдеров и не во всех моделях. Параметр стоит проверять до покупки баланса, а не после.
Настройка: три поля и одно правило про пробелы
Интерфейс пугает только первые пять минут. Открываешь чат с ботом, находишь фиолетовую кнопку Proxy, жмёшь Create New Configuration. Появляется форма, в которой нужно заполнить три поля провайдера: модель, URL, ключ.
Модель вписывается точной строкой из каталога провайдера, без сокращений и «на глазок». URL это адрес эндпоинта оттуда же. Ключ копируется из личного кабинета и вставляется целиком, без слова Bearer и без лишних символов. Пробелы в начале и конце строки ломают конфигурацию чаще остальных причин вместе взятых: поле выглядит заполненным, а запрос не проходит.
Последовательность простая. Сохранить конфигурацию. Полностью обновить страницу, не просто переключить вкладку. Убедиться, что прокси всё ещё выбран в чате, потому что интерфейс иногда откатывается на JLLM. Отправить одно короткое сообщение для проверки.
Если ответ пришёл, можно начинать сцену. Если нет, переходи к следующему разделу - там порядок действий, который экономит нервы.
Если прокси упал: порядок проверки, который экономит вечер
Ошибки выглядят одинаково: пустой ответ, красная плашка, бесконечная загрузка. Люди начинают менять всё сразу, теряют рабочий ключ и злятся. Проверяй по одному пункту и в фиксированном порядке.
Сначала URL. Одна лишняя косая черта в конце или пропущенный сегмент пути, и запрос уходит в никуда. Потом ключ: он не должен содержать префиксов, кавычек и переносов строки при копировании. Затем строка модели - сверь её посимвольно с каталогом провайдера, там реально бывают дефисы и точки, которые легко перепутать.
Четвёртый пункт, баланс. Самая обидная ошибка: всё настроено верно, а токенов на счету нет. Пятый, браузер: кэш, блокировщики, режим инкогнито с отключёнными расширениями. В девяти случаях из десяти проблема сидит в первых трёх пунктах.
Канал с твоей стороны: где рвётся сессия
Про этот слой почти никто не думает, а зря. Прокси в Janitor это про модель, но запросы на генерацию уходят с твоей машины через твоё соединение. Когда сидишь в ролевой игре по три часа, канал становится частью уравнения.
Нестабильное соединение проявляется характерно: ответ обрывается на середине, приходит дважды, приходит пустым. Токены списываются, потому что запрос уже улетел и модель отработала. За вечер набегает неприятная сумма за сообщения, которых ты не увидел.
Вторая проблема, скачки геолокации. Некоторые провайдеры настораживаются, если запросы с одним ключом приходят то из одной сети, то из другой. Сессионные ключи начинают отваливаться, и ты снова правишь конфигурацию вместо того, чтобы играть.
Тут помогает нормальная прокси-инфраструктура со своей стороны, а не со стороны Janitor. Каталог прокси 3seller.com/proxy как раз про это: узлы в разных гео, отдельные пулы под разные задачи, понятная тарификация без сюрпризов. Для работы с API это даёт три вещи. Стабильный канал без разрывов на длинных сессиях. Предсказуемую задержку, а значит ответы приходят быстрее и не висят по полминуты. И одинаковый адрес на всю сессию, чтобы провайдер не считал тебя тремя разными людьми.
Тот же подход работает шире. Свой VPS на таком канале держит корпоративный узел без плясок с файрволом. Публичный Wi-Fi в кафе перестаёт быть лотереей, когда трафик идёт через нормальный узел, а не напрямую. Балансировка между несколькими точками входа спасает, когда один узел просел по скорости.
И да, для парсинга это база. Если собираешь данные для проекта, где нужна сотня источников, пулы с разными адресами решают вопрос лимитов на порядок дешевле, чем городить свою ферму серверов.
Деньги: за что реально платишь
Прокси не бесплатны. Провайдеры считают токены, и счёт растёт вместе с длиной контекста: чем больше модель тащит за собой в каждом запросе, тем дороже сообщение. Бесплатные модели с щедрым контекстом обычно стоят в очереди и отвечают в разы медленнее. Для ролевой игры это ломает ритм сильнее, чем стоимость.
Практичные способы не разоряться. Держи карточку компактной, без трёх экранов биографии. Не пихай в системный промпт всю предысторию мира, часть уйдёт в контекст естественным образом. Начинай с моделей средней ценовой категории и поднимайся выше, только когда упёрся в потолок. И следи за балансом раз в неделю, а не в момент, когда посреди кульминации всё встало.
Кому прокси не нужен
Честно, не всем. Если заходишь в Janitor раз в месяц похихикать над мемным ботом на двадцать сообщений, JLLM хватит с головой. Платить за токены смысла ноль.
Если пишешь только одну короткую сцену за раз и не строишь долгих арок, разница тоже будет неочевидной. Прокси раскрывается на длине и на сложности.
И третий случай: когда нравится именно мягкий, покладистый стиль JLLM. Внешние модели бывают резче и своенравнее, и это не всем заходит. Тут вопрос вкуса, а не техники.
Что сделать прямо сегодня
Собери один рабочий конфиг и проверь его на коротком диалоге. Пятнадцать-двадцать сообщений хватит, чтобы почувствовать разницу в памяти и характере. Возьми модель с контекстом от 32 тысяч, вбей ключ без пробелов, выбери канал с внятной задержкой и стабильным адресом на всю сессию. Дальше играй и смотри, на каком сообщении бот впервые тебя забудет. Скорее всего, уже не забудет.
Один вечер на настройку заменяет месяцы разочарования от «почему он опять не помнит». Самая выгодная инвестиция времени во всём хобби.