Выключил Wi-Fi, достал сим-карту, перевёл телефон в авиарежим. А чат-бот внутри всё равно отвечает. Нейросеть физически живёт в процессоре и памяти смартфона, интернет ей не нужен. Рассказываю, как установить такой же.
Коротко: как это работает
Локальная нейросеть - это файл с весами модели, который скачивается прямо в память устройства. Поверх ставится приложение-оболочка, а модель запускается на железе телефона. Никаких серверов, никаких подписок, никакого интернета после загрузки.
Ограничение одно - размер. Модель загружается в оперативную память, поэтому на телефоне умещаются только компактные варианты на 3-4 миллиарда параметров. Этого хватает для диалогов, генерации текста и простых задач. Всё, что мощнее, требует серверов.
Шаг 1. Ставим PocketPal AI
Заходишь в App Store или Google Play и ищешь PocketPal AI. Приложение бесплатное, есть и на iPhone, и на Android. По сути это пустая оболочка для запуска открытых нейросетей.
После установки открываешь меню, находишь раздел моделей. Приложение само предложит список доступных сетей. Можно выбрать готовую из каталога или добавить свою через Hugging Face - там всё бесплатно.
Шаг 2. Выбираем правильную модель
Для смартфона оптимальны модели с 3-4 миллиардами параметров. Они весят пару гигабайт и летают даже на среднем железе. Я бы советовал начать с таких:
- Gemma 3 4B от Google - быстро работает и прощает слабые процессоры
- Llama 3.2 3B от Meta - хорошо рассуждает и следует инструкциям
- Qwen 2.5 3B от Alibaba - прилично пишет код и нормально отвечает по-русски
В приложении жмёшь Download. Для загрузки нужен Wi-Fi. Как только файл скачался - всё, интернет можно выключать.
На Reddit энтузиасты уже вовсю тестируют связку PocketPal AI с Gemma 3 4B и отмечают, что на среднем железе всё летает. Например, на Redmi 9T ответ приходит за пару секунд.
Шаг 3. Запускаем и пользуемся
Возвращаешься на вкладку чата, жмёшь Select Model и выбираешь загруженную сеть. Через несколько секунд она инициализируется, и можно вводить запросы. Всё работает, как обычный мессенджер.
Если загрузить несколько моделей, между ними можно переключаться в любой момент. Предыдущая автоматически выгружается из памяти, так что телефон не захлебнётся.
В настройках чата доступны режимы вывода: можно крутить количество токенов, температуру генерации и другие параметры. Для новичка это необязательно, но когда разберёшься - пригодится.
Альтернатива для Android: AI Edge Gallery от Google
Google выпустила экспериментальное приложение AI Edge Gallery. Оно устанавливается через APK, нужен Android 8+ и разрешение на установку из неизвестных источников. Смысл тот же: подключаешь аккаунт Hugging Face, выбираешь модель вроде Gemma-3n-E4B-int4, и она загружается в память устройства.
Фишка этого приложения - распознавание текста с камеры. Навёл на список покупок, и ИИ сам превратил его в заметку. Для экспериментов самое то, но в качестве рабочего инструмента PocketPal удобнее.
Когда локальной модели мало
Локальные нейросети на телефоне - это скорее игрушка и способ понять механику. Они не сравнится с тем, что умеют современные флагманские модели. Ни один смартфон не потянет Chat GPT 6 или Claude Opus 5.5 - там нужны огромные серверы.
Для реальной работы - продающие тексты, сайты, реалистичные изображения, видеоролики, генерация голоса - я использую 3GPT от 3SELLER. Это ИИ-роутер, который даёт доступ ко всем флагманским нейросетям из России. Без иностранных карт, без VPN, без танцев с бубном.
Платишь российской картой, через СБП или крипту - и получаешь доступ к Chat GPT 6 Astra, Claude Fable 5, Nano Banana для картинок и куче других моделей. Пополнил баланс и работаешь.
Что ещё умеет 3GPT
Кроме прямого доступа к моделям, у 3GPT есть готовая библиотека ИИ-агентов. Выбираешь агента под задачу - продажи, поддержка, контент - и начинаешь с ним общение. Модель внутри агента можно менять прямо в чате. Удобно, когда не хочется каждый раз настраивать промпты и вспоминать, какая модель под что заточена.
Получить доступ ко всем флагманским моделям нейросетей из России можно на официальном сайте 3GPT - https://3seller.com/3gpt
Библиотека готовых агентов тут - https://3seller.com/ai/agents
Пара слов о приватности
Локальная нейросеть в телефоне означает, что запросы никуда не уходят. Все расчёты происходят на устройстве. Для чувствительных данных это идеальный вариант: договоры, личные заметки, рабочие файлы. Даже в авиарежиме всё работает.
Если приватность критична, но нужна мощность - локальные модели не вариант. Придётся искать компромиссы. Но для повседневных задач 3GPT с серверными моделями практичнее: скорость ответа выше, модели актуальнее, возможности шире.
Что в итоге
Скачайте PocketPal AI прямо сейчас, выберите Gemma 3 4B и через 10 минут у вас будет офлайн-ИИ. Для задач посерьёзнее, где нужны Chat GPT 6, Claude Fable 5 или генерация изображений и видео, заходи на https://3seller.com/3gpt. Там же найдёшь готовых ИИ-агентов для бизнеса на https://3seller.com/ai/agents. Пополнение российской картой или через СБП, без лишней головной боли.