Модель не пишет текст. Она угадывает следующее слово. Потом ещё одно. И ещё. Ответ в чате собран из тысяч микрорешений, принятых слева направо, без плана на весь абзац.
Звучит слишком просто. Но отсюда растут почти все странности LLM: уверенные галлюцинации, потеря половины инструкций в длинном промпте, разный ответ на один и тот же вопрос в разные дни.
Один токен за цикл, как если бы человек печатал по слову
Запрос: «посоветуй, куда поехать в отпуск в марте». Готового ответа в базе нет. Первый цикл - модель читает запрос и выдаёт «В». Второй - на входе запрос плюс «В», на выходе «марте». Третий - «хорошо». Четвёртый - «подойдёт». Дальше «Шри-Ланка», и так до точки.
Каждый шаг начинается с перечитывания всего предыдущего: исходного вопроса и уже написанного текста. Черновика нет. Плана на абзац нет. Есть вероятностное «что логичнее поставить следующим».
Инженерно модель - математическая функция. На вход текст, на выход текст. Между вызовами ничего не сохраняется. Программисты называют такое чистой функцией: без состояния, без побочных эффектов. Кто к ней обращается и что вы обсуждали пять минут назад, она не знает. Каждый вызов API для неё первый и единственный.
Токенизатор режет текст на куски, которые вам покажутся дикими
Ни с буквами, ни со словами модель не работает. Её единица - токен: «шля», «па», «рование», знак препинания, кусок пробела. Токенизатор разбивает входной текст на такие фрагменты, и дальше вся арифметика идёт по ним.
Отсюда две мелочи, которые многие ловят интуитивно, но не понимают причину. Первая: модель плохо считает буквы в слове. Для неё «шляпа» - не пять символов, а два-три токена, поэтому вопрос «сколько букв в слове» она стабильно проваливает. Вторая: редкие слова и узкие термины режутся на большее число кусков, и внимание к ним распределяется хуже, чем к частым.
Внимание решает, на что смотреть, и это не то же самое, что понимание
На каждом шаге механизм внимания определяет, какие куски контекста важны для предсказания следующего токена. Он связывает слова из начала запроса с тем, что генерируется прямо сейчас, через сотни и тысячи позиций.
Слои работают последовательно: нижние вылавливают грамматику и локальные связи, верхние - стиль, логику, факты. Чем дальше слой, тем абстрактнее закономерности, которые он держит.
Хорошая метафора попадалась мне в обсуждениях на Хабре. Представьте студию, где сидят несколько человек и LLM. Произносится слово «шляпа». У одного всплывает дама в старинной шляпке, у другого - соломенная шляпа на лошади, у третьего - кривой код, попавший в прод. А в «голове» модели светится последовательность «Ш Л Я П А» и тысячи связей разной толщины: с лошадью, с полями, с глаголом «наденьте». Никакого образа нет. Есть взвешенные ассоциации.
Поэтому LLM не понимает текст в человеческом смысле. Её знания - статистические шаблоны из обучающих данных. Факты она не проверяет, она предсказывает слова.
Обучение - это триллионы предсказаний следующего токена
На претрейне модель видит огромные объёмы текста и на каждом фрагменте решает одну задачу: предсказать следующий токен. Миллиарды раз ошиблась, поправила веса, попробовала снова. Так в параметрах оседают закономерности языка, от «после предлога обычно идёт существительное» до «в таком контексте принято ссылаться на такой-то тип источника».
Дальше - дообучение на инструкциях и человеческих предпочтениях: модели показывают, какой ответ человек считает лучше. Формат, тон, отказ от опасных запросов - верхний слой. База при этом осталась той же. Предсказание следующего токена никуда не делось, его просто нарядили в вежливость и структуру.
Почему модель врёт так уверенно
Галлюцинация - не сбой, а прямое следствие архитектуры. Модель обучена выдавать правдоподобное продолжение. Если ответа в обучающих данных не было, она не остановится и не скажет «не знаю». Она сгенерирует наиболее вероятную форму ответа: с правильным тоном, красивой структурой и несуществующей ссылкой на несуществующее исследование.
Причин, по которым ответ уезжает от реальности, три. Ошибки и противоречия в обучающих данных - модель запомнила их как факт. Нехватка контекста в самом запросе. Отсутствие проверки по актуальным источникам. Последнее частично лечится RAG, подмешиванием свежих документов в контекст. Но по умолчанию этого нет и не будет.
Связность появляется сама, хотя никто её не планирует
Кажется, что для ровного абзаца нужен план. Модель обходится без него. Каждый следующий токен предсказывается с учётом уже написанного, и это создаёт петлю обратной связи: сказанное начинает влиять на то, что будет сказано дальше.
Эффект легко проверить на любом чате. Начните ответ неудачно - и модель будет выкручиваться из этого начала весь текст. Дайте ей первую фразу в нужном стиле и тоне - продолжит в нём же. Прайминг работает на уровне токенов, а не на уровне «поняла задачу».
Контекстное окно не спасает от потери инструкций
Популярное заблуждение: закинуть в промпт всю документацию, и модель разберётся. Не разберётся. Даже при огромном контекстном окне она теряет часть требований задолго до его исчерпания.
В разработке это выглядит буднично. Техническая спецификация на 40 взаимосвязанных требований к одному компоненту - и модель уверенно выполняет 25, остальные молча пропускает. Не потому что «не влезло». Внимание распределилось неравномерно, и часть условий утонула в шуме. На Reddit инженеры описывают ровно ту же картину: чем длиннее ТЗ, тем больше пунктов исчезает без ошибки и без предупреждения.
Вывод простой: важное - в начало и в конец промпта. Список требований дробить на короткие итерации. Результат проверять по чек-листу, а не по ощущению «вроде всё сделала».
Почему к концу длинного ответа текст плывёт
Длинная генерация - длинная цепочка решений, и ошибки в ней накапливаются. Чем дальше, тем сильнее модель опирается на собственный сгенерированный хвост, а не на исходный запрос. Требования из начала промпта размываются.
На практике первые три-четыре абзаца бодрые и по делу. К десятому появляются общие слова, к пятнадцатому - вода и повторы. Это не лень и не «кончился лимит». Просто распределение внимания сместилось на свой же текст.
Лечится механикой: разбить на этапы, после каждого этапа фиксировать результат, длинные тексты собирать по разделам с явным планом внутри промпта.
Температура и почему один промпт даёт разные ответы
На выходе модели не одно слово, а распределение вероятностей по всему словарю токенов. Дальше работает сэмплирование. Температура регулирует, насколько охотно модель берёт маловероятные варианты: низкая - почти всегда самый вероятный токен, предсказуемо и сухо; высокая - риск и разнообразие, вплоть до бреда.
При температуре 0 ответ почти детерминирован, но не гарантированно: сказываются батчинг, версии модели, железо. Так что «вчера отвечала иначе» - не обязательно вы что-то сломали в промпте.
Модель не думает перед ответом, если вы не попросили
Классическая генерация идёт сразу, токен за токеном. Всё, что похоже на рассуждение, - тоже текст, сгенерированный по тем же правилам. Когда модель просят «думать пошагово», она выдаёт больше промежуточных токенов. Эти токены становятся частью контекста для финального ответа. Отсюда прирост качества на задачах, где нужно удержать несколько условий одновременно.
Скрытого внутреннего монолога там нет. Есть более длинный контекст, на который можно опереться при предсказании.
Что из этой механики следует для вашей работы
Промпт модель читает не как человек - она распределяет внимание. Значит, структура запроса важнее его длины. Роль, задача, ограничения, формат вывода - короткими блоками, без лирики и вежливых вступлений.
Прошлый разговор между вызовами не сохраняется. Контекст надо передавать явно, а не надеяться, что «она должна была запомнить».
Предсказывается правдоподобное, а не истинное. Факты, цифры, ссылки и юридические формулировки проверяются руками. Всегда. Без исключений для «умной модели».
Переписать абзац в голове модель не умеет. Длинные тексты лучше собирать по частям с явным планом, а не одним запросом на 5000 слов.
Где это потрогать руками: доступ к флагманским моделям из России
Всё описанное перестаёт быть теорией, когда гоняешь разные модели на одной задаче. Одна держит структуру, другая лучше пишет живым языком, третья точнее в коде. Сравнивать вслепую бессмысленно - нужен доступ.
ИИ-роутер 3GPT от 3SELLER даёт прямой доступ из России к последним флагманским моделям: Chat GPT 6 Astra, the model 5, 5.1 и 5.5, Chat GPT 5.5, Chat GPT 6.1 Sol, Nano Banana для изображений, генерация видео и ещё десяток моделей под разные задачи. Стартовый доступ - 149₽, без иностранных карт.
Пополнение баланса - российской картой, через СБП или криптой. Мелочь, но именно на этом этапе обычно отваливаются все «зарубежные» сервисы.

Практика ровно та, о которой шла речь выше: даёте задачу, меняете модель, смотрите, чей результат ближе к нужному. Для текстов, для сайтов, для продающих описаний разница между движками видна уже на второй итерации.
Готовые ИИ-агенты: когда не хочется собирать промпт с нуля
Отдельная штука, которая экономит время. Вместо ручной сборки роли, ограничений и формата можно взять готового ИИ-агента под свою задачу и сразу начать с ним общение. Модель агента переключается прямо в чате: тот же диалог, другой движок под капотом.

Удобно, когда задача повторяется: контент-план, разбор отзывов, черновики писем, разбор таблиц. Один раз настроили логику - дальше только подставляете вводные.
Для картинок есть отдельный вход - генерация реалистичных изображений через лучшие ИИ-инструменты. Модели выдают фото, которые не стыдно поставить на лендинг, а не только в тестовый пост.


Весь доступ к флагманским моделям из России - на официальном сайте: 3GPT.
Проверьте одну вещь на своём промпте
Возьмите задачу, которую модель делает «не очень», и перепишите запрос так, будто объясняете её человеку, который видит текст первый раз и не помнит ничего из прошлого разговора. Роль, контекст, что считать хорошим результатом, формат. Без лирики и вступлений.
А потом прогоните тот же запрос через две-три разные модели. Не потому что одна умнее - они по-разному распределяют внимание на одних и тех же токенах. Иногда ответ лежит не в промпте, а в выборе движка.