Контекст, токены и лимиты: что модель «видит»

Контекстное окно

Всё, что модель может учитывать при ответе, называется контекстом: ваш запрос, приложенные документы, история диалога и ответы самой модели. У контекста есть предел — контекстное окно. У современных моделей это десятки и сотни тысяч токенов, но два эффекта работают всегда:

• Чем дальше инструкция от конца диалога, тем слабее она влияет. Если вы в начале длинного чата попросили «отвечай кратко», к двадцатому сообщению модель об этом «забывает».
• Лишний контекст ухудшает ответ. Модель не выделяет главное сама — она взвешивает всё. Три страницы мусора рядом с одним важным абзацем размывают результат.

Сколько это в реальности

Ориентир для русского текста:

Считать точно не нужно, важно чувствовать порядок величин: если вы приложили 40 страниц регламента и задали вопрос по одному пункту, модель ответит хуже, чем если вы приложите только нужный раздел.

Три правила работы с контекстом

1. Важное — в конец. Документ сначала, инструкция после него. Модель лучше следует последней инструкции.
2. Один чат — одна задача. Новая задача — новый чат. Так вы не тащите за собой историю, которая мешает.
3. Резюмируйте длинное. Если диалог разросся, попросите модель кратко зафиксировать договорённости и начните новый чат с этого резюме.

Практический приём: «шапка контекста»

Заведите текстовый файл с описанием, которое вы будете вставлять в начало каждой рабочей задачи:

О компании: клиника лазерной косметологии, Москва, средний чек 9 000 ₽.
Аудитория: женщины 28–45, ценят безопасность и прозрачность цен.
Тон: спокойный, экспертный, без «скидок только сегодня».
Запрещено: обещать медицинский результат, использовать слово «уникальный».

Четыре строки экономят 80% правок. В модуле «Практика для бизнеса» вы соберёте такую шапку для реального проекта.