Что такое языковая модель и почему она ошибается

Зачем это знать

Большинство неудачных промптов рождаются из одной ошибки: человек считает, что разговаривает с поисковиком или с базой знаний. На самом деле вы работаете с предсказателем текста, и как только это становится понятно, качество ответов растёт в разы.

Как модель устроена внутри

Языковая модель обучена на огромном объёме текстов и научилась одному: по началу текста предсказывать, какой фрагмент вероятнее всего идёт дальше. Слово за словом, точнее — токен за токеном. Токен — это кусочек слова, примерно 3–4 символа в русском языке.

Из этого следуют три важных вывода:

1. Модель не «знает» фактов — она знает, какие формулировки обычно встречаются рядом. Поэтому она может уверенно назвать несуществующую книгу или перепутать даты.
2. Модель видит только то, что в контексте. Всё, чего нет в вашем сообщении и в истории диалога, для неё не существует. Она не откроет ваш файл, если вы его не приложили, и не вспомнит вчерашний разговор.
3. Форма ответа зависит от формы запроса. Расплывчатый вопрос даёт расплывчатый ответ. Структурированный — структурированный.

Почему она «галлюцинирует»

Когда модели не хватает информации, она не останавливается — предсказание продолжается. Ей проще дописать правдоподобный текст, чем сказать «не знаю». Это не баг, а свойство метода. Отсюда правило:

Всё, что важно, модели нужно дать, а не спрашивать у неё. Факты, цифры, документы, требования — всё в контекст.

Что это меняет в работе

Первый эксперимент

Откройте любую модель и отправьте два запроса подряд:

1) Напиши пост про наш продукт.
2) Ты — контент-маркетолог B2B-сервиса для клиник. Напиши пост для LinkedIn
   на 120–150 слов о том, как сервис сокращает время на отчётность с 6 часов
   до 40 минут. Тон: спокойный, без восклицаний. В конце — один вопрос читателю.

Сравните результаты. Второй запрос не «умнее» — он просто даёт модели то, что ей нужно: роль, факты, формат, ограничения. На этом принципе построен весь курс.