Представьте, что контекстное окно модели (вся информация, которую вы ей дали) — это огромная темная комната, заставленная мебелью (фактами, инструкциями, условиями). «Внимание» модели — это луч карманного фонарика.
— Когда задача узкая и конкретная («Назови столицу Франции»), луч фонарика сфокусирован в узкую, яркую точку. Модель видит ответ кристально ясно. Вероятность ошибки стремится к нулю.
— Когда вы загружаете в модель «Один Большой Промпт» на 10 страниц с десятком разнородных задач, вы заставляете этот фонарик осветить сразу весь футбольный стадион.
— Что происходит с лучом? Он рассеивается. Свет становится тусклым. Модель вроде бы «видит» всё, но не видит ничего конкретно. Детали в тенях теряются. Инструкция «не использовать пассивный залог», написанная в середине промпта, просто тонет в информационном шуме.
Агенты среди нас. Как нанять нейросеть на работу и не уволиться самому
·
Евгений Волков
