У GPT-4, в зависимости от версии, контекст может быть:

• 8192 токенов (≈ 5000 слов)

или

• 32 000 токенов (в премиум-режиме, ≈ 25 000 слов).

Когда этот лимит превышен, ChatGPT начинает «забывать» начало диалога. То есть он не помнит вечность. Он помнит последние 10–50 экранов текста.