Как там один аналитик пишет?
Сейчас контекстное окно 32-64 килотокена, точность 60-90 процентов от контекста (чем более популярная в Сети тема, тем выше), при хоть сколько-нибудь длительном диалоге стремительно падает.
Нужно окно от 64 мегатокенов и точность не ниже 99,9 на сотню реплик чисто для базовой работы.