Каков самый простой способ «предсказать следующее слово»?
Взять контекст и посмотреть что обычно используется в таких случаях.
Буквально базовое 1-2-3 -> 4, только объем контекста входного и база опыта меняется.
Моделировать человека не нужно. Совсем.