Не совсем так. Я ещё не курил трансформеры, там математика нужна такого уровня, от которого у меня мозг в четырёхмерный гиперкуб съежится, но, емнип, нейронка так пишет не сколько потому, что так писали люди до неё, сколько потому, что это статистически и математически оптимальная форма подачи текста. Результат работы программиста по оптимизации выдачи вариантов из гигантской, YOBA-размеров, вероятностной матрицы. Если бы программисты просто выкатили "голую" нейросеть с загруженными в неё данными по информации - читать это было бы просто, нахуй, невозможно. По сути получился бы Т9 с ещё более хуёвым пониманием контекста.

Но я на экспертность не претендую, мне пока рано. Я хочу сначала прорешать тестовые ЕГЭ по математике, лол.