Ну и, собственно, в чём прикол языковой нейронки. Она манипулирует словами, сочетания слов и отдельные слов - это модели. Т.е. она манипулирует моделями. Но при этом она манипулирует не моделями, а словами! Манипуляция моделями - это побочный эффект того, что слова для нас - это модели, символы. Т.е. нейронка не умеет манипулировать моделями, которые стоят за словами или манипулировать словами как моделями. Она манипулирует просто словами. Неким способом преобразует массив слов в массив слов. Она не [понимает], она именно что сопоставляет массивам слов массивы слов, для неё нет "реальности", "территории", "интерпретации". Но даже этого, на самом деле, достаточно для, например, "осмысленного" перевода фрагмента текста. Потому что нейронка научилась тому, что некоторые группы слов "примерно эквивалентны", т.е. их можно менять друг на друга. У неё нет понимания, "почему", потому что, ну, она не умеет понимать. По построению. Но вот "копировать понимание" она может, а в массивах данных, на которых она училась, есть определённые закономерности, и эти закономерности она может оттуда извлечь, например, эквивалентности групп слов. Или то, что за словом X чаще всего или почти всегда следует слово Y. Или что на группу слов 1 следует "реакция" группой слов 2. Это не даст нейронке разум, но это очень мощный инструмент, который, последовательно просеяв сквозь сито террабайты текста, даёт протез сразу множества человеческих языковых реакций. Это круто. Но к разуму имеет ну очень опосредствованное отношение.