Jinger Beer
> Нейросеть просто находится на уровне трёхлетнего ребёнка

Помнится, много лет назад была громкая новость, дескать, инновационный чатбот (тогда ещё без нейросетей) наконец сумел пройти тест Тьюринга! Вот только, как водится, был нюанс: тестерам сказали "представьте, что вы общаетесь с десятилетним умственно отсталым мальчиком-иностранцем, который плохо понимает ваш язык".

> по пониманию

У ллм нет "понимания", у неё есть преобразование входного текста в выходной текст.

Безотносительно вранья и троллинга, ллм не умеет привлекать мета-информацию для анализа промпта и отвечать исходя из этой мета-информации — она генерирует ответ конкретно на то, что в промпте прописано.

Т.е. если в промпте нет упоминания о реальности/нереальности "войны ассирийцев против рептилоидов", нейросетка будет генерировать ответы в принципе без учёта возможности такой реальности/нереальности. А вот человек — даже не слышавший про Ассирию и/или рептилоидов — как минимум задумается и отреагирует.