Asteroid

Ты, кажется, не понимаешь суть обсуждаемой проблемы.

Речь не о том, будто бы обязательно "такая зверушка существует"; речь о том, что тексты, генерируемые языковыми моделями — генерируются из рекомбинации того, на чём модель обучили. Нет процесса "придумывания" в человеческом понимании (как "рефлексии над абстрактными понятиями"), есть конкретно генерация текста по некоторому очень объёмному набору правил.

Например, приведённый "гибрид ежа и ужа" — это перекомпиляция существующих фрагментов из описаний других животных, причём в значительной степени стандартизированных (см. произвольный фрагмент для сравнения).

И да, предвосхищая типичные (и уже виденные в тоннах других обсуждений) аргументы: более 99% т.н. "средненьких творческих идей", даже человеческих, состоят именно в такой вот перекомпиляции по шаблонам. Для актуальных наглядных примеров см. "методичка Netflix" и всё с ней связанное.