Таким образом, и наша «якобы-модель Вселенной» может ничего общего со Вселенной не иметь.
Чья наша? Я вот не занимаюсь моделированием вселенной. Те кто занимаются имеют разные теории, получают разные подтверждения\опровержения, для чего например запускали Хаббл. Человечество в процессе исследования, не просто моделирует случайную штуку, а добавляет новые знания и заново моделирует. В случае с ИИ обычно требуется новое обучение, но местами есть способы "дообучения".