Я не думаю что к концу 2024 они смогут нарисовать "семь перевернутых одноколесных тачек лежат на траве, на двух из них наклейки с числом 64930". Но это не полностью исключено

Ichor
В обучающем датасете наверняка было что-то типа "... на Луне". А вот когда попытались составить промпт для Карлсона, результат получался очень смешной. Мы наверное по-разному понимаем креативность. Для меня способность посчитать до пяти или до сотни это только начало, а самые вершины - обыграть метафору, придумать оригинальную шутку или новый стиль.

Это зависит от принципа обучения, обучающего датасета и архитектуры.

Чтобы обучать просто заканчивать фразу, у нас уже накоплен всем интернетом и всей письменной культурой гигантский датасет. А для другой задачи его придется собирать с нуля. Главным образом, все упирается в это и в оплату вычислительного времени.