Ногa
Это же все задачки с известными ответами, да? Я имею в виду, в бенчмарках. Это совсем другое дело по сравнению с тем, когда задачка задаётся нечётко, или когда никто ничего не понимает, и задачу люди ставят сами себе.

И я ещё не понял момент с галлюцинациями. Если ответ известен, то более-менее понятно. Если не известен, то как вообще проверять, что оно нам ничего не наглючило?

Математика хороша тем что всегда есть ответ, если ты можешь задать вопрос! Т.е. тебе самому не нужно знать ответ, просто сформулировать это. Ну а так то да, long term planing это все ещё сложно. На ближайшие время скорее всего ИИ будет предлагать 1000 идей, человек будет выбирать что ИИ будет фокусить. Что-то в этом роде


Proof checker, если написать доказательство в особом языке то можно проверить правильный это ответ или нет.

А вот на этом месте я бы напомнил про ту самую теорему Геделя о неполноте.

Не имеет значения на практике