> Т.ч. наиболее идеальным исполнением будет создание виртуального мира, где каждый будет сам-себе-богом вечно. В реальности это будет миллионы и миллиарды "капсул", "шлемов" или там "нейроинтерфейсов" с соответствующей инфраструктурой. Плюс всякая фигня вроде внутривенной подпитки. И довольно быстрая деградация человечества. Это точно то добро, о котором ты говоришь?

Это точно не то добро, о котором я говорю. Хотя бы потому что значительная часть людей (включая меня, и, видимо, тебя) от такой "привилегии" откажутся, а значит у них/нас есть предпочтения, которые перевешивают "хочу счастья".
Я встречал людей (имён не называю), которые как раз сторонники максимизации счастья, с насильственным запихиванием в радость-капсулы и встраиванием электродов в мозг, но это враждебная идеология.

> Если интересует выбор еды, то тут ещё проще - пробуют на вкус. Часть выбора составят вкусовые привычки, часть - что-нибудь, заложенное эпигенетикой, часть генерируется нуждами организма. Критерии непростые, но чёткие.

Они чёткие, но мы их для себя не знаем. Не потому что их в принципе невозможно узнать, а просто пока что не знаем. Вместо того, чтобы взять безошибочный алгоритм, который определяет, что лично для меня в данный момент было бы самым вкусным, прогнать его по мировой базе рецептов (или даже по пространству рецептов вообще) и сготовить результат, мне приходится пробовать (а всё не перепробуешь) или соображать на уровне "нет, свеклу я не очень люблю, так что это готовить не буду", что приводит к неточностям, зачастую сильным.

> Да, на уровень выше, с моральными и так далее проблемами становится сложнее, но немного редукционизма и самоанализа поможет понять базис "морального выбора".

Какую площадь заповедника я согласен на превращение в пустыню за жизнь одного ребёнка? У меня на этот вопрос точного ответа нет, и чтобы его дать, придётся именно что заниматься самоанализом в течение весьма немалого времени. А возможных вопросов такого (или сходного) плана может быть больше, чем я успею проанализировать за жизнь. Есть приблизительные критерии, на которые ориентируются, когда, скажем, проектируют системы безопасности: сколько денег можно потратить, чтобы снизить шанс смерти/травмы на столько-то процентов, из чего подсчитывают, сколько денег стоит одна человеческая жизнь. Или что предпочтительнее - прожить два года тяжело болея (в зависимости от типа болезни), или один год здоровым. Есть такие таблички. Но в целом это тоже эвристики.

Поэтому я и утверждаю, что получить точное численное значение того, насколько один результат лучше другого сейчас сложно, а значит и максимизировать результат непросто. Что, однако, не означает "невозможно", спасибо ощущениям и эвристикам.