Кстати, "смысл жизни", "жизненные цели", "жизненные ориентиры" и т.п. не обязаны совпадать с добром. Вообще нет. Человек может искренне считать, что то, что он делает, не является добром. Может быть, является даже злом. Человек не обязан считать себя добрым. Это литературные герои обычно что бы ни творили, уверены, что это добро. А в реале понятие о добре и зле и понятие о собственной выгоде и желаниях могут находится очень далеко. Знает, что то, что он делает - это "зло", "не по-православному", "больно ближнему своему" - но ему нравится или он вынужден. В этом нет ничего сверхъестественного. Ещё чаще, выгода просто не совпадает ни с добром, ни со злом. Хочет устроиться на престижную работу. Где тут добро? Где тут зло? Да вообще ничего тут нет морального. А я спрашиваю таки не о жизненных целях, а о добре и зле. Специально акцентирую, а то мало ли.

> Т.ч. наиболее идеальным исполнением будет создание виртуального мира, где каждый будет сам-себе-богом вечно. В реальности это будет миллионы и миллиарды "капсул", "шлемов" или там "нейроинтерфейсов" с соответствующей инфраструктурой. Плюс всякая фигня вроде внутривенной подпитки. И довольно быстрая деградация человечества. Это точно то добро, о котором ты говоришь?

Это точно не то добро, о котором я говорю. Хотя бы потому что значительная часть людей (включая меня, и, видимо, тебя) от такой "привилегии" откажутся, а значит у них/нас есть предпочтения, которые перевешивают "хочу счастья".
Я встречал людей (имён не называю), которые как раз сторонники максимизации счастья, с насильственным запихиванием в радость-капсулы и встраиванием электродов в мозг, но это враждебная идеология.

> Если интересует выбор еды, то тут ещё проще - пробуют на вкус. Часть выбора составят вкусовые привычки, часть - что-нибудь, заложенное эпигенетикой, часть генерируется нуждами организма. Критерии непростые, но чёткие.

Они чёткие, но мы их для себя не знаем. Не потому что их в принципе невозможно узнать, а просто пока что не знаем. Вместо того, чтобы взять безошибочный алгоритм, который определяет, что лично для меня в данный момент было бы самым вкусным, прогнать его по мировой базе рецептов (или даже по пространству рецептов вообще) и сготовить результат, мне приходится пробовать (а всё не перепробуешь) или соображать на уровне "нет, свеклу я не очень люблю, так что это готовить не буду", что приводит к неточностям, зачастую сильным.

> Да, на уровень выше, с моральными и так далее проблемами становится сложнее, но немного редукционизма и самоанализа поможет понять базис "морального выбора".

Какую площадь заповедника я согласен на превращение в пустыню за жизнь одного ребёнка? У меня на этот вопрос точного ответа нет, и чтобы его дать, придётся именно что заниматься самоанализом в течение весьма немалого времени. А возможных вопросов такого (или сходного) плана может быть больше, чем я успею проанализировать за жизнь. Есть приблизительные критерии, на которые ориентируются, когда, скажем, проектируют системы безопасности: сколько денег можно потратить, чтобы снизить шанс смерти/травмы на столько-то процентов, из чего подсчитывают, сколько денег стоит одна человеческая жизнь. Или что предпочтительнее - прожить два года тяжело болея (в зависимости от типа болезни), или один год здоровым. Есть такие таблички. Но в целом это тоже эвристики.

Поэтому я и утверждаю, что получить точное численное значение того, насколько один результат лучше другого сейчас сложно, а значит и максимизировать результат непросто. Что, однако, не означает "невозможно", спасибо ощущениям и эвристикам.

Так, нет, прочту уже завтра, а то опять всё в стены текста переросло, а сон не терпит.

1. У человека есть мозг, мозг состоит из хорошо обученных и сконструированных нейросетей. Я могу использовать одну из таких предварительно обученных нейросетей, чтобы сделать выбор в конкретной ситуации. При этом я не буду знать о логическом путе, которым можно описать принятие этого решения. Люди делают так почти всегда.
2. Каждая конкретная задача с моральным выбором при практическом рассмотрении превращается в обычную задачу на вычисление пользы/вреда. Например, у меня есть выбор: Уничтожить вон тот прекрасный заповедник или смерть вон того ребенка. В зависимости от КОНКРЕТНЫХ условий задачи мне предстоит принять решение. Мораль, добро и зло идут лесом. А можно не использовать логику, а применить обученные нейросети, обученные на опыте предыдущих поколений, то есть сделать моральный выбор. И неизвестно какое решение в конкретном случае будет лучше. Логика тоже бывает ущербной.
3. Нельзя говорить о человечестве как о едином целом. Оно хаотично и разрозненно. Появилась письменность, но все ли умеют читать/писать?

Вобщем-то это мои замечания после прочтения комментариев выше.

Вамиар,
1) "Хотя бы потому что значительная часть людей (включая меня, и, видимо, тебя) от такой "привилегии" откажутся, а значит у них/нас есть предпочтения, которые перевешивают "хочу счастья"" - значительная - это не большинство. В этом-то и дело.
2) "насильственным запихиванием" - зачем насильственным? Сами побегут, как распробуют! Толпами!
3) "но мы их для себя не знаем" - не говори за всех, ну. "Мы", видите ли. Во-первых, при желании узнать и изучить - можно, во-вторых, это касается высоких уровней выбора почти никак, т.ч. на самом деле к теме не относится. Но как же круто использовать самый удобный пример, чтобы отвести глаза от остальных, совершенно не удобных! Демагогия на марше. Не то чтобы я обвинял или типа того, но, согласись, неудобно получается, неприятно.
4) "Какую площадь заповедника я согласен на превращение в пустыню за жизнь одного ребёнка" - садись и думай. Мне, например, похуй и на площадь абстрактного заповедника и на жизнь абстрактного ребёнка. В целом, на этом уровне обобщения я бы сказал, что отдаём некритичную для выживания уникальных или находящихся на грани исчезновения видов площадь за жизнь полноценного ребёнка. Если площадь критично - смотрим на экономические последствия исчезновения этих детей и прикидываем уровень возможных проблем для человечества. Отсутствуют? Нахрен детей. Есть, но малые? Нахрен детей. Средние? Нахрен заповедник. И так далее. В среднем, любое проявление природы менее ценно, нежели человеческий потенциал. Для точного сравнения нет конкретики. Короче, была бы нужда, построил бы ты себе график того, что за что хочешь отдать. Нужды нет. И конкретики тоже. Хватит прикрываться абстракциями.

Тротзтдем,
1а) "Я могу использовать одну из таких предварительно обученных нейросетей, чтобы сделать выбор в конкретной ситуации. При этом я не буду знать о логическом путе, которым можно описать принятие этого решения." - человеческий мозг может строить модели себя и работать с ними, более того, ничто не мешает строить модели части себя с огромной точностью. Если ты так не делаешь, значит, твой ответ на вопрос поста - не знаю. Молчи в сторонке, чо.
1б) "Люди делают так почти всегда" - постфактум или изначально вполне можно познать критерии выбора и всё такое. Было бы желания. Желания познавать себя хотя бы на уровне базовых ценностей нет только идиотов. Мне не интересны идиоты. Тебе интересны?
2) "Каждая конкретная задача с моральным выбором при практическом рассматрении превращается в обычную задачу на вычисление пользы/вреда" - чудесно, и? По сути, я спрашиваю как раз о том, на чём базируется конструирование твоих или чьих-то ещё функций пользы и вреда, хорошего и плохого... или нет. Как писал выше (17:09), представление о добре и зле вот СОВСЕМ не обязаны соответствовать вреду и пользе и хорошему и плохому конкретного человека. Так что от человека зависит, есть ли совпадение, полное или частичное, и идёт ли речь о тех же самых ценностях, что используются для конструирования вреда-пользы, или нет, не о них, или, возможно, они являются лишь частью представлений человека о добре и зле.
3) А кто так говорит? Хотя нет, Вамиар любит это "мы". А ещё ты это любишь, "люди делают так почти всегда". Ну извини, а можно, прежде чем говорить крутые и полезные сентенции, применять их сперва к себе? А то как-то странно выходит, ммм?

Матемаг
1. Тогда, возможно, стоит привести человечество в то состояние, когда необходимости в этой группе для дальнейшего развития не будет, дать им их рай и развиваться дальше.

2. Про насильственное запихивание я говорил, потому что спрашивал у этих людей, следует ли согласно их принципу (максимизация интеграла счастья по времени) насильственно прятать отказывающихся людей в счастье-кабинки. Ответ сводился к "да, разумеется, вы что, не понимаете что такое интеграл счастья по времени?"

3. Можешь воспринимать "мы", как "я и похожие на меня люди", тем более ты недавно сам говорил мне "вы" : ) Хотя да, я говорю за всех или многих (возможно, я неправ, но чёткие алгоритмы определения того, что больше нравится мне встречались ну оочень редко, обычно довольствуются ощущениями и эвристиками).
Удобный пример? Давай рассмотрю неудобный, какой?

4. Замечу, что ты не привёл алгоритм, в который можно было бы подставить числа и посчитать, сколько жизней соответствуют скольким километрам и наоборот, а лишь приблизительно его обрисовал. Я не отрицаю, что его можно привести, но для этого его надо сначала построить, и это не самая тривиальная задача. Можно ещё, конечно, сделать что-то вроде "мне пофиг, пусть будет 1 кв. км за 1 жизнь", но я не очень поверю, что это точное описание предпочтений.

Ещё раз: чёткий алгоритм предпочтений (в наиболее простой форме) - на вход ситуация, на выход - число, которое тем выше, чем более предпочтительна для тебя эта ситуация. При этом он не должен обращаться к тебе за суждением ни по какому субъективному вопросу.

Матемаг Мда. Кажется, обсуждение морали как явления, в целом, перешло в обсуждение точности изначальных формулировок. Попробую заново.

1. Поведение всех людей в большей мере не осознанно. Для осознания любого процесса/явления нужно сконцентрированное внимание в той или иной степени. Это строение нашего мозга) У нас есть только псевдологика (40% раствор))) хех
2. Человечество хаотично. Это своеобразный естественный/социальный отбор. Иррациональные убеждения одного человека могут оказать наиболее рациональными из-за новых обстоятельств.
3. Человечество хаотично. При его развитии выделяются группы людей схожих убеждений, по различным факторам.
4. Понятия добра и зла с большой вероятностью (как показывает практика) соответствуют понятиям вред/польза для каждого человека в рамках ограничений, задаваемых социальными нормами.
5. Попытки рационально вывести понятия добра и зла затрудняют сформировавшиеся образы морали, задаваемые обществом. Поэтому и получаются подобные логические монстры, из идей, кое-как скрепленных логикой.
6. "Каждый тянет на себя - все медленно, но ползут в верном направлении" Эффект амебы, состоящей из амеб)

Замечания, предложения?)

Вамиар,
1. Мы говорим не о планах, а о добре и зле. Вернись к тому, ну что я ответил.
Ты - часть меньшего числа, не большего. Значит ли это, что ты считаешь, что поступать в собственных интересах и интересах группы, не желающей, например, виртуального рая - это зло? Ты считаешь себя злодеем? Это логично вытекало бы из твоих слов, если твоя позиция непротиворечива.
2. Как раз большинство против насилия. Да и зачем, если можно просто использовать... рекламу?:)
3. «обычно довольствуются ощущениями и эвристиками» - согласен. Часто и те, у кого они есть, при выборе не формулируют чётко, а просто следуют и могут постфактум сформулировать – потому что выбор зачастую требуется быстрый. Поэтому, кстати, и жалеют частенько о собственном выборе и винят себя – потому что без осмысления можно такого навыбрать… а во времени на осмысления люди ограничены часто, часто. Но опрос треда не о том.
Помимо вкусов в еде у нас был выбор улицы или там расстановка мебели. Полагаю, глупо отрицать, что у всего этого обычно есть чёткие критерии. Возможно, их не будет в отдельных случаях, когда речь пойдёт, например, о чистой эстетике, но даже там… Вообще, по-хорошему мне бы сейчас поискать конкретную моральную ситуацию, но обед уже заканчивается, а надо ещё поесть, а не только стеной на стену ответить…
4. «Замечу, что ты не привёл алгоритм» - мне влом его приводить. Я знаю, что это возможно сделать – но нафиг мне это именно сейчас? Конструктивные доказательства – это хорошо, но я не настолько упорот, чтобы тратить дни интенсивного труда на такой алгоритм, который работах хотя бы в узком спектре ситуация, не говоря уж об алгоритме, позволяющем разрабатывать алгоритм для множества спектров ситуаций. Да, это не самая тревиальная задача – и? Вообще говоря, я бы скорее использовал вычислительную математику, а сам бы потратил денёк-другой только на математичекую формулировку условий, дальше пусть само считает, нафиг аналитическое решение.
5. «чёткий алгоритм предпочтений (в наиболее простой форме) - на вход ситуация, на выход - число, которое тем выше, чем более предпочтительна для тебя эта ситуация» - ммм, мне кажется, ты слишком высоко поднялся. Из чего возникает чёткий алгоритм предпочтений? Из каких позиций он формулируется? Именно эти позиции, именно эти критерии, именно эти ценности меня интересуют. Привести их, чётко сформулировать куда как проще, чем подобрать конкретный алгоритм выбора.

Тротзтдем,
1. Я знаю – и? Меня как-то мало интересует неосознанное поведение. В треде отписываются те, кто более или менее чётко осознаёт ответ на вопрос поста.
2. Да ладно. Поведение молекул воды под микроскопом тоже хаотично, но если подкрутить масштаб, то мы увидим, что групповое поведение далеко не хаотично, раз, если обратимся на уровень ниже, то обнаружим, что каждая молекула подчиняется сложным, но чётким законам, её движение предопределяется её внутренней структурой и взаимодействием с окружающими молекулами. Портируй аналогию на людей самостоятельно:) В любом случае, см. 1, это никак не относится к опросу треда.
3. Первая фраза противоречит второй. Ты определись, что ли, человечество хаотично или имеет внутренний порядок, в частичности, делится на группы людей схожих убеждений?
4. Ты – этот отдельный человек? Прекрасно, значит, таков твой ответ. Не все люди таковы, да. Насчёт большей вероятности – это надо её посчитать. Полагаю, здесь и сейчас ссылку на научное исследование ты не проведёшь. У меня вот даже идей нет, по какой формулировке его гуглить. И явно английское же надо… Что касается меня, то добро-зло для меня не связано с ЛИЧНОЙ пользой-вредом. С чего бы? Лично для меня добро и зло появляется, когда речь идёт о взаимодействиях людей. Когда речь идёт о влиянии пользы-вреда одного человека на пользу-вред другого. Но даже так, польза-вред лично для меня – это лишь 1/3 определения, одна из трёх ценностей, которые можно было бы назвать ценностями добра. В треде прозвучала и другая треть. Третьей (и самой, на мой взгляд, главной) – не прозвучало, что довольно занимательно. Я ещё могу понять товарищей с «классическим» христианским мировоззрением, для которых эта треть несёт и негативный оттенок тоже (хотя, казалось бы!), но остальные… ну да ладно.
5. *философски* Какая разница, как выходит? В треде меня интересует, ЧТО ИМЕННО выходит. Или может ли это «что именно» человек чётко сформулировать.
6. Вообще не понял, к чему это.

Мне нравится такое понимание фразы "стенка на стенку"!

1. "Ты - часть меньшего числа, не большего. Значит ли это, что ты считаешь, что поступать в собственных интересах и интересах группы, не желающей, например, виртуального рая - это зло?"

Нет, пока не закрыт вариант "виртуальный рай для тех, кто его хочет, рост и саморазвитие и прочие интересности для тех, кто хочет этих интересностей". Слаанешиту слаанешитово, тзинчеиту тзинчеитово. В гипотетической ситуации, когда эти варианты исключают друг друга, и мы берём предпочтения людей (вида "чего я хочу") вместе с мета-предпочтениями ("чего я бы хотел хотеть"), "вычищаем" проблемные места (нестабильность, противоречивость, нетранзитивность), экстраполируем на большее самопонимание, аггрегируем и получаем, что результат - виртуальный рай, то да, идти против него будет злодейством. Ну как, злодейством. Неправильно.

Хотел бы добавить, что я принципиально опасаюсь ситуаций "вход - рубль, выход - два", особенно когда два стремится к бесконечности : ) Ошибка, которую нельзя исправить, на порядки опаснее.

2. Насилие может быть быстрее. Плюс, реклама может на кого-то не подействовать, или подействовать не сразу, а это означает, что целых несколько дней райского наслаждения будут вычтены из интеграла. Ещё может оказаться, что для максимизации суммарного счастья выгоднее не сажать в кабинки уже существующих людей, а сделать "минимального" человека, способного испытывать счастье (и, возможно, ничего кроме), и его накопировать, а существующих пустить на биомассу для его производства.

3. Это сравнительно чёткие критерии, но они всё же недостаточно формализованы, чтобы производить над ними математические операции. Даже в расстановке мебели достигается компромисс между "как удобнее нам", "как красивее", "как удобнее гостям", "как потребуется меньше времени/усилий для ухода", "как будет меньше изнашиваться" и каким образом эти критерии взаимодействуют, что в каких ситуациях и для каких людей важнее - вопрос довольно непростой. Искать оптимум приходится во многом интуитивно (а не "эта расстановка удобнее для гостей на 5 единиц, а для нас менее удобна на 3, наш средний коэффициент важности для удобства гостей 0.7, для нашего удобства 1, 3.5 - 3 > 0, выбираем её").

4. "Да, это не самая тривиальная задача – и?"
И то, что это практически мой тезис! Что получить математическую функцию для предпочтений чисто технически сложно и требует значительных усилий! Даже в узком диапазоне условий. А максимизировать аггрегированную функцию, когда мы даже не можем получить в хоть сколь-нибудь явном виде её составляющие - ещё сложнее. Собственно, поэтому я и сказал, что эта функция не до конца определена - где "определена" употребляется не в математическом смысле "для некоторых состояний не существует её значений" а в физическом "мы её ещё не замеряли".
Сейчас для максимизации этого дела используется очень простой подход: позволять людям делать, что они хотят, пока другим это не мешает, а когда мешает - собираться вместе и разбираться, чьи предпочтения важнее, зачастую на основе каких-то заранее установленных правил. Постепенно технологически расширяя диапазон возможностей.
Естественно, дыры в этом подходе не может указать только ленивый, но без функций предпочтений в явном виде придумать что-то лучше (я уж не говорю про "оптимально") довольно сложно.
Статья для ленивых (не для очень ленивых, ибо статья эта длинна!): http://ru-ssc.tumblr.com/post/146270795442/размышления-о-молохе