Вамиар,
1. Мы говорим не о планах, а о добре и зле. Вернись к тому, ну что я ответил.
Ты - часть меньшего числа, не большего. Значит ли это, что ты считаешь, что поступать в собственных интересах и интересах группы, не желающей, например, виртуального рая - это зло? Ты считаешь себя злодеем? Это логично вытекало бы из твоих слов, если твоя позиция непротиворечива.
2. Как раз большинство против насилия. Да и зачем, если можно просто использовать... рекламу?:)
3. «обычно довольствуются ощущениями и эвристиками» - согласен. Часто и те, у кого они есть, при выборе не формулируют чётко, а просто следуют и могут постфактум сформулировать – потому что выбор зачастую требуется быстрый. Поэтому, кстати, и жалеют частенько о собственном выборе и винят себя – потому что без осмысления можно такого навыбрать… а во времени на осмысления люди ограничены часто, часто. Но опрос треда не о том.
Помимо вкусов в еде у нас был выбор улицы или там расстановка мебели. Полагаю, глупо отрицать, что у всего этого обычно есть чёткие критерии. Возможно, их не будет в отдельных случаях, когда речь пойдёт, например, о чистой эстетике, но даже там… Вообще, по-хорошему мне бы сейчас поискать конкретную моральную ситуацию, но обед уже заканчивается, а надо ещё поесть, а не только стеной на стену ответить…
4. «Замечу, что ты не привёл алгоритм» - мне влом его приводить. Я знаю, что это возможно сделать – но нафиг мне это именно сейчас? Конструктивные доказательства – это хорошо, но я не настолько упорот, чтобы тратить дни интенсивного труда на такой алгоритм, который работах хотя бы в узком спектре ситуация, не говоря уж об алгоритме, позволяющем разрабатывать алгоритм для множества спектров ситуаций. Да, это не самая тревиальная задача – и? Вообще говоря, я бы скорее использовал вычислительную математику, а сам бы потратил денёк-другой только на математичекую формулировку условий, дальше пусть само считает, нафиг аналитическое решение.
5. «чёткий алгоритм предпочтений (в наиболее простой форме) - на вход ситуация, на выход - число, которое тем выше, чем более предпочтительна для тебя эта ситуация» - ммм, мне кажется, ты слишком высоко поднялся. Из чего возникает чёткий алгоритм предпочтений? Из каких позиций он формулируется? Именно эти позиции, именно эти критерии, именно эти ценности меня интересуют. Привести их, чётко сформулировать куда как проще, чем подобрать конкретный алгоритм выбора.

Тротзтдем,
1. Я знаю – и? Меня как-то мало интересует неосознанное поведение. В треде отписываются те, кто более или менее чётко осознаёт ответ на вопрос поста.
2. Да ладно. Поведение молекул воды под микроскопом тоже хаотично, но если подкрутить масштаб, то мы увидим, что групповое поведение далеко не хаотично, раз, если обратимся на уровень ниже, то обнаружим, что каждая молекула подчиняется сложным, но чётким законам, её движение предопределяется её внутренней структурой и взаимодействием с окружающими молекулами. Портируй аналогию на людей самостоятельно:) В любом случае, см. 1, это никак не относится к опросу треда.
3. Первая фраза противоречит второй. Ты определись, что ли, человечество хаотично или имеет внутренний порядок, в частичности, делится на группы людей схожих убеждений?
4. Ты – этот отдельный человек? Прекрасно, значит, таков твой ответ. Не все люди таковы, да. Насчёт большей вероятности – это надо её посчитать. Полагаю, здесь и сейчас ссылку на научное исследование ты не проведёшь. У меня вот даже идей нет, по какой формулировке его гуглить. И явно английское же надо… Что касается меня, то добро-зло для меня не связано с ЛИЧНОЙ пользой-вредом. С чего бы? Лично для меня добро и зло появляется, когда речь идёт о взаимодействиях людей. Когда речь идёт о влиянии пользы-вреда одного человека на пользу-вред другого. Но даже так, польза-вред лично для меня – это лишь 1/3 определения, одна из трёх ценностей, которые можно было бы назвать ценностями добра. В треде прозвучала и другая треть. Третьей (и самой, на мой взгляд, главной) – не прозвучало, что довольно занимательно. Я ещё могу понять товарищей с «классическим» христианским мировоззрением, для которых эта треть несёт и негативный оттенок тоже (хотя, казалось бы!), но остальные… ну да ладно.
5. *философски* Какая разница, как выходит? В треде меня интересует, ЧТО ИМЕННО выходит. Или может ли это «что именно» человек чётко сформулировать.
6. Вообще не понял, к чему это.

Мне нравится такое понимание фразы "стенка на стенку"!

1. "Ты - часть меньшего числа, не большего. Значит ли это, что ты считаешь, что поступать в собственных интересах и интересах группы, не желающей, например, виртуального рая - это зло?"

Нет, пока не закрыт вариант "виртуальный рай для тех, кто его хочет, рост и саморазвитие и прочие интересности для тех, кто хочет этих интересностей". Слаанешиту слаанешитово, тзинчеиту тзинчеитово. В гипотетической ситуации, когда эти варианты исключают друг друга, и мы берём предпочтения людей (вида "чего я хочу") вместе с мета-предпочтениями ("чего я бы хотел хотеть"), "вычищаем" проблемные места (нестабильность, противоречивость, нетранзитивность), экстраполируем на большее самопонимание, аггрегируем и получаем, что результат - виртуальный рай, то да, идти против него будет злодейством. Ну как, злодейством. Неправильно.

Хотел бы добавить, что я принципиально опасаюсь ситуаций "вход - рубль, выход - два", особенно когда два стремится к бесконечности : ) Ошибка, которую нельзя исправить, на порядки опаснее.

2. Насилие может быть быстрее. Плюс, реклама может на кого-то не подействовать, или подействовать не сразу, а это означает, что целых несколько дней райского наслаждения будут вычтены из интеграла. Ещё может оказаться, что для максимизации суммарного счастья выгоднее не сажать в кабинки уже существующих людей, а сделать "минимального" человека, способного испытывать счастье (и, возможно, ничего кроме), и его накопировать, а существующих пустить на биомассу для его производства.

3. Это сравнительно чёткие критерии, но они всё же недостаточно формализованы, чтобы производить над ними математические операции. Даже в расстановке мебели достигается компромисс между "как удобнее нам", "как красивее", "как удобнее гостям", "как потребуется меньше времени/усилий для ухода", "как будет меньше изнашиваться" и каким образом эти критерии взаимодействуют, что в каких ситуациях и для каких людей важнее - вопрос довольно непростой. Искать оптимум приходится во многом интуитивно (а не "эта расстановка удобнее для гостей на 5 единиц, а для нас менее удобна на 3, наш средний коэффициент важности для удобства гостей 0.7, для нашего удобства 1, 3.5 - 3 > 0, выбираем её").

4. "Да, это не самая тривиальная задача – и?"
И то, что это практически мой тезис! Что получить математическую функцию для предпочтений чисто технически сложно и требует значительных усилий! Даже в узком диапазоне условий. А максимизировать аггрегированную функцию, когда мы даже не можем получить в хоть сколь-нибудь явном виде её составляющие - ещё сложнее. Собственно, поэтому я и сказал, что эта функция не до конца определена - где "определена" употребляется не в математическом смысле "для некоторых состояний не существует её значений" а в физическом "мы её ещё не замеряли".
Сейчас для максимизации этого дела используется очень простой подход: позволять людям делать, что они хотят, пока другим это не мешает, а когда мешает - собираться вместе и разбираться, чьи предпочтения важнее, зачастую на основе каких-то заранее установленных правил. Постепенно технологически расширяя диапазон возможностей.
Естественно, дыры в этом подходе не может указать только ленивый, но без функций предпочтений в явном виде придумать что-то лучше (я уж не говорю про "оптимально") довольно сложно.
Статья для ленивых (не для очень ленивых, ибо статья эта длинна!): http://ru-ssc.tumblr.com/post/146270795442/размышления-о-молохе