Тротзтдем,
1. Я знаю – и? Меня как-то мало интересует неосознанное поведение. В треде отписываются те, кто более или менее чётко осознаёт ответ на вопрос поста.
2. Да ладно. Поведение молекул воды под микроскопом тоже хаотично, но если подкрутить масштаб, то мы увидим, что групповое поведение далеко не хаотично, раз, если обратимся на уровень ниже, то обнаружим, что каждая молекула подчиняется сложным, но чётким законам, её движение предопределяется её внутренней структурой и взаимодействием с окружающими молекулами. Портируй аналогию на людей самостоятельно:) В любом случае, см. 1, это никак не относится к опросу треда.
3. Первая фраза противоречит второй. Ты определись, что ли, человечество хаотично или имеет внутренний порядок, в частичности, делится на группы людей схожих убеждений?
4. Ты – этот отдельный человек? Прекрасно, значит, таков твой ответ. Не все люди таковы, да. Насчёт большей вероятности – это надо её посчитать. Полагаю, здесь и сейчас ссылку на научное исследование ты не проведёшь. У меня вот даже идей нет, по какой формулировке его гуглить. И явно английское же надо… Что касается меня, то добро-зло для меня не связано с ЛИЧНОЙ пользой-вредом. С чего бы? Лично для меня добро и зло появляется, когда речь идёт о взаимодействиях людей. Когда речь идёт о влиянии пользы-вреда одного человека на пользу-вред другого. Но даже так, польза-вред лично для меня – это лишь 1/3 определения, одна из трёх ценностей, которые можно было бы назвать ценностями добра. В треде прозвучала и другая треть. Третьей (и самой, на мой взгляд, главной) – не прозвучало, что довольно занимательно. Я ещё могу понять товарищей с «классическим» христианским мировоззрением, для которых эта треть несёт и негативный оттенок тоже (хотя, казалось бы!), но остальные… ну да ладно.
5. *философски* Какая разница, как выходит? В треде меня интересует, ЧТО ИМЕННО выходит. Или может ли это «что именно» человек чётко сформулировать.
6. Вообще не понял, к чему это.

Мне нравится такое понимание фразы "стенка на стенку"!

1. "Ты - часть меньшего числа, не большего. Значит ли это, что ты считаешь, что поступать в собственных интересах и интересах группы, не желающей, например, виртуального рая - это зло?"

Нет, пока не закрыт вариант "виртуальный рай для тех, кто его хочет, рост и саморазвитие и прочие интересности для тех, кто хочет этих интересностей". Слаанешиту слаанешитово, тзинчеиту тзинчеитово. В гипотетической ситуации, когда эти варианты исключают друг друга, и мы берём предпочтения людей (вида "чего я хочу") вместе с мета-предпочтениями ("чего я бы хотел хотеть"), "вычищаем" проблемные места (нестабильность, противоречивость, нетранзитивность), экстраполируем на большее самопонимание, аггрегируем и получаем, что результат - виртуальный рай, то да, идти против него будет злодейством. Ну как, злодейством. Неправильно.

Хотел бы добавить, что я принципиально опасаюсь ситуаций "вход - рубль, выход - два", особенно когда два стремится к бесконечности : ) Ошибка, которую нельзя исправить, на порядки опаснее.

2. Насилие может быть быстрее. Плюс, реклама может на кого-то не подействовать, или подействовать не сразу, а это означает, что целых несколько дней райского наслаждения будут вычтены из интеграла. Ещё может оказаться, что для максимизации суммарного счастья выгоднее не сажать в кабинки уже существующих людей, а сделать "минимального" человека, способного испытывать счастье (и, возможно, ничего кроме), и его накопировать, а существующих пустить на биомассу для его производства.

3. Это сравнительно чёткие критерии, но они всё же недостаточно формализованы, чтобы производить над ними математические операции. Даже в расстановке мебели достигается компромисс между "как удобнее нам", "как красивее", "как удобнее гостям", "как потребуется меньше времени/усилий для ухода", "как будет меньше изнашиваться" и каким образом эти критерии взаимодействуют, что в каких ситуациях и для каких людей важнее - вопрос довольно непростой. Искать оптимум приходится во многом интуитивно (а не "эта расстановка удобнее для гостей на 5 единиц, а для нас менее удобна на 3, наш средний коэффициент важности для удобства гостей 0.7, для нашего удобства 1, 3.5 - 3 > 0, выбираем её").

4. "Да, это не самая тривиальная задача – и?"
И то, что это практически мой тезис! Что получить математическую функцию для предпочтений чисто технически сложно и требует значительных усилий! Даже в узком диапазоне условий. А максимизировать аггрегированную функцию, когда мы даже не можем получить в хоть сколь-нибудь явном виде её составляющие - ещё сложнее. Собственно, поэтому я и сказал, что эта функция не до конца определена - где "определена" употребляется не в математическом смысле "для некоторых состояний не существует её значений" а в физическом "мы её ещё не замеряли".
Сейчас для максимизации этого дела используется очень простой подход: позволять людям делать, что они хотят, пока другим это не мешает, а когда мешает - собираться вместе и разбираться, чьи предпочтения важнее, зачастую на основе каких-то заранее установленных правил. Постепенно технологически расширяя диапазон возможностей.
Естественно, дыры в этом подходе не может указать только ленивый, но без функций предпочтений в явном виде придумать что-то лучше (я уж не говорю про "оптимально") довольно сложно.
Статья для ленивых (не для очень ленивых, ибо статья эта длинна!): http://ru-ssc.tumblr.com/post/146270795442/размышления-о-молохе