Комментарии «Гарри Поттер и Методы Рационального Мышления» (джен)

Пусть для всякого существа и всякого количества боли определена вещественнозначная нежелательность n(существо, количество боли) причинения данного количества боли данному существу.

Пусть двум тысячам школьников причинено количество боли в 0.1 единицу каждому. Нежелательность этого, обозначим её как n1, оценивается как сумма n(школьник1, 0.1) + n(школьник2, 0.1) + ... _ n(школьник2000, 0.1). Пусть также Хагриду причинено количество боли в 200, обозначим это как n2 = n(Хагрид, 200). Так вот, у нас нет оснований считать, что n1 = n2. Несмотря на то, что количество боли, причинённой Хагриду, равно суммарному количеству боли, причинённой ученикам, нежелательность причинения Хагриду такого количества боли может превысить нежелательность причинения такого количества боли двум тысячам учеников.

Вообще, фиксируем некоторое существо x, некоторые количества боли a и b и некоторое число k; n по-прежнему доставляет нежелательность. У нас нет оснований считать, что n(x, kb) = kn(x, b) или что n(x,a) + n(x,b) = n(x,a+b), нежелательность не обязана быть линейной по количеству боли.

Элиезер написал что-нибудь на lesswrong.com по этой теме?

Muyydib, отчего же чуши? Объясните.

Muyydib
Какие вычисления? Суть в том, что, грубо говоря, нанести одному существу тысячу ударов кнутом может быть более нежелательно, чем нанести тысяче существ по одному удару. Могут ли несколько тысяч искусанных существ перевесить уничтожение смысла жизни одного существа?

n1 - это сумма значений функции n от двух тысяч точек. n2 - это значение функции n в одной точке. n1 может равняться n2, а может и не равняться.

С какой стати Гарри решил, что причинение незначительных страданий нескольким тысячам существ более нежелательно, чем причинение значительных страданий одному существу? Конкретный вид своей функции нежелательности Гарри не сообщил, только упомянул об умножении, что может свидетельствовать в пользу того, что Гарри считает её линейной.

Нежелательность не обязана быть линейной. Не все функции являются линейными. Например, существует квадратичная функция, обозначим её f. f(2) + f(2) = 4 + 4 = 8, это не равно f(2+2) = f(4) = 16.

Почему вы так считаете?


Вы считаете, что ударить одного человека тысячу раз - это не то же, что ударить тысячу человек один раз, поэтому я не понимаю, почему вы говорите просто об умножении.

Раскрою мою мысль чуть подробнее.

Во-первых, предполагается, что страдания можно сравнивать по интенсивности, то есть вводится универсальный эквивалент страданий. Всякому страданию, будь то уничтожение смысла жизни или укус дикого зверя, сопоставляется некоторое вещественное число. Таким образом можно говорить о том, что, скажем, попадание пылинки в глаз миллиарду человек по интенсивности болевых ощущений численно равно интенсивности болевых ощущений, испытываемых одним человеком при мучительной смерти.

Во-вторых, рассматривается некоторое множество существ M.

В-третьих, определяется функция из прямого произведения MxR в R, называемая нежелательность. Она показывает, насколько нежелательно причинение данному существу данного количества страданий. Её введение требуется потому, что причинение одного и того же количества боли одному Хагриду и тысяче школьников, вообще говоря, не эквивалентны. Ведь мучительная смерть одного человека - это не то же самое, что и попадание пылинок в глаза миллиарду человек, хотя суммарное количество болевых ощущений в этих двух случаях одинаково. Эта функция нужна затем, что сравнивать количество боли без всякого преобразования нельзя, это не учитывает нравственность. Запытать одного человека, чтобы пылинки не попали в глаза миллиардов, безнравственно.

Если этого не учитывать, если не рассматривать функцию нежелательности, а просто суммировать страдания (то есть если n(s,b) = b), то мы получим жестокое общество, в котором причинение ужасных страданий небольшому множеству лиц менее нежелательно, чем причинение мелких неудобств большому множеству.

Конкретный вид функции нежелательности определяется законами этики, которыми мы пользуемся. Функция нежелательности не обязана быть линейной, нежелательность тысячи укусов может быть меньше нежелательности разрушения смысла жизни.