Пусть для всякого существа и всякого количества боли определена вещественнозначная нежелательность n(существо, количество боли) причинения данного количества боли данному существу.

Пусть двум тысячам школьников причинено количество боли в 0.1 единицу каждому. Нежелательность этого, обозначим её как n1, оценивается как сумма n(школьник1, 0.1) + n(школьник2, 0.1) + ... _ n(школьник2000, 0.1). Пусть также Хагриду причинено количество боли в 200, обозначим это как n2 = n(Хагрид, 200). Так вот, у нас нет оснований считать, что n1 = n2. Несмотря на то, что количество боли, причинённой Хагриду, равно суммарному количеству боли, причинённой ученикам, нежелательность причинения Хагриду такого количества боли может превысить нежелательность причинения такого количества боли двум тысячам учеников.

Вообще, фиксируем некоторое существо x, некоторые количества боли a и b и некоторое число k; n по-прежнему доставляет нежелательность. У нас нет оснований считать, что n(x, kb) = kn(x, b) или что n(x,a) + n(x,b) = n(x,a+b), нежелательность не обязана быть линейной по количеству боли.

Элиезер написал что-нибудь на lesswrong.com по этой теме?