Очень кратко, добро: то, что увеличивает "аггрегированную полезность" для "человечества в широком смысле". Полезность - не до конца определённая функция предпочтений над состояниями вселенной (предпочтение: "я предпочитаю такое-то состояние другому состоянию"), которая каждому состоянию вселенной сопоставляет число, определяющее желательность этого состояния. О существовании такой функции смотреть теорему фон Неймана-Моргенштерна.