Дело не в агентности самой по себе! Плевать на неё. Хотя даже у Юдковски и у многих других проскальзывает это «раз агент, то права надо защищать», восходящее к идеалам Просвещения о самоценности разума, но тогда даже гильотины Юма не знали.
Нуууу это отражено в имеющем достаточно большую поддержку "preference utilitarianism"-е. Как раз про то что ты написала. Очень натуральная идея, регулярно всплывает