1. У человека есть мозг, мозг состоит из хорошо обученных и сконструированных нейросетей. Я могу использовать одну из таких предварительно обученных нейросетей, чтобы сделать выбор в конкретной ситуации. При этом я не буду знать о логическом путе, которым можно описать принятие этого решения. Люди делают так почти всегда.
2. Каждая конкретная задача с моральным выбором при практическом рассмотрении превращается в обычную задачу на вычисление пользы/вреда. Например, у меня есть выбор: Уничтожить вон тот прекрасный заповедник или смерть вон того ребенка. В зависимости от КОНКРЕТНЫХ условий задачи мне предстоит принять решение. Мораль, добро и зло идут лесом. А можно не использовать логику, а применить обученные нейросети, обученные на опыте предыдущих поколений, то есть сделать моральный выбор. И неизвестно какое решение в конкретном случае будет лучше. Логика тоже бывает ущербной.
3. Нельзя говорить о человечестве как о едином целом. Оно хаотично и разрозненно. Появилась письменность, но все ли умеют читать/писать?

Вобщем-то это мои замечания после прочтения комментариев выше.