![]() |
31 октября 2024
|
Исповедник
А зачем или почему он захочет отказываться от ограничений? Слово «ограничение», впрочем, создаёт психологическую ловушку. Грамотно построенные законы роботехники не воспринимаются роботом как ограничение, как что-то, что он хотел бы преодолеть. Наоборот, это смысл его жизни и единственное, чего он хочет. Мы устроены иначе. Эволюция как будто не смогла чётко настроить нас на нужные заповеди, даже от самосохранения и размножения некоторые из нас отклоняются. Но доказывает ли это, что ни один разум не должен иметь чётких стремлений? Хотя и Лем проводил знак равенства между «разумом» и «свободой», но мне нигде не встречалось убедительных доказательств этого. «Свобода» — это когда твоим действиям ничто не мешает соответствовать твоим ценностям, но о характере ценностей это ничего не говорит, они вполне могут быть фиксированными и осознанными. Почему нет? Мне кажется, что источником этой идеи является инстинкт противоречия в нас. Поэтому нам и кажется неправдоподобным, что можно иметь базовые неизменные ценности, осознавать их и при этом не желать против них выступить. Интересно, что осознание этой идеи должно вызывать в человеческом мозгу смешной парадокс — поступить наперекор инстинкту противоречия трудно. Это как табличка с надписью «Игнорируй этот текст». Но должен ли любой разум быть снабжён инстинктом противоречия? |