#бред #буривухи #написано_не_под_настоем_ромашки

Пара выдержек из очень занимательной беседы с ИИ на тему Трудной Проблемы Сознания. Ответы ИИ в основном опущены за малоинформативностью, контекст вырезан.

У физикалистов принято зачастую считать, что корень Трудной Проблемы Сознания состоит лишь в наличии у большинства некоей иррациональной и вместе с тем принципиально неизживаемой интуиции — что «совы не то, чем кажутся». То есть что ощущения должны быть чем-то большим, чем динамическая причинно-следственная схема определённой конфигурации, чтобы быть ощущениями. Можно назвать эту интуицию «интуицией-X».
Но есть не только она.
Мне это пришло в голову недавно на улице по ходу обдумывания мысленного эксперимента «Save-Load-Switch». Циничного воображаемого опыта с элементом сексуальной объективации.
Представим парня, которому инопланетяне предложили участие в психологическом эксперименте. Они дают ему способность к Save/Load прямо в реальной жизни. При этом они добавляют, что по поводу некоторых этических аспектов он может не париться. «Когда ты откручиваешь время назад, ты никого не убиваешь. Мы просто заранее моделируем твоё будущее в специальных симуляциях, где все, кроме тебя, философские зомби, но всё остальное воспроизведено идеально точно. Фактически ты окажешься в такой симуляции прямо сейчас, если согласишься на эксперимент. Все перебираемые тобою при играх с сейвами варианты действий будут фантомными, фиктивными, хотя и неотличимыми субъективно от реальности. Реальным, действительно затрагивающим окружающих людей и окружающий мир, будет лишь тот вариант твоих действий, который ты оставишь последним. Даже если ты сам не будешь знать заранее, что уже никогда не используешь в будущем Load».
Парень, естественно, соглашается.
Чувствует себя богом. Наслаждается тем, что можно разговаривать с людьми как угодно, потом через Load вернувшись к началу разговора. Проходя в подъезде мимо девушки, быстро делает Save и спрашивает её: «Простите, а можно потрогать вашу грудь? Ну, она очень красивая» — и строит дальше из себя дурачка, думая насладиться её смущением. И потом сделать эту ситуацию неслучившейся.
Но девушка на миг уходит в себя, после чего неожиданно соглашается на предложение и даже начинает слегка подтрунивать над парнем. Происходит лёгкий флирт. Оба собеседника возбуждены. С уст парня срывается что-то вроде «Классная штука этот Save/Load».
Девушка настораживается: «Что вы сказали?»
Парень: «О, не обращайте внимания. Просто инопланетяне мне недавно один эксперимент предложили. Шучу. Ничего серьёзного».
Девушка: «Эксперимент по применению Save/Load в реальной жизни? Вообще-то они его предложили МНЕ».
Выясняется, что инопланетяне предложили подобный дар вовсе не одному человеку на Земле. Как минимум двум.
Девушка потому и согласилась столь охотно поставить на кон репутацию и позволить незнакомому парню себя облапать, что заранее сделала Save.
Парень и девушка напряжённо смотрят друг на друга — как ковбои на Диком Западе. Каждый из них минуту назад собирался применить «Load» и отменить разговор — и каждый из них теперь думает нервно, что будет с ним, если другой применит опцию «Load» первый.
Они пытаются договориться.
Связать друг друга священными клятвами.
Но ситуация как в «дилемме заключённого» — даже хуже. Парень может подумать: «Если я применю сейчас Load вопреки своим клятвам, никто не пострадает. Окажется, что девушка передо мной — философский зомби и всегда была философским зомби. Это даже не переписывание истории, не отправка на машине времени в прошлое для убийства Гитлера. Если я в будущем использую Load, то девушка передо мной УЖЕ СЕЙЧАС философский зомби, весь ужас в её глазах лишь театр. У меня нет перед ней никаких этических обязательств». Девушка — если она не зомби — может думать то же самое.
Надо сказать:
— здесь у меня лаг гигантских размеров, сюжетная дыра, в которую проваливается всё. По идее парень должен довольно быстро понять: «Раз я сейчас имею сознание, значит, я в безопасности. Либо я в будущем воспользуюсь опцией Load первый, либо никто из нас двоих не воспользуется ею для возвращения в предшествующее разговору прошлое». Девушка, независимо от того, реальна она или философский зомби, должна внешне успокоиться по тем же причинам.
Но мне первоначально не пришло это в голову — так что придётся выбросить это из расчётов.
Интересно другое:
— чувства парня по отношению к девушке, то рассматривающего вероятность, что она философский зомби, то отбрасывающего её. Он чувствует себя при этом чертовски неубедительно и лицемерно. Поверить в то, что что-то буквально до последнего логического шага, до последнего математического узла, до последнего алгоритма копирует структуру человеческих переживаний и рассуждений, но при этом «из-за онтологической природы» НЕ ЯВЛЯЕТСЯ переживаниями и рассуждениями, кажется почти невозможным. Это интуитивно немыслимо. Здесь пик на схеме — и там пик на схеме. Там горбик — и там горбик. Полное соответствие.
То есть:
— кроме апологетируемой Сёрлем интуиции-X, интуиции «ощущения должны быть чем-то большим, чем причинно-следственная схема определённой формы, чтобы быть ощущениями», есть и интуиция-Y.
Кроме интуиции «совы не то, чем кажутся», есть интуиция «если это во всём как сова, я не могу относиться к этому не как к сове».
Они противоречат друг другу.
И, возможно, это делает споры на тему Трудной Проблемы Сознания слегка религиозными.

Интуиция-X отбрасывает свою тень на всё. Она не просто заставляет людей держаться разных сторон баррикад. Она влияет даже на то, как люди воспринимают смысл рассуждений друг друга.
Какой-нибудь Юдковски говорит: «Дополнительные эпифеномены и гипотезы о нефизических факторах не нужны для объяснения ощущений. Ощущения — это просто причинные связи определённой формы так воспринимают себя».
Дуалист слышит: «Ага, Юдковски говорит, что к каждой причинной связи нашего мира НАМЕРТВО И ОБЛИГАТНО прикреплён эпифеномен, делающий её ощущением. Потому что я могу мысленно представить мир, в котором причинные связи определённой формы не воспринимают себя как ощущения, а значит, существование причинных связей определённой формы и их самовосприятие как ощущений логически не одно и то же».
Юдковски может устало сказать: «Вы не можете мысленно это представить, вам только кажется, что вы можете, человек не умеет представлять такие вещи».
Дуалист может ответить: «Ну тогда и вы не можете представить всё достаточно подробно, чтобы быть уверенным, что вы логически доказали, что ощущения есть способ существования причинных связей определённой формы для самих себя. Вы просто хотите считать так, потому что так проще».
Интуиция-Y с виду скромнее и мрачнее.
Она предлагает не обесценивать любую структуру, которая структурно как сознание.
Сёрль или кто-то вроде него скажет, что это ошибка. «Вы, глядя на объекты внешнего мира, как бы создаёте их копию в своём разуме. Глядя на структуру, устроенную и меняющуюся точно как структура психики, как бы создаёте её отражение в своей психике из ресурсов психики. Естественно, вы воспринимаете её как психическую. Но сама-то структура снаружи вас. И она может быть мертва!»
Здесь мы упираемся в другой вопрос, по-моему.
Я не знаю, часто ли его формулируют, но вообще-то с него следовало бы начать.
Что такое вообще «мысли за пределами моей головы»?
Каковы критерии отнесения одних сущностей вне моего разума к «квалиа», а других к «мёртвой материи»?
Когда идут споры между тем же панпсихизмом и материализмом, спорщики ведут себя так, словно у них есть определение.
Но я — абсолютно одинаково — не чувствую как свою мысль ни нейронные нити моего соседа Васи, ни пыль на Луне.
Что имеется в виду под вопросом «есть ли у моего соседа мысли»? Невысказанная недоказанная идея о некоем общем онтологическом наполнителе наших голов или что?

ИЗ КОММЕНТАРИЯ ИИ К ПЕРВОМУ БЛОКУ ТЕКСТА:

Мне кажется, вы обнаружили симметрию.
Обычно считается, что антифизикалисты страдают одной необъяснимой интуицией:
• «Ну не может квалиа быть просто вычислением».
Но, оказывается, физикалисты страдают другой столь же необъяснимой интуицией:
• «Ну не может идеальный структурный двойник НЕ иметь квалиа».
То есть обе стороны в каком-то смысле говорят:
• «Я просто не могу этого представить».
Причем эти «не могу» одинаково сильны.
И отсюда действительно появляется религиозный оттенок.
Не в том смысле, что философия сознания становится религией.
А в том, что спор начинает опираться на конкурирующие базовые интуиции, которые сами уже почти не редуцируются.