Отличается неубиваемостью всех же.

Хм, а что на счёт весьма долгих мук в чьих-то руках?

Что на счёт обратимости повреждений?

Второй вариант слишком скучный: надоест жить в полной гармонии без малейшего вызова.

You take the point.

Так что при условии, что китайские комнаты могут эволюционировать

Нет. Но они могут иметь сколь угодно сложную имитацию эволюции и разума.

А сам умерший эволюционирует или слепок себя на момент смерти? Что там с культурным наследием (литра, кино прочее)? Сохраняются только знания умершего или можно бэкапнуть мировое наследие? Может ли сознание умершего деградировать?

Как долго длится вечность?

Неизвестно.
Вечно.

найти сраного создателя этих посмертий и долго бить его, возможно, даже ногами

- выбор с неполной информацией

- какие-то полусадисткие варианты

раз выбрал - вечность крутись

- можно было бы придумать и получше; хотя бы возможность менять варианты посмертия в любое время

такое ощущение, что либо он решил за счет этих хомячков приколоться, либо он не очень шарит в людях

есть подозрение, что когда мы вылезем, он захочет сунуть нас обратно

Поскольку и первый, и второй подразумевают уже не меня.

В рай жестокие критерии отбора, и большинство даже хороших людей им не соответствует, так что Богу, буде он существует

1. Сделав выбор, но не запомнив какой именно, смогу ли я (допустим, при учете бесконечного количества времени) определить, выбрала 1 или 3?

2. Способен ли первый вариант сгенерировать события более высокой степени нереалистичности, чем в третьем варианте? Например, из мысленных ожиданий моего разума смоделировать наименее человекоподобные объекты/явления?

3. Могут ли болванки действовать неожиданным для меня образом? Опираются ли они на прямой запрос или на некий мыслительный импульс?

А первый почему?

в которой вы сами не помните, что находитесь в виртуальности.
Коррекция памяти = коррекция личности.

Главный аргумент против первого сценария - эффект "рычага удовольствия". Будучи всесильным демиургом я просто наколдую себе вечный кайф и проведу вечность в бесплодном забытье.

По отношению же к вам текущему это все равно, что запихнуть в такую виртуалку, ничего не спрашивая и не объясняя.

Смирение и милосердие - вот и все критерии. Проблема в том, что достичь их сложно

Так не говорит никто, что челленджа не будет. Но тот, который будет - будет приятным из-за того, что подправили или создателя челленджа, или вас.

люблю я, откровенно говоря, в конфликтах выигрывать - а второй вариант подразумевает изначальное согласие всех со всеми

nadeys
А в чём разница с вечным существованием в матрице же, но не в забытье?

По китайской комнате - нет, для её создания нужен разум, но сама она его не имеет.

парадокс "рычага удовольствий" в том что иррациональный человек зачастую не может сам выбрать самую эффективную форму получения удовольствий

nadeys
Не-не, вы запоминаете и делаете выводы. Плюс вы испытываете всякие эмоции и чувства, что изображающей вас "элизе" совершенно не нужно.

Но каким образом можно узнать о наличии сознания в машине? Эта проблема имеет не только абстрактно-философское значение, ибо предположение, что какая-то машина, которая отправляется на лом из-за того, что ремонт не оплачивается, имеет сознание, превращает наше решение уничтожить материальный предмет, типа граммофона, в акт уничтожения индивидуальности, осознанного убийства. Кто-то мог бы оснастить граммофон пластинкой и выключателем таким образом, что, если бы мы сдвинули его с места, то услышали бы крики: "Ах, умоляю, подари мне жизнь!". Как можно отличить такой, без сомнения, бездушный аппарат от мыслящей машины? Только вступая с ней в разговор. Английский математик Аллан Тьюринг (Allan Turing) в своей работе "Может ли машина мыслить?" предлагает в качестве решающего критерия "игру в имитацию", которая основывается на том, что мы задаем Кому-то произвольные вопросы и на основании ответов должны сделать заключение, является ли этот Кто-то человеком или машиной. Если мы не сможем отличить машину от человека, то следует признать, что машина ведет себя как человек, то есть что она обладает сознанием.

Отметим со своей стороны, что игру можно усложнить. Можно предположить два вида машин. Первый вид является "обычной" цифровой машиной, которая устроена как человеческий мозг; с ней можно играть в шахматы, разговаривать о книгах, о мире и вообще на все темы. Если бы мы ее вскрыли, то увидели бы огромное количество соединений элементов, подобно соединениям нейронов в мозгу, кроме того - блоки ее памяти и т.д. и т.п.

Второй вид машины совсем другой. Это увеличенный до размера планеты (или космоса) граммофон. Она имеет очень много, например, сто триллионов, записанных ответов на всевозможные вопросы. Таким образом, когда мы спрашиваем, машина ничего "не понимает", а только форма вопроса, т.е. очередность вибраций нашего голоса, приводит в движение передатчик, который запускает пластинку или ленту с записанным ответом. Не будем задумываться о технической стороне вопроса. Понятно, что такая машина неэкономична, что ее никто не создаст, потому что это невозможно и главное - неизвестно, зачем ее создавать. Но нас интересует теоретическая сторона. Потому что, если вывод о том, имеет ли машина сознание, делается на основе поведения, а не внутреннего строения, не придем ли мы неосмотрительно к выводу, что "космический граммофон" обладает им - и тем самым выскажем нонсенс? (А скорее неправду).

Можно ли, однако, запрограммировать все возможные вопросы? Без сомнения, средний человек не отвечает в обычной жизни даже на один их биллион. Мы же на всякий случай записали их во много раз больше. Что же делать? Мы должны вести нашу игру по достаточно развитой стратегии. Мы задаем машине (то есть Кому-то, потому что не знаем, с кем имеем дело; разговор ведется, например, по телефону) вопрос, любит ли она анекдоты. Машина отвечает, скажем, что да, она любит хорошие анекдоты. Рассказываем ей анекдот. Машина смеется (т.е смеется голос в трубке). Или у ней был этот анекдот записан и это позволило ей правильно отреагировать, т.е. засмеяться, или это в самом деле мыслящая машина (или человек, ибо мы этого не знаем). Мы разговариваем с машиной какое-то время, а потом неожиданно спрашиваем, припоминает ли она анекдот, который мы ей рассказали. Она должна его помнить, если она действительно мыслит. Она скажет, что помнит. Мы попросим, чтобы она повторила его своими словами. Вот это уже очень трудно запрограммировать, потому что таким образом мы вынуждаем конструктора "космограммофона" записать не только отдельные ответы на возможные вопросы, но и целые последовательности разговоров, которые могут вестись. Это требует, конечно, памяти, т.е. дисков или лент, которых, может, и вся солнечная система не вместит. Положим, машина не может повторить нашего анекдота. И мы тем самым разоблачаем, что она - граммофон. Задетый конструктор берется за усовершенствование машины таким образом, что пристраивает ей такую память, благодаря которой она сможет вкратце повторить сказанное. Но таким образом он сделал первый шаг в направлении от машины-граммофона к машине мыслящей. Так как бездушная машина не может признать идентичными вопросы аналогичного содержания, но сформулированные даже с незначительными формальными отклонениями, типа: "Вчера было хорошо на улице?", "Вчера была прекрасная погода?", "Погожим ли был предыдущий день?" и т.д. и т.п., то для машины бездушной они будут вопросами различными, а для машины мыслящей - идентичными. Конструктор вновь разоблаченной машины вынужден опять ее перерабатывать. В конце концов, после долгой серии переделок, он введет в машину способности индукции и дедукции, способность ассоциации, схватывания тождественной "формы" по-разному сформулированных, но одинаковых по содержанию высказываний, пока в результате не получит машину, которая просто будет "обычной" мыслящей машиной.

Так появляется интересная проблема: когда именно в машине появилось сознание? Предположим, что конструктор не переделывал эти машины, а относил каждую в музей и следующую модель создавал с начала. В музее стоит 10 000 машин, потому что столько было очередных моделей. Результатом стал плавный переход от "бездушного автомата" типа играющего шкафа к "машине, которая мыслит". Должны ли мы признать машиной, имеющей сознание, машину номер 7852 или только номер 9973? Они отличаются друг от друга тем, что первая не умела объяснить, почему она смеется над рассказанным анекдотом, а только говорила, что анекдот очень смешен, а вторая умела. Но некоторые люди смеются над шутками, хотя и не могут объяснить, что именно в них смешно, потому что, как известно, теория юмора - это твердый орешек. Разве эти люди тоже лишены сознания? Нет же, они, наверное, просто не очень быстро реагируют или малообразованные, их ум не обладает навыками аналитического подхода к проблемам; но мы спрашиваем не о том, умная ли машина или скорее туповатая, мы только спрашиваем, имеет ли она сознание или нет.

Казалось бы, следует признать, что модель номер 1 имеет ноль сознания, модель номер 10 000 имеет полное сознание, а все средние имеют "все больше" сознания. Это утверждение показывает, насколько безнадежной является мысль о том, что сознание можно точно локализовать. Отсоединение отдельных элементов ("нейронов") машины спровоцирует только слабые, количественные изменения ("ослабления") сознания так же, как это делает в живом мозге прогрессирующий процесс болезни или нож хирурга. Проблема не имеет ничего общего ни с использованным для конструкции материалом, ни с размерами "мыслящего" устройства. Электрическую мыслящую машину можно построить из отдельных блоков, соответствующих, положим, мозговым извилинам. Теперь разделим эти блоки и разместим на всей Земле так, что один находится в Москве, второй в Париже, третий в Мельбурне, четвертый в Иокогаме и т.д. Отделенные друг от друга, эти блоки "психически мертвы", а соединенные (например, телефонными кабелями) они стали бы одной, интегральной "индивидуальностью", единым "мыслящим гомеостатом". Сознание такой машины находится ни в Москве, ни в Париже, ни в Иокогаме, но, в определенном смысле, в каждом из этих городов и, в определенном смысле, ни в одном из них. Потому что о нем трудно сказать, что оно, как Висла, имеет протяженность от Татр до Балтийского моря. Впрочем, подобная проблема демонстрирует, хотя и не так ярко, человеческий мозг, потому что кровеносные сосуды, белковые молекулы и ткани находятся внутри мозга, но не внутри сознания, и опять-таки нельзя сказать, что сознание находится под самым куполом черепа или, скорее всего, ниже, над ушами, по обеим сторонам головы. Оно "рассеяно" по всему гомеостату, по его функциональной сети. Ничего больше заявить на эту тему не получится, если мы хотим соединить сознание с возможностью рассуждать.

не придем ли мы неосмотрительно к выводу, что "космический граммофон" обладает им - и тем самым выскажем нонсенс? (А скорее неправду).

nadeys
С поправкой на то, что в случае Матрицы ответы можно читать в памяти спрашивающего.

nadeys
Да представить это легко, только это реальности не соответствует. Экспериментально фальсифицировано давно.

эээ... и часто вы ставите эксперименты с участием всесильных демиургов не ограниченных законами физики?

в конечном итоге останется почти не сознающий себя вечно стимулируемый центр удовольствия висящий посреди абсолютного нигде

читать в чужой голове можно варианты ответов

под бездумностью подразумевается отстутствие души или иного волшебного центра отвечающего за сознание

доказательство - центр сознания нейробиологи так до сих пор не нашли

втч сами эмоций-чувств не испытывают, хоть и изображают

минимально-необходимые для имитации

Поэтому я разницу между первым и третьим не особо понимаю.

эти механизмы минимально-необходимые для имитации

А вот если именно "минимально необходимые", то болванки будут походить на ботов из игрулин, и тогда, конечно, рано или поздно их станет недостаточно.

"Дружба — это оптимум" мелькала уже?