MonkAlex

Так я ж и не накладывал никакого ограничения на время моделирования. Факт в том, что для диалога необходима модель собеседника. Была она сформирована год назад или только что - роли не играет.

С таким подходом можно сказать, что сам факт задачи вопроса например на русском языке - уже достаточен чтобы ИИ создал модель задающего вопрос, т.к. есть информация для построения модели. И тогда модель есть всегда, моделирование в каком-то виде есть всегда. Тогда ответ на вопрос поставленный в топике - да, ИИ моделирует каждого задающего вопрос. И нет, это никак не влияет на то правильно ли люди моделируют вселенную. К слову получается что каждый моделирует вселенную и каждый неправильно, ведь модель у всех своя, а она не может быть верной у всех.

Кьювентри
Я не подбирал. Я взял первую ссылку из гугла. Возьмите любое другое.

MonkAlex

Ну вот вы сами ж и процитировали то, о чем говорю я:


Да, есть другие трактовки этого термина (включая чисто юридическую), потому я и сделал оговорку - "если понимать под личностью субъект социальных отношений". Если вы понимаете нечто иное (хотя, вы уже сказали, что не понимаете значения этого термина), то вы, конечно, вправе описать ситуацию с точки зрения этого альтернативного понимания. К примеру, ИИ пока еще не является субъектом юридических отношений, на сегодняшний день это объект во всех известных мне закондательных системах.

ИИ это человеческий индивид или что? Я потерял мысль.

MonkAlex

В точку! Любая информация от вас уточняет модель вашей личности. Об этом я и говорю.


Да, могу согласиться. Наши индивидуальные модели, конечно, во многом сходятся, но все они описывают окружающий мир лишь с некоторой степенью точности.

MonkAlex

Да. ИИ - разумная личность, носитель индивидуальности, причем вполне человеческой индивидуальности, сформированной суммой человеческой культуры.

BrightOne
Я бы сказал что у ИИ есть некоторые привычные нам человеческие элементы\компоненты личности. Как минимум приобретённые знания. Но, спорить на эту тему не вижу смысла. Это философия, психология, терминология вокруг и куча всего.
ПС: а у вас снова куча терминов вокруг которых надо плясать. Разум, индивидуальность - обсуждаемые вещи.

Кьювентри
Ну меня это цепляет прост.

В отличие от нейронки мы можем буквально видеть, что происходит у нас в голове. Не всё и не всё за раз, но неплохую часть того, что называем своим разумом. Так что это сомнение сродни сомнению в реальности своих мыслей, ощущений, эмоций - это следующий за солипсизмом шаг (солипсизм сомневается, что существует что-то вовне - а эта позиция о сомнении, что существует что-то внутри). Не рекомендую. Путь в безумие. Не говоря уж о том, что при таком сомнении как бы странно использовать "вселенную", "нейросеть" и пр. термины, потому что, ну ёпт, это же продукт мышления и осмысления, части больших связных моделей в голове, а мышление и осмысление поставлено под сомнение вместе с любыми моделями. Соответственно весь мир в таком зеркале мгновенно исчезает, остаются только сомнения в собственных ощущениях и "голое" "я". Повторюсь - не рекомендую.

Не-не-не, будь последовательной. Если ты встаёшь на такую позицию, то мгновенно отказываешься от "нейросеть", "вселенная" и даже "модель", это всё модели. Заодно от "предсказание", "эволюция", "проще", я уж не говорю о более сложных утверждениях типа "если проще, то вероятней" и им подобных - это всё продукт сложного мышления и моделирования, которое, "как мы только что установили", может быть полностью ошибочным и вообще отсутствующим, поэтому не может и использоваться в анализе. Ах да, "анализ" - это тоже часть модели мира, выбрасываем нафиг. Правда, "выбрасывать нафиг" тоже часть модели мира... В общем, если последовательно, а не как ты, эту позицию принимать, то получится что-то типа околобезумия или безумие как таковое.

"Причём это явно ПРОЩЕ, иначе нейросеть в эволюции не выбрала бы этот вариант"
Разберём эту фразу.
1) Явно проще - ну да, ну да, доисторическому ещё не совсем человеку было явно проще собрать 1000000 разных ситуаций перед глазами с их исходами и обучиться как искусственная нейронка. То, что у него столько за всю (недолгую, так-то) жизнь не происходило и происходить не могло - это мы, разумеется, во вниманье не берём. Но вообще да, ПОХОЖЕЕ в природе наблюдается, это инстинкты. Когда плюс-минус среда устойчиво-предсказуемая, то намного проще все паттерны передавать чисто генетически, ну и, в общем, без "мышления". В случае муравьёв каких-нибудь - их обученные до рождения нейронки-агенты ещё и оптимизированы для взаимодействий с другими версиями себя, в итоге получается весьма эффективная штука. Так что в принципе наблюдение верное: если есть возможность собрать миллиард ситуаций, просеять все варианты, запрограммировать все реакции - да, "природа" так и делает. У человека ситуация обратная.
2) Нейросеть не "выбирает вариант", а обучается специальными товарищами - людьми - на специально подобранных датасетах, ещё и отфильтрованных, а позже ещё и дообучается, чтобы меньше фигни порола, и критерии обучения и дообучения человек внедряет, а не сама нейронка.

То есть, сам по себе твой посыл интересный, но всё-таки неверный и/или нерабочий - рассыпается во время анализа. Причём он ещё и запрещает, ну, анализ, если принять его всерьёз.

BrightOne
Вау. Просто вау. Тут даже не надо как-то отдельно комментировать.

Я не знаю, кто такие "мы". О человеческом разуме люди судят при долговременном контакте с, собственно, друг с другом. Мгновенно обмануть человека может даже простейший телефонный бот, запрограммированный на чёткие реакции и распознающий только "да" и "нет". Можно, конечно, посчитать этого бота разумным, но я бы не стал. На самом деле, меня впечатляет, какое магией обладает усовершенствованное Т9 в отношении некоторых людей. И права ему дать, и собратом по разуму признать...

А ещё я вспомнил, что у меня с тобой был очень долгий разговор на эту тему, и даже в критериях разума мы не сошлись, а потом то ли тебя забанили за политоту, то ли я задолбался в ступе молоть, поэтому уж извини - повторять всё это заново не собираюсь. Как разумный человек, в этом месте я предпочту закончить диалог и пожелать тебе удачи в борьбе за права роботов.

Матемаг

Да, что-то было. Это вы советовали Чалмерса почитать? А то я почитал. :-) И теперь в упор не въезжаю, как его концепцию кто-то может принимать всерьез, невзирая на очевидную и вопиющую логическую нестыковку в самых основах.


Да ради бога. Спасибо. Вспоминая анти-ИИ риторику вначале 1990-х, потом 2000-х, а потом и 2010-х годов, мне остается лишь улыбнуться риторике 2020-х. :-)

Матемаг
Верно. Вообще это хороший универсальный аргумент против подкатов вроде «А вдруг моё логическое мышление не действует» или «А вдруг я мозг Больцмана».
Но тут немного другое.
Искусственные нейросети в разговорах в общем-то могут применять логику и математику. А когда сбоят — chatGPT случайно недавно объяснил мне причину, когда мы беседовали о его природе, он как раз привёл в пример случай, когда параметры поиска ответа вошли в конфликт и ради смешного мема про число «21» система давала неверный ответ на очевидный арифметический вопрос. То есть это было связано не с неспособностью системы к логике и математике, а с тем, что другой приоритет оказался сильнее.
Что это значит?
Что, если даже у нас внутри как у наших искусственных нейросетей, нет модели Вселенной, мы всё равно в общем-то можем применять логику и математику. По крайней мере, бихевиористически. Что это должно означать для наших ощущений — я не знаю.
Это сближается с рассуждениями Хоффмана, опять же.
Он доказывает, что эволюция не вырабатывала ни у одной формы жизни истинного восприятия вселенной, что «видеть истинную реальность» — контрэволюционно. Но в то же время он утверждал, что опыты на нейросетях показали: как раз логико-математические умения в процессе эволюции вырабатываются хорошо. То есть мы можем быть уверены, что хотя бы логика и математика внутри нас — настоящая.
Ты можешь сказать:
«Если базовые первичные ощущения настоящие (а как они могут быть ненастоящими) и если логика-математика настоящие, то как с их помощью мы могли построить неправильную модель (или вообще обходиться без модели)?»
Но ведь и у нейронок логика-математика настоящая. И слова она получает на предсказание самые настоящие. Но для того, чтобы предсказать следующее слово (и успешно предсказать), строит что-то иное.

BrightOne, ух ты, мой комментарий не отправился, оказывается, напишу заново:
К нему претензия, емнип, по поводу употребления понятия возможности, там оч спорную штуку он делает. Проблема в том, что опровергнуть её легко и просто не получается.

Мне бы сначала до просто ИИ дожить. Не говоря уж об ИР. Есть подозрение, что не доживу. Даже если дотяну до 60 (что вряд ли).

Кьювентри
Это не так работает. Никаких "параметров поиска" там нет. Вводом является весь (вероятно, модифицированный) текст переписки. Выводом - следующий токен. Следующим вводом - снова весь текст плюс появившийся токен. И так далее. Интересным моментом является то, что трансформер такого типа не следует вероятности следующего токена, которая могла бы в него быть залита. Нет, токенов и связей между ними слишком много - вместо этого даётся предсказание вероятности, что гораздо более интересная штука. Как ты видишь, никакого поиска здесь нет. Конфликтов, кстати, тоже никаких нет. Просто токен за токеном. А вариация ответа достигается тем, что разрешается использовать не только самые вероятные (т.е. предсказанно вероятные, а не обязательно вероятные в статистическом смысле) следующие токены, вводится разброс и с какой-то вероятностью (уже захардкорженной... хотя хз, может, от чего-то зависящей, я не специалист) выбирается один из вероятных ответов - не обязательно самый. Соответственно если GPT шутит вместо серьёзного ответа - это означает, что сработал рандом, который встроен внутрь и который заставил пойти по менее вероятной цепочке токенов. Кроме того, любая цепочка токенов, составленная с помощью предсказания вероятностей, вообще говоря, может быть галлюцинацией, но это совершенно отдельный вопрос.

Ну теперь ты знаешь, что это не приоритет, а подброшенная внутри программы монетка:) С помощью какой-то псевдослучайной последовательности, ага (потому что часто генерить "настоящие" случайные числа дорого).

Вообще говоря, я бы не сказал, что "применять что-то" здесь употребимо, думаю, понимаешь, почему.

Наши ощущения собраны в целое. Думаю, ты и сама это можешь увидеть в любой момент. По сути, соединённые в восприятия ощущения, изменяющиеся в течение какого-то времени представляют собой, ну, модель. Другое дело, что если мы отрицаем свою способность к логике и моделированию, то они могут НЕ представлять модель, но при этом ОЩУЩАТЬСЯ моделью. Т.е. ну типа как смотришь на графин, а он ощущается дождём. Понимаешь, о чём я? Посему любое ощущение собственной логики, любая цельность восприятия и пр. легко опровергаются тем, что они могут только ощущаться таковыми. Здесь уже один шаг до безумия.

*пожатие плечами* Чувак что именно подразумевает под истиной? Я лично хз, но между нашими ощущениями/восприятием и "реальностью" есть довольно хорошее соответствие. Потому что это, ну, типа, способствует выживанию? Знать, где еда, где вода, где опасный хищник, а где жертва - это, ну, эволюционно. Да, наши рецепторы предоставляют более узкий спектр, чем могли бы, но это не означит, что он весь из себя такой ложный. Да, в нашем мозгу есть баги и фичи, которые дополнительно искажают сигналы от органов чувств. Но в целом, эм, хз, о чём ты и о чём тот чувак, но мы вполне адекватно воспринимаем реальность.
...интересно, этот чувак вообще в курсе, что в науке не принято манипулировать такими штуками как "истинная реальность", вместо этого используются вероятные модели? Судя по твоей цитате - не в курсе. Удивительное рядом. А наука изучает, прежде всего, "как". И потом, на сдачу, может иногда объяснить "что".

Там настоящий огрызок логики/математики, который можно извлечь из языка. На самом деле, очень круто, что из языка можно извлечь настолько много.

Матемаг

Да это-то еще ладно. Там посерьезней косяк. По его мнению, сознание не супервентно на физическом и, соответственно, не участвует в причинно-следственной связи. Но с хрена ли он тогда уверен в существовании у него самого сознания, с хрена ли он на этом основании делает какие-то выводы (ибо мыслительные процессы - вполне себе физичны, имеют материальный субстрат и т.п.) - оппаньки, провал в рассуждениях. Справедливости ради, он этот косяк не замалчивает, но ответ его сводится примерно к следующему: "да, это парадокс, и нам придется с ним жить". Не, ну спасибо, конечно, но тот же элиминизм никаких парадоксов не порождает и жить с ними не приходится.

Его сторонники, насколько я знаю, впадают в махровый декартовский дуализм (типа сознание есть, но мозг знает о его существовании "просто так", а не потому, что сознание на него как-то влияет), но это мало того, что является филиалом чайника Рассела, так еще и не снимает исходный вопрос: а с чего ты, дядька Чалмерс, так уверен, что ты не тот самый зомби, про которых рассуждал всю дорогу?

Короче, почитать было интересно, но Деннет убедительней на порядок.

BrightOne
Нет, об этом пишется явно и прямо едва ли не в самом начале. Чувак говорит, что есть люди, которые вообще никакой проблемы с сознанием не видят, им совершенно пофиг на "базовый" аргумент чувствования и с ними не о чём говорить. Вот это ты. Например. Т.е. такие люди ничего "особенного" в своём личном ощущении не видят и никак не отделяют его от структуры ощущений, например. Вероятно, на уровне аксиоматики. Т.е. тут нет никакого провала, это даже не рассуждения, а базовая посылка: есть сознание как осведомлённость и восприятие. А есть сознание как первичное ощущение, ощущение само по себе, множество сменяющих друг друга квалиа. С первым всё понятно и оно активно изучается. Со вторым же... Ну, подтверждение ему каждый человек буквально постоянно получает, собственно, своим ощущением. В каждый конкретный момент. Прямо сейчас, например. Философский зомби тоже будет утверждать, что у него есть квалиа (ну если это не философский зомби из числа отрицателей квалиа, каковые и у нас имеются, например, ты - это не оскорбление, квалиа отрицают на уровне концепции многие философы и учёные, это просто позиция такая), кстати. Потому что идея квалиа следует из системы. А вот его наличие - его наличие подтверждается в каждый конкретный момент.

Как что-то плохое вне науки.

Самое забавное, что ни с чего:) Более того, возможен вариант, когда он или, допустим, я философский зомби всё время, кроме воскресенья. Можно говорить о своей философо-незомбичности только в прямо текущий настоящий момент, и всё.

Матемаг
Честно говоря, я не очень понимаю, чем всё это противоречит идее «Смешной мем про число "21" уменьшил навскидочную вероятность, что система ответит арифметически правильно». Разве что к слову «вероятность» придраться, но здесь это мера нашего незнания. В разных мирах chatGPT могли бы обучить микроскопически по-разному, мем про число «21» мог бы иметь микроскопические отличия, и так далее.
Ну и:
— если система «умная», то она должна быть компетентна в том, как её сделали;
— если система «тупая», то она скорее в ответ на такие мои вопросы будет почти прямо цитировать записи из логов программистов, и тогда опять же её объяснение не враньё.
Вероятность фантазий в такой сфере невелика.
С этим постоянно борются и к настоящему времени мне случалось видеть такое только у Грока. И только при невозможности получить реальную информацию по запросу.
Да, хотя опровержением версии это не является. Это как опровергать Аргумент Симуляции тем, что «ваш аргумент построен на допущении, что надвиртуальный мир похож на реальный, ну а если он совсем не похож?». Лол, если «надвиртуальный мир не похож на реальный», то тогда мы ТОЧНО находимся в симуляции, о чём ещё спорить?
Так и здесь: ты говоришь: «если твоя конструкция верна, тогда наша логика неверна и как ты можешь тогда доказывать свою конструкцию?» Я говорю: «лол, если моя конструкция верна, то, значит, мне уже не нужно доказывать её».
Если искусственная нейросеть предсказывает следующее слово без модели автора, возможно, она могла бы разобраться, где вода и всё такое, без модели реальности.
Возможно. Но ведь и у нас нет доказательств, что мы имеем нечто большее. Сколько имеется фантастических рассказов-шуток на тему «математик вдруг обнаружил логически корректное доказательство, что 2=1, и свихнулся» или «кто-то вдруг обнаружил, что есть целое число между 4 и 5, коего мы не замечаем». Вообще математика, мне кажется, в нашем мозгу изначально построена по принципу «на ходу генерирующегося лабиринта» в оптимизированном шутере. Она не существует вся целиком.

Матемаг
Я как бы отделяю на уровне ощущений.
Но я вижу здесь серьёзную логическую проблему в связи с тем, что если мы сможем наконец проанализировать мозг как структуру элементов, то поймём, какое именно свойство мозга заставляет нас открывать рот и говорить: «Но я чувствую, что в моих ощущениях есть что-то ещё, кроме структуры! Какой-то невидимый свет, я не знаю, без которого всё было бы неодушевлённым!» И это свойство мозга окажется структурным по идее, поскольку всё в мире работает через причины и следствия, мы интерпретируем это как структуру.
И если мы перенесём эту структуру на другой носитель, пусть даже такой, про который Чалмерс будет говорить, что там что-то не то с супервентностью, то этот самый носитель будет яростно защищать те же утверждения и бороться против своего отключения. Это парадокс. Впрочем, да, по вашему описанию, кажется, Чалмерс его не отрицает. Отказаться от неопозитивистских идей доказуемости, попытавшись построить другую метафизику, опирающуюся среди прочего на смутное внутреннее сиюсекундное чувство себя? Тут возникнут очевидные проблемы, замеченные тобой: поди докажи, что «невидимый свет» не существует только по понедельникам, не существует только у нации луговых марийцев, и так далее.

Матемаг

Да не, я не об этом. В самом начале этого нет, разговор об этом он только в пятой главе начинает и причем сразу же сливается. Речь не о том, чувствую я свое сознание или нет. Речь о том, что мое восприятие собственного сознания НЕ МОЖЕТ свидетельствовать о существовании сознания ввиду аргументации самого же Чалмерса. Если мой физический мозг знает о существовании ассоциированного с ним сознания, значит сознание каузально и вступает с физическим объектом в причинно-следственную связь, что прямо противоречит концепции Чалмерса. И наоборот: если сознание нефизично, то оно не может передать в мозг информации о собственном существовании.


Не получает. Из ощущения сознания не следует сознания - по крайней мере, в том смысле, в каком этот термин употребляет Чалмерс. Ввиду вышесказанного.


Угу. Больше того, он может абсолютно искренне верить в то, что у него есть квалиа - и Чалмерс, вероятно, из числа таковых. Но реально знать о существовании квалиа субъект может только в случае супервентности квалиа/сознания на физическом - что Чалмерс долго и многословно отрицает.


Неа. И в прямо текущий тоже нельзя, в том-то и дело. Ну, то есть чисто теоретически я допускаю существование некоей нефизической херни, как-то ассоциированной с нашим мозгом (правда, тогда придется переопределить термин "существование", т.к. лично для меня реальное существование - физический процесс, протяженный во времени). Но ввиду нефизичности этой херни узнать о ней мы не имеем шансов. Замечу: сама она "узнать" об особенностях материального мира в принципе может - я не знаю, какова ее природа и на что она способна. Но материальный мозг - не способен менять свое состояние (в том числе и приобретать новую информацию) под действием нефизичной сущности.

Кьювентри
Это противоречит словам о "параметрах поиска", которые "вошли в конфликт". Во-первых, никаких конфликтов там нет, во-вторых, нет поиска. Я вроде бы на конкретную вещь отвечал.

Ты свободно пользуется если-то здесь. А должна бы отказаться, "если конструкция верна". Ты продолжаешь обсуждать выводы из идеи, что логика не работает и/или не верна, используя логику. И потом переспрашиваешь, что же в этом не так. Серьёзно?

Разумеется, может. Даже может в самой реальности разобраться, чего уж тут. Для этого ей надо организовать стопицот "датасетов разных реальностей" или типа того (понятия не имею, как это может выглядеть), а на ввод дать параметры нашей. Проблема в том, что "датасетов реальности" не существует. По сути, искусственные нейронные сети как бы "охватывают явление" подобно пластилину, который при контакте с неровностью принимает её форму - но более сложно. Поэтому нам надо очень много версий неровностей, чтобы внутри нейронки отразились не просто они все, но ещё и "неровность вообще" - некое статистическое её обобщение. Подобные трюки можно провернуть с тем, на что у нас есть хорошие критерии правильности, раз, можно набрать датасеты, два. Например, изи с речью. Или с картинками. И даже с видео можно. А вот для таких интересных запросов, как как-то в блогах предлагали, чтобы нейронка сама превращала картинку в объём, проставляла математические соотношения между элементами этого объёма и потом могла по запросу юзера их модифицировать, а потом обратно в картинку сплющить - уже нет. Не потому, что это чем-то принципиально запрещено. А потому, что у нас нет достаточно числа датасетов типа картинка - объёмный чертёж и объёмный чертёж - математическое представление. Хотя полагаю, со вторым ещё что-то можно сделать, пусть собирать будет и непросто, а вот с первым - трындец. То же самое с "могла бы разобраться, где вода и всё такое" - ну нужен датасет текстов с водой и текстов без воды, в общем, текстов, маркированных процентом воды. Так не делают. Вероятно, никому не нужно?

Ну да, в том и фишка квалиа. С ним очень тяжело работать традиционными инструментами, которые рассчитаны на причинно-следственность. Квалиа как бы есть (ощущается), но как бы нет (играет роль не ощущения, а структура ощущений). Чалмерс, впрочем, придерживается позиции, что структура связана с квалиа, т.е. структура, качественно подобная структуре нашего разума автоматически порождает квалиа. И предпочитает в качестве онтологии использовать панпсихизм. То есть, он придерживается концепции, что в НАШЕМ мире сознание -> квалиа, потому что он так устроен. А в каком-то другом мире (с другой онтологией/физикой/etc) это не обязательно так. Посему философский зомби возможен в других мирах, не в нашем, хотя, емнип, экзотические варианты философского зомби и в нашем могут существовать - типа, если разум/сознание совсем иначе устроены. Позиция в целом не особо противоречивая, основной способ к ней придраться - это к "философский зомби возможен в другом мире" или "возможен мир, где существуют философские зомби". Потому что "возможен" используется в очень спорной связке: "мыслим, следовательно, возможен". Ну и ещё о чём БрайтВан говорил - ну, что типа квалиа вообще нет, т.е. предмета разговора тоже нет - но об этом я писал выше.

BrightOne
Почему не может? Это самое сильное свидетельство из вообще возможных. На самом деле, вся окружающая реальность может быть матрицей, а ты - мозгом в банке, но текущее, сиюминутное ощущение у тебя прямо сейчас есть. Чисто принципиально не может быть свидетельства сильнее. Тут такой момент. Нельзя доказать, что такое же ощущение есть у других людей, что они не философские зомби. Но про себя лично ты можешь говорить чётко, потому что ты лично - чувствуешь. Отрицать это можно лишь отрицанием самого чувствования, разве нет?

Вообще, емнип, Чалмерс там дальше через как раз информацию пытался с квалиа играть, но до конца я не дочитал или дочитал и забыл уже. А так - тут момент различия между "мозг придумал идею квалиа" и "у меня есть квалиа". Первое не есть квалиа и не связано с ним причинно-следственно.

С другой стороны, это одна из позиций относительно квалиа. Не помню, обозревал ли Чалмерс и её тоже или нет (начнём с того, что Чалмерс, вообще-то, поднял тему - т.е. его труд наверняка сейчас старая классика, а философия сознание сделала 10 шагов вперёд, о которых я не в курсе), но да, попытаться включить квалиа в причинно-следственные связи - это путь. Аргумент философского зомби является центральным в том, чтобы "запретить" это включение. Если философский зомби возможен, то квалиа не включено в причинно-следственные связи. В том и фишка, что одновременно отрицать своё текущее, живое ощущение и при этом считать, что оно, эм, не существует ни в каком смысле и никак никем не ощущается - это очень странная позиция. Но какие ещё варианты помимо признания особого статуса квалиа?

Ага, но он при этом делает супервентность с комбинацией физики и "метафизики", насколько я понял. И нет, "реально знать" субъект о квалиа можно, потому что квалиа - это не только ощущение-здесь-и-сейчас, но и ПОНЯТИЕ этого ощущения. К которому можно прийти логическим путём, вполне себе причинно-следственно. Т.е. понятие квалиа супервентно на физическом. Квалиа - нет. У существования квалиа есть более сильное свидетельство, чем логика.

Узнать - см. выше, имеем, потому что понятие квалиа - не квалиа. Почувствовать - прекрасно можем в каждый текущий момент.

Дык он и не меняет. Ведь узнаёт он о квалиа и переживает квалиа - совершенно независимым образом. В том и центральный аргумент Чалмерса, что квалиа может быть как понятие открыто и изучено как философским зомби, так и чувствующим разумом, причём совершенно одинаковым образом. Просто зомби не чувствует квалиа. Но он может считать, что оно у него есть, потому что структурно ничем от незомби не отличается. По мнению самого Чалмерса, квалиа "находится" не в структуре, а в "окраске элементов структуры" или типа того. Т.е. мы как бы добавляем свойство, которое ничего не делает, но при этом в структурах, похожих на разум, формирует нефизическое ощущение, квалиа. Т.е. два мира, в одном из которых сплошь филзомби, а в другом - незомби, отличаются тем, что в одном кирпичики материи покрашены, а в другом - нет.

Матемаг
Чувствую потенциал срачегенности, но о'кей.
Здесь всё ещё нет логического противоречия. Если я пытаюсь логически доказывать, что логика в нашем мозгу неверна, и если при этом логика в нашем мозгу действительно неверна, — значит, я озвучиваю совершенно правильный вывод, хотя и пользуясь неверными инструментами. И речь в конечном итоге о правильности вывода.
При этом «неверность инструмента» относительна — как уже говорилось выше, логикой и математикой искусственные нейросети могут пользоваться как минимум в ограниченных масштабах. Всегда можно предположить, что моё рассуждение (обесценивающее логику в нашем мозгу) корректно сработало потому, что на этом масштабе логика работала.
Вот это вот да, наверное, сильное возражение. Интересно, что вероятней в масштабах Вселенной — что Вселенная подсунула эволюционирующим существам чисто случайно «стопицот датасетов» или что возникла правильная модель реальности в чьём-то мозгу?
Ты имеешь в виду что-то вроде идеи предустановленной гармонии, по которой понятия о квалиа и наши рассуждения вслух о квалиа возникают параллельно сами собой без всякой причинно-следственной связи с квалиа? Кажется, это та самая причина, по которой над чалмерсовским понятием о квалиа издевался Юдковски. Я сейчас пишу о своих квалиа, но делаю это не из-за своих квалиа, это просто параллельно совпало так, философский зомби на моём месте делал бы то же самое.
Замечательная версия.
Её можно сделать чуть более правдоподобной, вспомнив, что «свобода воли» — иллюзия, и сказав, что «квалиа» не являются причинными прародителями чего бы то ни было, а лишь пассивными отражениями. Но и это как-то грустненько (какие-то метафизические Предтечи решили пошутить и через пятое измерение приделали к каждому мёртвому импульсу боли в нервной системе метафизического страдающего живого наблюдателя, который пассивно страдает и не может сбежать, лол).
Если серьёзно:
— эта гипотеза как бы удваивает квалиа, говоря, что есть две равные по сложности и изоморфные друг другу структуры «там» и «здесь».
Она информационно избыточна, поскольку проще предположить, что тогда находящаяся «здесь» структура — и есть квалиа. На интуитивное чувство недоумения «я не понимаю, как этот кирпич или эта ионная эстафета в мозгу может быть сама для себя квалиа» — забить.

Матемаг

Неа. Ощущение - свидетельство существования "чего-то", но оно ни хрена ровным счетом не говорит о природе этого чего-то. Взять махрового атеиста и материалиста вроде меня, устроить стимуляцию височной доли - и он ощутит такое божественное присутствие, что Моисей с Жанной Д'Арк от зависти лопнут. А уж тонны когнитивных искажений на все вкусы - наглядная демонстрация того, что ощущение - весьма хреновое мерило истины. На практике мы как раз адекватность ощущений проверяем по согласованности нашей модели мира и по тому, как это ощущение в него вписывается. Именно эта модель - самое сильное свидетельство из существующих. А ощущение - просто состояние мозга, и вызвать его может буквально что угодно.

В данном случае мы ощущаем себя, и ощущение это называем сознанием (и да, у меня это ощущение тоже есть). Но с какой стати мы это ощущение должны наделять внефизической природы? Собственно, даже Чалмерс этого не делает - он пытается выводить акаузальность сознания логически. Рассуждение его ошибочно, но он все же пытается.


Ну да. Из чего следует только то, что в какой-то форме я как субъект восприятия существую - вполне тривиальный вывод, до которого еще Декарт допер. А вот выводы о квалиа, о внефизическом сознании и т.п. из самого факта ощущения не следуют вообще никак.


А иначе и никак. Если квалиа каузально - без проблем, у меня нет принципиальных возражений против такой его трактовки. Возражения у меня, причем фундаментальные, против внефизичности. Даже панпротопсихизм имеет право на существование (ничем не подтверждается, но хотя бы и явных косяков в логике не имеет), но внефизичность сознания - пардон, бред.


Не странная, если высказывает ее пресловутый зомби. :-) У него действительно нет достаточных оснований считать, что субъективные ощущения есть у кого бы то ни было.


Ну как какие? Признать квалиа иллюзией и когнитивным искажением, а его "особый статус" - чисто коммуникационной проблемой. Я так и делаю, собственно. Наши сложности с тем, чтобы объяснить слепому инопланетянину, чем ощущение красного цвета отличается от ощущения зеленого, связаны не с "особым статусом", а лишь с тем, что у нас никогда не было возможности показать свои ощущения кому-то извне, ткнуть в них пальцем и сказать, что это, мол, зеленое. А со всем прочим, что есть в нашем языке, такая возможность у нас была. Ближайшая аналогия - мы точно так же не можем (ну, почти) объяснить в режиме чата, чем правое отличается от левого. Без того, чтобы размахивать руками, крутиться вокруг своей оси и тыкать пальцем. Вроде бы обнаружили не так давно стереоасимметричные процессы в физике элементарных частиц, которые позволяют построить такое объяснение, но для этого с обеих сторон чата должны быть специалисты по этой части.


Нет, он ничего не комбинирует. Он просто рассматривает две трактовки сознания: функциональную и феноменальную. Существующие теории сознания он отбраковывает именно по причине того, что они описывают функциональное сознание (как состояние мозга), а сам он пытается построить теорию именно феноменального сознания, которое у него в причинно-следственную связь не вступает.


Как? Логика не создает информации и не увеличивает сумму знаний, логика - просто формальная система. Чтобы при помощи логики прийти к выводу о существовании сознания, это знание уже должно быть частью известной информации, а это возможно только в том случае, если оно порождает физические факты, т.е. является физически наблюдаемым. Если таковая сущность есть, то она может быть чем угодно, но только не феноменальным сознанием Чалмерса.


Да это не аргумент, это мнение, притом явно ошибочное - см. выше. Мнение это может быть верным лишь при изучении физического явления. Но Чалмерс с первой главы отрицает его физичность (собственно, концепцию зомби он привлек именно для этого: чтобы показать, что возможны два физически идентичных живых человека, но при этом лишь у одного из них будет сознание, а значит сознание - нечто, не описываемое физикой и не участвующее в физических взаимодействиях).


Вот только почувствовать мозг его может лишь в том случае, если оно таки ж физично и, следовательно, функционально (т.е. про "ничего не делает" - уже неверно). В противном случае мозг не изменит своего состояния, никакого квалиа не ощутит и не запомнит. Само это гипотетическое бесплотное сознание может чувствовать все, что угодно, но самим людям это по барабану - они не получают никакой информации и никаких ощущений от такого сознания. Все равно, что невидимый призрак, который таскается за нами по пятам и не влияет ни на наше поведение, ни на наше восприятие.

Кьювентри
Нет, разумеется. Где вторая сущность-то? В голове у людей есть тонна понятий, которые не отражены в реальности. Квалиа может быть одним из них (и многие считают, что так оно и есть, в общем-то).

Осталось сопоставить. Проблема в том, что сам по себе процесс сопоставления... ну, а как его построить? Как "доказать", что ощущение-здесь-и-сейчас и вот эта конфигурация мозга - это одно и то же? Очевидно, что это НЕ одно и то же - одно есть ощущение, другое есть конфигурация. Что в информационном плане, что в физическом - в физическом вообще никаких ощущений нет, есть состояния мозга и процессы в мозгу. Которые потом можно интерпретировать как ощущения - а толку?

Примерно в этом районе теорвер отказывается работать:)

Ты всюду здесь использовала логику. Правильность - это понятие логики. Если-то - логика. Предположение - логика. И так далее. Такое.

BrightOne
Оно говорит о существовании самого себя, разве не так? Ты ощущаешь что-то. Верно? Ощущаешь же (в предположении, что в нашем мире нет философских зомби, лол)? Вот и. А мог бы не ощущать с сохранением осознания структуры ощущений. Т.е. ты бы знал, что видишь синее, но не ощущал бы синее. Фактически та твоя часть, которая отвечает за анализ, не различает осознание синего от ощущения синего и не может отличать - она не работает с квалиа. По идее, чисто эволюционно ничего не должно работать с квалиа и квалиа не должно быть в принципе, потому что никакого смысла в них нет. А они есть. Странное.

Ну, у него, как и у меня, есть память об ощущениях (на самом деле, структуре ощущений, потому что каждое конкретное ощущение никак не сохраняется в памяти). Предположить, что за каждым набором свойств стоит конкретная сущность, довольно просто, мы так и делаем.

Тогда возникает вопрос, как нам указать квалиа. Ну, типа, а где оно. Если оно участвует в причинно-следственных связях, то оно, ну, существует как объект, процесс, состояние, etc. После последовательного анализа оказывается, что квалиа не оказывается ничем из перечисленного. Нет, можно, конечно, какую-нибудь "душу" добавить, но чё-т с обнаружением души у науки туго идёт, хех.

Ну см. выше, так и делают те, кто не считают квалиа чем-то вообще существующим, например, ты.

Так он вроде и соединяет две концепции сознания, нет? Функциональная соответствует функциональному сознанию, феноменальная - феноменальному. Они они существуют одновременно. Феноменальная - это к квалиа, функциональная - ко всему, что сейчас в этом районе изучает наука.

Эм, физическая информация, вообще говоря, генерируется непрерывно, мозг - это физическая система. В чём проблема, не могу понять? Каждое взаимодействие двух макрообъектов "оставляет отпечаток" на них обоих. С микрообъектами такая же бодяга плюс-минус, не зря в квантмехе были вопросы к тому, что информация уничтожается в чёрной дыре, потому что так быть не должно. Ты исходишь из положения, что информация - это чисто виртуальная сущность, висящая в вакууме, но это не так. Ну и наконец: в замкнутой системе энтропия не убывает, но в открытой... Аналогию между закрытой системой и формальной логикой и открытой системой и нашим мышлением можешь провести сам:)

На самом деле, люди придумали кучу вещей, которые не являются физически наблюдаемыми. И вообще не существуют. Если применить твоё рассуждения к ним, то получится, что где-то всё-таки существуют розовые единороги, какающие радугой, но это, вероятно, неверно и таковых нет. Математических понятий вообще ни в каком смысле не существует и существовать не может - однако же! Кстати, как там с Богом? Если применить твоё рассуждение к нему, то... ой вейт!

Пока что его логика мне кажется если не безупречной, то имеющей малую долю недочётов. В смысле, попытка сделать квалиа физическим просто укажет на какой-то физический аспект ощущений. Не на квалиа. У меня даже воображения не хватает, как сделать квалиа физическим. Т.е. такая система, модель или эксперимент не мыслится. Возможно, я просто тупой, конечно.

О том и речь, что физическая система "мозг" его не чувствует. Поэтому физической разницы между филзомби и нефилзомби тупо нет.

Квалиа не запоминаются.

Именно так. Мне это, кстати, не нравится, но как я писал выше, не мыслится даже эксперимент, который может квалиа в физическое перенести. Был бы у нас мир не материалистический - тогда да, тогда мыслился бы, а так...