(продолжение ответа, весь не влез)
Asteroid
Я же говорил, что согласен, что понятия (не слова! я повторю, что бывают понятия без слов, давай просто понятия оставим, ОК, чтоб ещё со словами не путать?) детерминированы на физическом, я согласен, что они формируются через изменения в физическом мире, тут у нас нет противоречий. Я повторю, что не считаю их частью физического мира, несмотря на то, что они им полностью определены. Так понятно?

И чем таким концептуальным отличается доступ к файлу на жёстком диске с его прогрузкой в оперативку от доступа к воспоминанию? Но первое ты называешь сырыми данными, а второе вдруг приобретает статус "информации". То есть, ты выделаешь некий класс преобразований "данных" (кстати, что это такое?) в "информацию" и обратно, в то время как все остальные преобразования оставляют данные данными (ну или удаляют, не суть важно). Можешь детерминировать этот класс преобразований? Назвать необходимые и достаточные условия, чтобы вот это преобразование было данные->информация, а вот то - не, только данные->данные.

Интересно, что я вообще не помню никого, кто бы согласился с тобой по этому определению, ну, что мозг хранит "данные", а не "информацию". Все статьи, все энциклопедии, все эксперты называют это "информация". И в оперативке мозга, и в долговременной памяти, без разницы.

Не, ну смотри, если нечто физично, то мы можем описать/определить его через физические процессы. То есть, дать не терминологическое/логическое/etc определение, а "физическое", т.е. ткнуть и сказать, вот, эту область реальности называем "множество". Но начинаются проблемы, потому что само слово "область" уже требует "множество". Аналогично "базовое свойство" - свойство уже требует "множество". Аналогично "у разных людей" - это тоже требует множество. То есть, ткнуть во что-то одно - легко, никаких проблем. Но мы как бы тыкаем сразу в кучу мест...

Ну и, допустим, ты получишь супердетектор понятия множества в голове. Что дальше? Понятие множество - это интенсионал (допустим, ты волшебным образом умеешь детектировать измерения в любой голове, соответствующие любому интенсионалу множества), но потом ещё экстенсионал (т.е. то, что значит в реальности "множество") и, наконец, связь между ними. Как ты задетектируешь экстенсионал множества? Интенсионал, допустим, простым объединением всех вариантом, в каждого человека суперпупернанороботы внедрили и считали все вариации реакции на слово "множество". Положим, это возможно (вряд ли, но допустим). А с экстенсионалом как быть? Со связью между ними?

Определи, чего ты хочешь. Эта "свобода выбора" - что это такое? Ты же любишь функциональный подход? Определи через него. Структурный? Можно и так. Неважно. Как угодно!

Где?

Предопределённость зависит от влияния случайности на ход нашего разговора. Предопределённость не значит "ясность", "знание" по понятным причинам. Предопределённость не равно предсказуемости.
Присваивание как связано с выбором? Это просто локус контроля, такое психологическое понятие, не более того. Твоя психика может работать одним образом (считаешь ошибки и достижения "своими") или другим (считаешь стечением обстоятельств), или третьим каким-нибудь, не суть важно, со свободой выбора это никак не связано, просто ещё одна вещь, которая определяется совокупностью факторов, часть из которых ты идентифицируешь как "я", "моё", а часть - как нечто внешнее. Выбора я здесь не вижу, что ты поделил мир на "внутреннее" и "внешнее" - ну так тебе удобно, это вообще удобно - так делить, правда, к свободе воле не относится.

Я хз, фаталист я или нет, к слову.

Где практика-то? Внутренние ощущения? Ну дык людям под ЛСД тоже много чего кажется. Или во сне. Есть то, что кажется, а есть то, что реально. В реальности никакой свободы воли не зафиксировано (может, позже найдут, как и душу или сверхсветовой двигатель, но сейчас-то нету!).

Совершенно верно. Более того, если мы обратим внимание на мир, то окажется, что сложением можно назвать, а можно не назвать, в зависимости от точки зрения, кучу разных вещей. Сложение нефизично, верно. Но это не тот же тип нефизичности, который относится к квалиа. Квалиа нефизично другим образом. Программа не может найти не "сложение", а "осознание", т.е. она нигде в себе не видит того, что отвечает за её живой опыт, феноменальное сознание. В посте я поднимаю вопрос нефизичности понятия. А Чалмерс поднимает вопрос нефизичности квалиа. Это две разные штуки, не надо путать, они нефизичны (если понятие нефизично, вдруг я не прав?) по-разному. И дальше твоё рассуждение никак вообще не касается феноменального опыта, ты оперируешь исключительно структурой и функциями. А квалиа не имеет структуры и функций, понимаешь? Что касается понятия, что оно имеет структуру, насчёт функций - ну хз, скорее нет, чем да, вопрос спорно-терминологический, однако также не является физическим (по моему мнению). При этом и квалиа, и понятия жёстко детерминированы физическими процессами. Т.е. не существует ситуации, когда есть квалиа/понятия и нет физпроцесса. С другой стороны, легко представима ситуация, когда есть физпроцесс, но нет квалиа (более того, поскольку мы имеем доступ только к физпроцессам, нельзя вовсе понять, есть квалиа или нет, кроме непосредственно личных, наших квалиа). С понятиями иначе, похоже, что не существует ситуации, когда есть физпроцесс и нет понятия. При этом понятие не является совокупностью физпроцессов.

Матемаг
Сцуко. Очень большой коммент стерся. Второй раз так подробно расписывать влом.

А где слова в передаваемых по сети сообщениях? Там электромагнитные поля какие-то скачут.
Попробуй вытащить сетевой провод, прислонить к языку, и прочитать сообщение. Почему ты не требуешь, чтобы там было возможно увидеть слова напрямую?

"способность думать и действовать, опираясь на логику и факты. "
Но тут как и с многими другими понятиями: можно сделать разные определения, в зависимости от необходимой задачи.
А вообще, это одна из главных загадок современности, а ты хочешь, чтобы я её не только решил, но и тебе взял и за два предложения разжевал. )))
Почитай рекомендованную книгу, посмотри, как наш разум работает, какие есть особенности входящих в него механизмов. Может чего поймешь, и не будешь действительно простыми вопросами загоняться. А то столько времени убить над понятием кодировки...

А осмысленность определяется через разум.
Тут, кстати, один из главных приколов в том, что разум работает непрерывно отражаясь от самого себя, используя себя в качестве точки опоры и определения.
Но какое-то пусть не определение, но понятие дать можно: осмысленная информация - сырые данные обработанные подсознанием и загруженные в оперативную память для обработки сознанием.

Осмысленно информационные - нет. Там только сырые данные обрабатываются.
Кстати, заметь, клетка в основном обрабатывает свои собственные данные, реплицируя их в будущее. Это свойство, которое позже будет характерно для мозга. Это просто забавный факт, не надо приписывать мне утверждения линейного развития разума из свойств днк. )))

В первый раз про это слышу. Можно поподробнее? Источник какой-нибудь.
Имхо, инстинкты кошки на порядок сложнее инстинктов мухи.

Стоп. Ты путаешь сжатие и упрощение. Когда видеопоток начинает описываться некими данными по предсказательной модели, он не упрощается.
Способность научения позволяет индивиду сжимать информацию быстрее, чем это сделают инстинкты.

В одной молекуле описана структура всей клетки, а позже и многоклеточного организма. Нифига себе не сжато.

Что значит "через"?
Функциональность (действие) порождает внутреннюю работу разума, которая порождает понимание. Без функциональности никакое понимание невозможно.

Конечно бред. Только не надо приписывать этот бред мне.
Я говорил о вполне себе конкретных черных ящиках человеков, для которых это работает. Не о окрашенных в черный цвет картонных коробках.

А разве понимание - это дискретная, двоичная величина "есть/нет"? Попробуй пообщаться с чатжпт - какое-то понимание там есть. Выше ли оно 0,73? Кто знает.

А что такое функциональность в данном случае? Может способность ответить на вопрос: закипает ли он? Как нам определить соответствие функциональности и понимания?
Уж на что я не парюсь соблюдением терминологии, но ты вообще суперрасплывчато говоришь. )))

В смысле? А домики из песка строить?

https://www.youtube.com/watch?v=HcfHBgUTn7I
Вот смотри: на выходе понятие. )))

И этот мозговой сигнал и есть закодированное в внутренней кодировке понятие.
Я не понимаю, отчего понятие кодировки для тебя такое сложное.

Теперь мы снова возвращаемся к программе, которая не может понять, как она складывает числа. И вход по разным каналам идёт, и активны разные ядра, и выход по разным шинам идёт, а считается почему-то каждый раз 2+2.
"Ну уж нет, через функциональность это загадочное сложение точно никак определить нельзя!!!"

Матемаг

Нет. А что это значит вообще?
Летящий сквозь суперструны демон Энштейна имеет больше смысла, чем сказанное тобою.

Отвечая на первый вопрос: тем, что доступ к воспоминанию предоставляет информацию в внутреннем формате данных, с которым непосредственно работает разум.
Если изобретут евовские нейросети (к чему всё идёт), то они будут, несмотря на искусственное происхождение, предоставлять человеку в мозг именно информацию.
Отвечая на второй тезис: да.

Сложна технически, но просто концептуально: класс преобразований, который превращает сырые данные в непосредственно готовую к восприятию разумом информацию.
Написать необходимые и достаточные условия - это по сути написать тз для создания нейрочипа. Это не моя работа, чтобы в это так вкладываться. Но навскидку: необходимое условие - достаточно хорошая точность чтения и записи эм-волны в мозг. Насчет достаточного - хз.

И я называю это информацией. Но из некого уважения разделил терминологию в этом обсуждении на сырые данные и осмысленную информацию, потому что это по сути разные вещи, называемые одним термином. Представь, как тебе бы весело пытаться понять написанное, если бы я этого не сделал. )

"Если это физический процесс, то мы сможем ткнуть некую область оперативной памяти, и сказать, что там всегда хранится результат вычисления 2+2"

Потому что работа высоких абстракций затрагивает сразу кучу всего.
"Где хранится понятие множества на компьютере?" - смотрит наша несчастная программа, и не может понять. Какие бы наборы данных она не брала, они всегда в разных местах хранятся. "Поэтому," - решает программа, - "множество невозможно функционально определить, оно нефизично! (что бы это не означало))"

Слушай. Я в эту волшебную терминологию лезть не хочу.

Свобода выбора - это возможность выбирать и следовать своему выбору.

Тут. Там. Везде.

Но какие внешние случайности могут влиять на наш разговор, когда позиции уже жестко определены? Наши нейросети находятся в стабильном, устойчивом состоянии относительно этого вопроса.
А значит, финал этого разговора уже предопределен.
И да, я не говорил, предсказан.
Норны уже тянутся за ножницами. Чувствуешь фатум? )))

Откуда тогда вообще появилось понятие свободы выбора? Наши несчастные нейросети должны от рождения своего вида слепо следовать уготованной судьбе, надеясь, что боги случайностей сыграют в нашу пользу.
Хотя нет, откуда в детерменированном процессе родится надежда.

Везде вокруг. У нас в культуре издревле закреплено понятие свободы выбора, мы чувствуем его, мы наблюдаем его. А противоречат этому только какие-то мутные, построенные на воздухе теории.

https://www.youtube.com/watch?v=Z3IZxHFGFGI
2+2 нефизично!

Потому что она только начала разбираться, как работает компьютер, на котором она запущена. Ничего, вот поймет особенности адресации и выделения оперативной памяти, и ей будет понятно, отчего результат вычисления 2+2 каждый раз в разной ячейке оказывается.

Кто сказал? Например, отвратительный запах включает режим отвращения, в котором наш мозг начинает работать несколько иначе. А музыка раскладывается на звуки ударников, гитары и прочих инструментов.

Понятие - результат работы разума. Поэтому, такие ситуации есть. Никто не слышит звук падения дерева на обратной стороне Луны.

Слушай. Я уже слишком много времени потратил на эту ерунду

Asteroid

(я закрываю не относящиеся к сути ветки диалога, думаю, тебе самому уже надоело на мелочи отвечать, если нет... ну, мне - надоело. но я всё прочитал, твои ответы дошли)

(апд: и вынес в начало вот это)
Тогда просто напиши, что "прочитал, но не согласен", и закончим с этим. Мне-то что, я оттачиваю формулировки, ухватываю новые грани понимания, а тебе - "ерунда", т.е. тебе разговор невыгоден.


А я нигде не требую. Просто, ну, нету слов в физике. Или укажи, где они. Я вот не вижу. Ты в ЭМ-полях тоже не видишь. Как быть? Выходит, слова нефизичны, так? Потому что любая попытка указать на них указывает лишь на какой-то физический процесс, слов в нём нету.

*вздох* "Факт" определяется через информацию. Не вышло. Выходит, информация всё-таки неопределима и не является физической, так? Или не информация, а разум, да, ты прав, можно разные группы понятий и утверждений брать за первичные.

Это, кстати, очень хорошее слово. Кодировка где-то в физическом есть? Или таки нету? Физические процессы преобразуют материю из одной формы в другую, но чтобы "дотянуться" до информации/понятий/разума/фактов/множества/etc, нам нужно перестать ограничиваться физическими процессами. Они замкнуты внутри себя, физическое рождает физическое - и само порождено физическим, выхода оттуда нет, я это наглядно иллюстрировал весь диалог.

То есть, он неким образом (не каузально, а... как-то иначе, слов не подберу) замкнут внутри себя, т.е. ментальное замкнуто внутри себя и не может быть выражено через физическое. Верно? Несмотря на то, что мы можем в неких общих чертах проследить историю возникновения разума (и конкретного, и разума вообще), это будет физическая история. Но с определённого момента параллельно ей начинает идти ментальная история, через физическую невыразимая, пусть ей и полностью определяющаяся. Так?

Во-первых, "подсознание" - это вообще ненаучный термин, штука опровергнутая давным-давно. Во-вторых, похоже, ты сможешь определить информацию через данные, и, честно говоря, я не сомневался в этом. Следующий вопрос, будет тем, который наверняка предполагал: определить данные через что угодно физическое. Думаю, понятно, что я считаю, что "данные", равно как и "информация" можно как угодно хорошо локализировать (они находятся "здесь"), но нельзя определить через те штуки, "где" они находятся. А поскольку физическое каузально замкнуто, то отношение между данными/информацией и физическим - это НЕ отношение причины-следствия, а какое-то другое.

https://wolf-kitses.livejournal.com/84643.html
https://wolf-kitses.livejournal.com/84892.html#cutid1
Конечно.

Смотря что понимать под "функциональностью". Давай я ещё раз (см. выше) в явном виде сформулирую вот так:
1) Определённые физические процессы порождают "внутреннюю работу разума", или ментальное; это порождение - не отношение причина-следствие, а какое-то другое, потому что следствия физических процессов - только другие физические процессы;
2) Ментальные процессы могут порождать понимание, и это уже отношение причины-следствия, но внутри ментального, а не внутри физического (эквивалентно можно сказать, что физпроцессы порождают последовательность ментального такую, что одно из звеньев является пониманием; поэтому мы можем как бы запараллелить каузальность физического на каузальность ментальности, второе полностью порождено и определено первым).
Если понимать под "функциональностью" именно функционирование/работу/метаболизм/жизнь устойчивых, гомеостатических систем или их частей.

Наличие/возможность понимание - это вполне себе дискретная величина, есть-нет. А далее идёт уже недискретная "правильность/корректность понимания". У нейронок нет понимания, потому что они не обладают интеллектом. Обладать интеллектом - это значит, уметь свободно манипулировать моделями внутри себя. Нейронки - это просто слепки функций, если хочешь, слепки навыков. С тем же успехом можно говорить, что "пониманием" обладает выборка данных, на которой они обучались. Или что пониманием обладает закон природы, потому что, ну, он же тоже представляет собой закономерность в данных. Но я предлагаю особо не спорить по этому поводу, потому что у нас могут быть разное понимание слово "понимание", хех.

Это будет функциональность отвечания-на-чайниковый-вопрос, а не функциональность чайника. Нам никак не определить соответствие функиональности и понимания, потому что они никак друг другу не соответствуют, конечно. Именно это я и иллюстрирую. Аналогично с квадратной формой. В мире нет реального объекта "квадратная форма", поэтому нельзя говорить о функциональности. Слово "функциональность", "функция" применима исключительно к объектам, а "квадратная форма" - не объект. Аналогично с функциями, которые не могут быть присущи только объектам класса 1 (чайникам), но не объектам класса 2 (людям) - функциональность чайника не может быть перенесена на человека прямо, хотя, конечно, можно попробовать найти общее (например, нагрев воды) и натянуть, что человек - это тоже немного чайник, потому что может взять в руки стакан воды и за счёт тепла ладоней нагреть его до комнатной температуры. Я не понимаю, почему я должен формулировать НАСТОЛЬКО очевидные вещи явно. И тем более неясно, почему ты не понимаешь, что функциональность объекта не связана с пониманием объекта ровным счётом никак, это, ну, очевидно. Даже если объект - разумная система, её функциональность, как уже было в примерах выше, не связана с пониманием ей функций, можно выполнять функции без понимания и иметь понимание без способности к функции. Связи нет ни в одном случае.

Оно не сложное. Оно просто нефизическое, и я пытаюсь уже довольно долго натолкнуть тебя на эту мысль. В физических явлениях нет никакой кодировки, просто одни физические процессы порождают другие, другие - третьи. И так далее. Получается непрерывный каузальный поток, непрерывный поток причин и следствий, ткущаяся реальность. Места для "кодировок", "данных", "понятий" в этой реальности нет - она не просто причинно замкнута, отношение причинности - это вообще единственное "значимое" для объектов внутри отношение, больше никаких отношений в физической реальности нет. Однако кодировки, данные, понятия, разум, осмысленность - есть. Просто они не являются частью физической реальности. Хотя ею полностью определены.

Конечно, нельзя. Можно определить выход по входу. Где там "сложение"? Его нет в веренице физических сигналов. Да, это МЫ интерпретируем какие-то физические сигналы как сложение. Программа так же может. Но отношение интерпретации не является физическим, поскольку оно не является причинно-следственным. Отношение интерпретации (я специально пишу "отношение", а не просто интерпретация, чтобы отделить физические процессы, НАЗВАННЫЕ интерпретацией (потому что они ей соответствуют) от самой интерпретации, думаю, ты понимаешь разницу) выводит за пределы физики. В этом нет ничего "волшебного", потому что за пределы физической причинности оно не выводит.

См. выше. Если хочешь прям пример-примерыч, то можешь представить себе легчайшую пылинку, вращающуюся вокруг тяжёлого тела. Это физическая система. Влияет ли тело на пылинку? Да, оно практически полностью определяет её движение. А как насчёт обратного? Пылинка практически не влияет на тяжёлое тело - она имеет слишком маленькую массу. Теперь устреми массу пылинки к нулю. Чем меньше её масса, тем меньше от неё влияния и тем меньше остаётся от физической системы. Больше нет взаимодействия - только действие. Так же происходит и с, например, данными. Они полностью определены физическими процессами. Но не оказывают на них никакого ответного влияния. Физика - про взаимодействие. Как только у нас исчезает сама возможность взаимодействия - исчезает и физическое. Аналогично с квалиа. Марлаграму я приводил пример с совершенными зеркалами и светом, можешь открыть весь тред и поискать, он также иллюстрирует, что такое действие без взаимодействия. Информация - это свет, реальность - зеркала.

Понятно, снова замкнутый круг, разум через информацию, информацию через разум и так далее, в общем, эту ветку тоже имеет смысл закрыть.

По отношению к предмету нашего обсуждения информация и данные эквивалентны, т.е. конкретно в нашем контексте разницей можно пренебречь без потери... хе, информации.

(вторая часть ответа)

Asteroid
Стандартная терминология семантики и логики. *пожатие плечами* То же самое, что и "содержание понятия", а экстенсионал - то же самое, что и "объём понятия", но чтобы двести раз не писать "понятия-понятия-понятия-понятия" есть специальные слова.

То есть, ты "свободу" детерминировал как "возможность X и продолжать X", я понял. Выбор-то детерминируй? Потому то сейчас структура выглядит как "Свобода X - это возможность X и следовать (конкретному экземпляру) X". Но X по-прежнему без определения. Со свободой у тебя тоже непросто, потому что ты определил её, прежде всего, как модальность - модальность возможности. Теперь возникает интересный вопрос: а где вообще находится эта самая модальность, что это такое, где возможность есть в физическом мире? Потому что, см. выше, я явно описал тебе, как "выглядит" физмир - это каузальный поток. В нём есть причины-без-своих-причин - это случайности, здесь ничего особенного нет, у которых событий нет причин, кроме "граничных", т.е. отражающих, в каких границах "случается" это беспричинное событие. Каузальный поток отражает модальность необходимости и модальность случайности. Ты же используешь модальность возможности, но как будто бы её в реальности нету. Поэтому, помимо определения понятия "выбор" я прошу определить и местонахождение (экстенсионал, объём) понятия "возможность" в физическом мире. Насколько я знаю, его там нету, но я могу быть не прав.

Позиции определены не жёстко. А если даже супержёстко - сами по себе нейросети мозга не работают бихевиористски, как это ты формулировал, у них есть внутреннее состояние (в отличие от чатжпг, к слову, почему она не может иметь понимания в принципе, на уровне концепции - даже технически разбирать не надо). Внутреннее состояние меняется в зависимости от разных, в том числе внешних факторов. Но достаточно просто увеличить масштаб. Возьми солнечную систему и увидишь, что внешних факторов, способных повлиять на наш разговор, почти что нет. Но, предположим, есть какие-то физические события, которые могут повлиять на него опосредствованно - например, вспышку сверхновой увидят астрономы, а дальше цепочкой причин-следствий дойдёт отголосок и до нас. Просто возьмём видимую вселенную. Всё, это каузально замкнутая область, всё, что не случайность, то детерминировано, любой процесс - это сочетание случайности и закономерности. Да, некоторые причинно-следственные связи могут соединять между собой далёкие звёзды и нейронные сети живых существо, но менее детерминистичной ситуация от этого быть не перестаёт.

Удобная штука для функционирования общества. Кажется, финикийский торговец лучше знает теорию, уточни у него, но если по верхам, то с помощью понятия "свобода выбора" создаётся понятие "ответственность", "вина", "справедливость" и далее работает судебная система, которая достаточно эффективно (ну, не всюду и не везде, ясен пень) регулирует работу общества. С другой стороны, создаётся всякие там этика, мораль и так далее, которые также контролируют работу общества, но с неформальной стороны. В целом, это результат естественного отбора: общества, в котором "свобода воли" не выработана как понятие, оказались менее эффективными и не выжили. Или - как вариант - оказались на вторых ролях. Тут надо подробно разбираться в восточных, например, философиях. Или в философии каких-нибудь индейцев, коренных жителей американских континентов, чтобы ответить на вопрос, есть ли у них понятие свободы воли или нет. Хотя, конечно, именно эволюционное объяснение не обязательно лучшее, вернее, возможно, что большее влияние оказал не естественный отбор на уровне сообществ, а, например, какое-нибудь культурное бутылочное горлышко во времена, когда людей было совсем-совсем мало (у людей как вида было такое горлышко как минимум одно), отчего все более поздние мировоззрения унаследовали "свободу воли". Третья версия - особенности работы нашего мозга в принципе, это самое "ощущение свободы" и "ощущение выбора", которые оказались полезны для выживания особей/вида, поэтому закрепились. Какое из объяснений верно? Неважно. Важно, что принципиально есть боле одного варианты происхождения этого понятия без всяких "душ" или "квантовых магий". Так устроен мир.

Так, тут я не буду, как отвечал выше BrightOne-у, пытаться пересказать философский труд своими словами, в частности, почему квалиа нельзя объяснить через функциональный или структурный анализ. Просто открывай "Сознающий ум" товарища Чалмерса и читай. Например, здесь proxi.flibusta.is/b/340482 Или открой флибусту как-то иначе, например, через тор, и вбей в поиск. Или вообще купи бумажную книгу. Суть в том, что не имеет смысл пересказывать подробный анализ, в том числе анализ кучи различных позиций по вопросу, их силы и слабости и так далее, вместо того чтобы адресовать к месту, где этот анализ был уже произведён.

Нет, конечно. Ощущение запаха ничего не включает, эмоцию отвращения (этот "режим" называется "эмоция") включает запаховый сигнал. Это знаешь, как в том ответе, кажется, Лапласа про Бога: "В этой гипотезе я не нуждался". Аналогично и здесь. Можно последовательно объяснить любое поведение человека и работу его мозга без живого опыта, без ощущения чего-то. В терминах функций, ага. В терминах структур. Такой сигнал, такая реакция, такое состояние. Или в психологических терминах, такое ментальное состояние, такое восприятие, такая эмоция, такое представление, такие мысли, такие команды. Нигде здесь не нужно будет само по себе качественное объяснение, само сознательное, сама синева, само ощущение отвращение. Но ты же что-то чувствуешь, правда? У тебя есть ощущения, ты не просто бесчувственная эмоционально-мыслительная машина, так? Солёное, горячее, белое - это не только стимулы, вызывающие те или иные состояния, эмоции, о которых ты можешь дать отчёт, но и то, что ты проживаешь - нечто, невыразимое словами. Это и есть квалиа. Опять же, подробно о квалиа см. Чалмерса, анализ близок к исчерпывающему (и это я ещё не дочитал). Проще узнать там, чем слушать от меня пересказы аргументов, контраргументов, контраргументов-к-контраргументам и так далее.

Развёрнутей: не существует ситуации определённого типа работы мозга без появления понятий. То есть, есть определённые физпроцессы - есть понятия. Для квалиа же: есть процессы в мозге - нет квалиа. Совершенно непротиворечивая, естественная ситуация. Или: есть процессы - есть квалиа. Аналогично, ситуация естественная и непротиворечивая. В этом разница. Думал, из контекста понятно, что речь идёт не объёме понятия, а о "процессах соответствующих содержанию понятия", которые происходят в мозгу. Аналогично - о "физпроцессах детерминирующих квалиа", которые также происходят в мозгу.

//это замечание по ходу к вторичной детали

Не бывает идеальных зеркал в нашей реальности! Не бывает "просто света"! Сама философская концепция "замкнутой системы из зеркал, отражающих свет" вопиюще антифизична уже век как. Там такое количество взаимодействий в этой системе, в том числе принципиально энтропийных...

PS
А вот в мягкой или старой НФ абсолютные зеркала, особенно на принципе полного временного стазиса (отражение от границы области остановленного времени) смотрелись классно.

Marlagram
Да, конечно. Но приходится прибегать к аналогиям, потому что в физической реальности и действия без взаимодействия тоже нет. Вот причины без следствия и следствия без дальнейших причин найти можно, а действие без ответного действия - навскидку идей нет. Спонтанное перерождение одной частицы во множество частиц? Так там и действия тоже нет, т.е. ни на что оно не действует, а как только есть действие - так сразу и взаимодействие. На то она и физическая реальность. Что поделать - приходится мыслить НЕ НАШУ физическую реальность. И делать аналогии с ней.

Матемаг
Они не просто неочевидные, они настолько контринтуитивные, что у меня голова болит пытаться понять, что ты говоришь. )))
Пропущу часть, пока не разберусь с кое чем.

Так подожди. И чего тут нефизичного?
Дело в том, что для меня нефизичное - что-то несоответствующее физике. Обычно я таким термином именую всякий треш в историях. Типа, рывков, которые за счет силы ног мгновенно перемещают на несколько метров и тут же сбрасывают скорость. Особенно забавно это смотрится, когда ггшка бежит от чего-то, периодически делая рывки, и никак не может оторваться. ))

Но ладно.
Я кажется начинаю понимать что есть проблема кроме кодировки. Вот генератор электромагнитых колебаний - тоже нефизичен? А то ведь у него есть своё внутреннее состояние, которое он поддерживает, не особо завися от внешних условий. А если "физичен", то где граница его физичности, когда мы начнем усложнять систему, и в конечном итоге дойдем до нынешних нейросетей?

А как тебе полупроводниковый транзистор, тоже нефизичен?

Разум - это рекурсия. Поэтому любое определение разума будет включать в себя его же. А ты требуешь определить рекурсивную функцию не упоминая вызов функции.

А я как раз про жестко определенное внутреннее состояние и говорю.
Так что там с Норнами? ))

В чём смысл обьяснять что-то самое базовое через нечто другое? Это как попытка обьяснить аксиомы через теоремы.
Именно поэтому чушню Чалмерса я читать не буду.

И ты жаловался, что я пишу мало осмысленного. Но проблема в том, что это просто ты не видишь смысла, потому что вкладываешь в понятия совсем другой смысл, и после попытки интерпретации суммы моих слов получаешь что-то не то. Вообще не то. Потому что ответ ты формулируешь вообще к чему-то другому. Про ту же кодировку ты так и не понял.

Матемаг
С чего ты взял, что дискретная?
Вот разговаривал я как-то я поляками и белорусами, и бывает, слушаешь, и вроде бы, что-то понятно, а что именно - непонятно. Несколько раз послушаешь, задашь уточняющий вопрос, и волшебная абракадабра постепено превращается в вполне понятные слова. А до этого, те же самые слова складывались в совершенно разные смыслы.

Эм, манипулируют они моделями. Недаром, самый популярный способ хака нейронок - предложить ей считать себя кем-то другим. Об этом же куча мемов гуляет по сети.
И если в какой-то момент сложенная куча навыков приобретет навык манипулирования моделями?

Нет. По первому: понимание возможно только для процесса. По второму: у закона нет головы (и при чем тут вообще закономерность?).

Матемаг
В общем. Ты с меня кучу определений требуешь. А сам не смог дать определение того, что такое нефизичное. При этом, это у тебя главная опора всех рассуждений.
Так что это?

Матемаг
Слушай, а у тебя в универе не было проблем с пониманием производной, как предела отношения дельта Ф к дельта Х?

Asteroid
Эм... ну... даже не знаю, что сказать, вещи реально очевидные.

Ну вот теперь у тебя есть другой тип нефизичного. "Не" - означает отрицание, отрицать тоже можно по-разному. В данном случае - не являющееся частью физической причинности, каузального потока реальности.

То есть, энергию ему подводить не надо? Или это "не внешнее условие"? И взаимодействовать с брошенным камнем он не будет? И излучаемые им волны тоже ни с чем не взаимодействуют? Или всё-таки физичен твой генератор? Прям максимально странные аргументы у тебя.

Наоборот, даже самая простая система может быть ещё и нефизична. Повесить интерпретацию можно на что угодно. Смысла обычно нет.

То есть, в программировании нельзя написать ни одну рекурсивную функцию, потому что для этого надо уже иметь рекурсивную функцию? Нет, можно. Так что не вижу никаких проблем, но тогда тебе придётся определить "рекурсию" конкретно для разума. И любая рекурсия в программировании раскрывается в цикл. Рекурсивных определений в непрограммировании нет, их последовательно избегают в науках. Таким образом, выглядит всё это как "спрячусь от ответа в домик", только вместо домика - рекурсия.

Ну если ты птица Тегмарка, которая созерцает математический узор вселенной, пролетая над ним, то никаких проблем быть хоть всеми норнами сразу нет. К сожалению, мы - часть этого узора, а не птица Тегмарка. То есть, всё детерминировано, за исключением того, что ещё и случайно. Свободы воли нет, ну или по крайней мере, я её не нашёл. От тебя тоже не увидел даже не примера, а просто определения, в итоге получается, что ты просто зачарован той самой эволюционно/меметически сложившейся иллюзией о выборе. Даже если со стороны реальности стучатся и говорят, мол, проснись, Нео, ты в Матрице, Нео просыпаться не захочет, иллюзия слишком сладка.

Так квалиа таки базовое? Ну значит, ты согласен и со мной, и с товарищем Чалмерсом, договорились.

В таком случае верно и обратное.

Эм, ты читаешь, что я пишу? Возможность понимания - дискретная. Правильность/корректность - нет. Итак, когда ты разговариваешь с белорусами, ты в случайные моменты то разумен, то неразумен? Или всё-таки разумен постоянно, просто степень понимания варьируется?

Для манипуляции моделями нужно внутреннее состояние и способность автономной работы. Это не достаточные, а самые-самые первые необходимые условия, дальше ещё есть, но нейронки - кристаллизованные навыки - уже на этом сыпятся.

Ну к этому навыку надо добавить онлайновую изменчивость и довесить "пространство", в котором он будет работать (аналог нашего воображения или даже бессознательного, у нас оно и там, и там есть). И можно будет посмотреть. Однако обучение нейросети, даже дообучение - это достаточно громоздкий процесс, чтобы не быть онлайновым просто по самой концепции нейронки. Они и не предназначались на роль сильного ИИ, ими просто решают конкретные задачи, иногда - целый ряд задач. Хороший инструмент, но хайпа типа "у него проблески разума!!" - дофигища. Это не у него проблески разума, а в обучающей выборке.

Самое забавное, ты и сам так же, как я, считаешь, но не видишь, что процесса в нейронках нет. Не, есть нейронки даже с прикрученным внутренним состоянием, они уже ближе к разуму, но всё ещё по архитектуре своей очень далеки.

См. выше - то, что не является частью каузального потока реальности (но может быть им порождено). Соответственно, в физической реальности можно найти только некое соответствие нефизическому, но не его само. Есть, кстати, специальное слово: эпифеномен.

Я не закончил университет, потому что слишком тупой. Но, да, у меня были проблемы и до сих пор есть проблемы с математикой, потому что мне для именно понимания-понимания требуется сознавать некое определение, некий конструкт до самого низа. С производной это ещё получается. С интегралом - уже нет. В голове не выстраивается схема вниз до теории множеств. У математиков всё выстраивается. Это одна из причин, по которой мне для понимания квалиа, например, нужно читать умных людей, а не просто посидел-подумал и всё понял. Нормальным людям достаточно собственного воображения. Ну, и времени, конечно.

Матемаг

Так я и ответил - чувствую. С чего мне отрицать "реальность, данную в ощущениях", если сама моя личность - продукт преобразования поступающих на вход чувств нейросеткой моего мозга? А вот квалиа, во всяком случае, в том виде, в каком эту хрень описываете вы и Торговец, - да, пожалуй, что отрицаю. По вышеизложенным причинам: если квалиа все-таки является частью причинно-следственной связи, то я не вижу достаточных оснований выделять ее в какую-то отдельную от обычного восприятия категорию, а если не является, то я не понимаю, как хоть кто-то может знать о ее существовании, если любое знание - продукт отражения реальности, что подразумевает таки ж причинно-следственную связь.


Да не надо пересказывать все. Достаточно ткнуть мне в нос единственную возможность воспринимать квалиа, которые не участвуют в причинно-следственной связи. До Чалмерса я, конечно, доберусь, он у меня на полке стоит, но ответ-то на мой вопрос у вас есть?


Давно задумался. Проблема, на мой взгляд, - чисто коммуникативная. Планковская длина, двоичная система и т.п. - вещи, о которых нетрудно договориться. Показать друг другу наглядные блок-схемы, потыкать пальчиком, изобразить пантомиму, сослаться на других. А вот затащить собеседника в свой внутренний мир и ткнуть носом в особенности своего ощущения, да еще и сравнить его с ощущением собеседника - хрен там. Нет коммуникации - нет языка - нет и развитого понятийного аппарата. Как в анекдоте о том, что вначале периодическая таблица приснилась Пушкину, но он ни хрена не понял.


Огромной силой. Именно это ощущение может заставить меня (ну хорошо, не меня, но моего сына - точно) на ночь глядя лезть в холодильник за шоколадкой. А вкус испорченной брюквы порождает совсем другие мотивации. Как по мне, участие в причинно-следственной связи налицо. И с цветами аналогично. Одни цвета мне нравятся больше других. Они могут вызывать явления синестезии, ассоциации и даже провоцировать паническую атаку ("У меня нет рта, но я должен кричать"). Не участие в причинно-следственной связи, по-вашему?


Я не путаю, я просто придерживаюсь иной терминологии - более распространенной в академической среде (не философской, а естественно=научной). О чем мы вроде как уже объяснились.

Матемаг
А земля очевидно плоская.

То есть. Это определение.
Так что тогда, нынешние нейросети являются частью физической причинности? А генератор? Ты так прямо и не ответил - где граница?
Это главные вопросы.

То есть, он определен казуальным потоком реальности. Да?
А насчёт энергии: сколько ты без подвода внешней энергии просуществуешь?

Твоя голова тоже не взаимодействует с брошенным камнем? Или эм волны не излучает? Или всё таки она физична?

Ага, почти верно. Твой компилятор должен это уметь. Нельзя просто так взять, и написать рекурсивную функцию. )))

Фракталы?
И нет, это не избегание, а попытка ответить.

Который на порядок сложнее и запутанней. То есть, не выгоден для "кодировщика" природы.

Ну извини, если тебе пример выбора нужен, то он для тебя бесполезен.

Потому что фатум. )))

Я даже с Гитлером в чём-то согласен. Что уж там. Не обязан же я менять свою позицию по вопросу, если с ней согласен Чалмерс. )))
Только тут главное, что квалиа крайне физично, потому что это простая реакция нейросети - взвешенное суммирование. Это просто базовая кодировка.

Именно что!
В прошлом столетии негров в зоопарке показывали вместе с неразумными животными. Отчего ты выдаешь им, никак не умеющим с тобой общаться, возможность понимания, но не выдаешь её умеющему поддерживать диалог чатботу?
Более того, получается, мы оцениваем корректность понимания того, что возможностью понимания не обладает. Противоречие вижу я.
В целом, неправильная постановка вопроса какая-то, с ног на голову, как и всё у тебя. Мы никак не можем оценить возможность понимания у черного ящика. Только его корректность. А уже на основе этой корректности делаем вывод о наличии.

И ты почему-то связываешь понимание с интеллектом. Но это только для нашего разума верно, основанного на специфичной архитектуре. Кто сказал, что понимание не может быть отделено и быть самостоятельным механизмом? Просто природе изготавливать отдельно механизм понимания, без связанного с ним механизмом разума нет профита.
Но сделать это искусственно никто не мешает.

Сессию они помнят, иногда неделями. Это чисто техническая сложность, причем, больше связанная с экономикой и затратами на одного пользователя.
А вот способность автономной работы - это уже не обязательное условие, а натянутое тобой. С чего это оно обязательно для манипуляции моделями? Хопкинс не был разумен?

И почему ты считаешь первое обязательным?
Пространство в котором он работает есть - его память.
Мне кажется, что ты считаешь, что каждый разум должен быть похожим на человеческий. Это не так.

А человеки без обучающей выборки тоже всего лишь обезьяны.
Чатжпт - это практически рафинированный механизм понимания, без всего остального разума. Насколько это возможно.

Полноценного разума у нейронок ещё нет. Понимание - есть.
Разум строится на понимании, но оно без него возможно.
И опять-таки, некий процесс внутри нейронок идёт. Они дообучаются, они отвечают. Другое дело, что процесс этот прерывен в силу архитектуры. Но обязан ли разум быть непрерывным? Нет. Главное, чтобы он был последовательным. Хотя... и это тоже возможно не обязательно.

Тогда, по аналогии: производная - не математична. Потому что, какой бы казуальный интервал Х и определенное им казуальное соотношение дельта Ф к дельта Х мы не взяли, они не будут детерминировать производную произвольной функции Ф.

Это вообще какое-то странное деление. Смотри:
Ты говоришь, что результат работы нейросети детерминирован. Значит, он казуален. Значит, наш разум физичен в твоём смысле.

BrightOne
Элиминизм. Просто другая аксиоматика. Нам не о чём говорить, для вас не существует предмета обсуждения.

Есть обратное: участвовать в причинно-следственной связи БЕЗ квалиа. Поскольку квалиа обусловлены физическим, то где физическое с причинно-следственностью, там и квалиа. Но поскольку возможно обратное, то квалиа, в сущности, не обязательны. Но есть. Нет никаких противоречий в забирании у вас, у меня или у кого угодно квалиа. Поведение, структура, функциональность не поменяется. Просто не будет квалиа. Но между тем, квалиа есть. Ну, для меня. Для вас их нет, поэтому я не знаю, зачем вам отвечаю, вы же элиминист, другая аксиоматика.

*пожатие плечами*
А на мой взгляд, проблема концептуальная. Но в вашем понимании она техническая, потому что передать "сладкий вкус" для вас - это передать структуру ощущения, поэтому разработать соответствующий язык можно. При желании можно не разрабатывать, а что-то типа технотелепатии замутить. Квалиа, конечно, будут в стороне. Зато индивидуальные оттенки смысла сладкого вкуса, его сравнительную силу с острым вкусом и другие структурно-функциональные штуки передать удастся, даже язык не нужен, ну.

Нет, конечно, вас заставляет это делать сигнал, а не ощущение. В ощущении вы не нуждаетесь для объяснения ситуации. К вашим услугам весь аппарат нейрофизиологии, психологии, etc. Единственное что, часто "ощущение" и "сигнал" смешивают, как смешивают феноменальное и функциональное сознание, например. Сладость-ощущаемая не нужна вам для объяснение, бритва Оккама обрезает эту сущность, будьте уж последовательным элиминистом, ну что ж такое! У этой сладости нет никакой причинной силы, следовательно, её не существует. Л - логика. У сигнала причинная сила есть. Или у ощущения-как-сигнала, это вопрос чисто терминологический. Определённое отношение этого ощущения-сигнала к другим штукам в мозгу, теле (или психике, ментальном, в зависимости от выбранной вами науки) вызывает соответствующие ощущения. Аналогично с брюквой и т.д. Это структурно-функциональные штуки, ощущаемое вам для них не нужно, забудьте об нём, оно вам в принципе не нужно, разве нет?

Ну я уже утерял контекст за время между ответами, беседуя с Астероидом.

(1) Asteroid
Является причиной или является следствием - вот и вся граница, не вижу никаких проблем. Нейросети - почему нет? Просто надо отличать нейросети как феномен от нейросетей как идеи/понятия. Нейросеть как феномен - вполне себе штуковина, находящаяся там-то и там-то, не вижу препятствий к тому, чтобы она была физической. Генератор - аналогично. Интерпретация нейросети как, допустим, слабого ИИ - это уже нефизическая штука.

Почему сложно отвечать на вопросы о границе - потому что см. конец поста. Мы существуем в мире понятий, мы ими мыслим, они образует непрерывную пелену между нами и физической реальности, барьер, который не может быть разрушен (ну разве что предположить, что это делают квалиа, но эт такое себе предположение, очень спорное). То есть, сам по себе переход от конкретного спектра ощущений к объекту, т.е. минимальное обобщение - оно выводит нас за границы физического. Но при этом мы можем мыслить физическое различными моделями и абстракциями. Пока мы не "метамыслим", т.е. не начинаем размышлять о самих моделях, абстракциях, обобщениях, нашем мышлении, информации и так далее, модели физического остаются замкнуты в себе. Более того, поскольку сам процесс мышления имеет закономерности, то мы можем мыслить о нём как о физическом тоже, как бы скрывая переход от биохимии к мыслям. Ну, насколько я это понимаю.

Отдельно добавлю, что я это прямо сейчас осмысляю, ты можешь посмотреть на дату поста - ну где-то дня три от неё отними и получишь дату, когда мне пришла в голову сама идея, что понятия - нефизическая штука. То есть, это всё - не какая-то разработанная теория с многолетними размышлениями, не стоит ждать от меня предельно формальных выкладок, их (пока что?) нет.

В чём проблема? Определён. Более того, я явно говорил, что понятийный пласт ТОЖЕ определён физическим. Я никогда с этим не спорил. Я лишь говорю, что он НЕ ЯВЛЯЕТСЯ физическим, а вот что он им определён, детерминирован, причём жёстко - я согласен полностью. Тут не о чём спорить. Аналогичные рассуждения применимы к моему телу и его отношению к моему разуму. А вот ты, кстати, в нижней части нашей переписки не согласен с этим детерминизмом. Там, где рассуждаешь о свободе воли. Это иронично, не правда ли? Я стою на позиции физического детерминизма и отсутствия свободы воли, но утверждаю, что понятийное нефизично, а ты стоишь на позиции свободы воли, но утверждаешь, что понятийное физично. Т.о., конкретно тебе (для меня не выйдет) можно попробовать определить понятия/информацию через выбор/душу:) Это будет не моя позиция, но интересно, что она тоже выводит за пределы "просто физики". Просто другим образом. Попробуй, может, интересное получится?

Я нигде не утверждал, что голова или волны нефизичны, см. выше. Вот про разум или понятия говорил. Про голову или волны - нет. Непонятно, что ты пытаешься опровергнуть.

*пожатие плечами* Ты сейчас пытаешься указать на какой-то особенный статус рекурсии? Рекурсии разворачиваются в циклы. Получается, у циклов особый статус? Что же в нём такого особенного? Непонятно.

Строятся последовательным углублением. Циклами же, ну.

*пожатие плечами* Это обращение к принципу минимального действия или к чему именно? Всё биоразнообразие вокруг неустойчиво, гомеостаз возможен только благодаря притоку энергии извне. Практически же мне сложно представить рекурсию. Циклы - да. Но тут я просто не осведомлён могу быть, вроде бы, в квантовой теории поля есть рекурсия, но это именно вычислительный приём, не помню точного названия, и на практике он тоже раскрывается в цикл. Можешь привести пример рекурсии, который в природе НЕ раскрывается в цикл?

Ушёл от ответа. Ну вот:( Переформулирую: дай пример выбора, который не детерминистичен и не случаен, а ещё не является комбинацией того и другого. Потому что "выбор", вообще, помимо волшебного неведомого значения, который придают ему сторонники свободы воли, имеет более приземлённое - переключение системы/процесса другое состояние/режим, не обязательно дискретное, кстати. Понятно, что ничего свободовольного в таком определении нет: переключение детерминировано предыдущим состоянием реальности.

*удалил начатый было ответ* Не, я не собираюсь дублировать полкниги Чалмерса, чтобы доказать, что квалиа нефизично. Ну начни хотя бы с философского зомби, как одного из главных аргументов против физичности квалиа. Последовательно аргумент звучит так (скрывая определения):
1) Мир философских зомби мыслим (см. философский зомби)
2) Следовательно, он возможен (см. семантика Крипке)
3) Но в наш мир - не мир философских зомби
4) Следовательно, квалиа не является логически супервентным на физическом
5) Квалиа нефизическое
Причём нефизическое в намного более сильном смысле, нежели то, что я говорил о понятиях: в смысле логической супервентности, т.е. квалиа сопровождают физические феномены... а могли бы и не сопровождать, от этого ничего бы не поменялось в физических феноменах. А когда я рассуждаю о понятиях, то полагаю, что они-то как раз логически супервентны, т.е. нельзя убрать понятия, не изменив что-то в физическом мире. С квалиа же такой фокус проходит. Можно. Дальнейшие расспросы по этому рассуждению - уже не ко мне, хорошо? Не буду работать сломанным телефоном.

(2) Asteroid
*пожатие плечами* Это чисто технический аргумент с твоей стороны. Наше понимание мира, в т.ч. понимание понимания - меняется, развивается. Когда-то Землю плоской считали, когда-то негров неразумными, а когда-то не просто негров, а соседнее племя. Зато солнце считалось разумным. Как говорится: "и что?"

Это как раз некорректно, кто так делает. Но определённый смысл имеет: "если бы оно было разумным/интеллектуальным/рассудочным, то его корректность понимания..." и так далее. Зато корректно оценивать релевантность ответов на вопросы. Понимание для релевантных ответов не требуется. Даже действие, на самом деле, не требуется, когда человек хочет понять, закрыт ли магазин, а на магазине табличка, что он закрыт - человеку даже задавать вопрос не понадобилось. Релевантность ответов и понимание - разные вещи. Поисковый движок тоже ничего не понимает. Воспринимать языковую нейросеть можно как поисковый движок релевантных ответов/реакций.

Это интересный вопрос. Понимание, на мой взгляд, является комбинацией функционального (ты сводил к чисто функциональному, однако я согласен в том, что функциональное в нём есть) и структурного. То есть, можно говорить о понимании, есть у нас есть активный агент с внутренним состоянием и отчётом о нём (не обязательно вовне, можно и себе). Полагаю, этот агент не обязательно разумен. Собственно, можно говорить о понимании кошки или собаки. Возможно, можно как-то выдернуть агентность, оставив "активное внутреннее состояние", но тут моё воображение отказывает. Это то, что касается чисто "физического" подхода к пониманию. Интерпретационный подход работает иначе, да, собственно, можно интерпретировать, что нейросеть понимает. На мой взгляд, в таких штуках надо придерживаться сочетания обоих подходов.

Это внутреннее состояние нейросети или нет? Очевидно, нет.

Понимание предполагает мышление, на мой взгляд.

Нет, конечно, его нет. Нейросеть не способна создавать модели внутри себя и удалять их, например. Она не генератор моделей, а слепок навыка.

Никакого нет.

Нет, конечно, это ИХ дообучают, а не они дообучаются, разница, я думаю, понятна? Ну ты же не говоришь, что кукла, устами которой говорит человек, что-то понимание. А этой кукле записали внутрь целую базу данных типа вопрос-ответ. Понимания там не появилось. Мы с тобой не являемся массивами данных типа ответ-вопрос. И животные с развитой нервной системой, кстати, тоже.

Да, произвольной функции - не будет, есть функции, не имеющие производной, например, разрывные в каждой точке, ты совершенно прав. Или точки в функциях, в которых не существует производные, например, точка ноль-ноль в функции эф от икс равняется модуль икс. Отношение приращения функции к приращению аргумента не является каузальным. Это отношение называния, определения. Математические теории вообще не обязательно являются полными или непротиворечивыми, это совершенно нормально. Чем-то похоже на то, как обстоит дело с физическими теориями. Только что физические обладают её эмпирической стороной, в отличие от математических, а математические могут вообще никак не соответствовать чему-то в окружающем мире. Что ты пытался доказать натягиванием каузальности на математику - не понял.

Кстати, не полностью детерминирован, всякие чатжпт юзают рандом в своей работе, ну да не суть. Детерминированность не означает каузальность. Разум детерминирован физическим, я нигде это не отрицал, не вижу в этом никакой проблемы. Но разум не является следствием чего-то и не является причиной чего-то в физическом мире. Мозг или тело целиком - являются. Разница понятна?

Матемаг
Разум - согласованная работа нейросетей, которые есть просто взвешенная сумма электрических сигналов. Получается, у нейросетей особый статус? Что в разуме такого особенного?

Что-то типа того. Не будь оно минимальным, и разума могло бы и не получиться - сложность и затраты не позволили бы.

Если тебе он нужен, то он бесполезен.

Это примитивное ложное противопоставление. Я не знаю, если ты не видишь проблем в такой софистической логике, то есть ли смысл разговаривать дальше.

Как ты отличишь релевантность от корректности для черного ящика? Что применять?

В смысле нет? Очевидно, что это внутреннее состояние черного ящика.

Нет. Это в нашей человеческой архитектуре оно совмещено. И природа никогда не создаст их отдельно. Но само понимание - это состояние системы, память. А мышление - процесс оперирования этой памятью. Это разные и принципиально отделимые штуки.

Если разум не способен создавать новые модели, то это не разум? Ты отказываешь в разумности старикам?
Что касается генерации моделей, попробуй поговорить с чатжпт на каком-нибудь "падонкавском" сленге.

Я о гладких функциях говорил. Показать как мной воспринимается твоё определение.

Противоречие вижу я.

Asteroid (1)
Не совсем, там ещё всякая химия, если говорить о физической основе разума, т.е. это тебе не искусственные нейронки со взвешенными суммами, а гораздо более сложная система. Но не суть важно. Проблема в том, что физический субстрат разума и разум - это разные вещи. Конкретно в твоей формулировке за это отвечает, например, "согласованная работа". Чтобы отделить "правильно согласованную" от "неправильно согласованной" работы нужны определённые внешние критерии высокого уровня. Получаются скАчки: пытаясь редуцировать до чего-то низкоуровневого (биохимии или даже электромагнетизма) обращаешься к высокоуровневому, а чтобы редуцировать его, нужно опять добавить что-то и так далее. Но и это не суть важно, а является отклонением от темы, на которую можешь не отвечать.

Важно, что ни в каком физическом процессе ты не найдёшь разум. Чтобы его найти, нужно произвольно скомбинировать физические процессы в лучшем случае, т.е. неким образом обобщить. Это самое обобщение не будет относиться к физическим процессам. Если попытаешься его определить через физику, то либо зациклишься, сославшись вновь на "разум" (который и пытаешься определить), или на другое слово того же типа, как то "информация", "отличие", "возможность" и так далее - штуки, на которые нельзя ткнуть в физическом мире, они "находятся" как бы над ним, будучи в каждом конкретном случае им полностью детерминированными (определёнными, здесь речь идёт не об отношении причина-следствия).

Факт в том, что любая физическая реализация рекурсии - это цикл. То есть, можно указать, мол, эта штука - она рекурсивна, но как только дойдёт до практической реализации, так сразу штука будет работать циклично. Что касается запихивания цикла в любом виде в физические процессы, то в периодичности вроде бы нет ничего такого особенного. Никакого особенного статуса у неё нет. Да, определённо периодичность нужна для гомеостаза, это правда. С другой стороны, если вглядеться, то само определение периодичности идёт через "повторение", а оно - через общность. Ну а дальше см. выше - мы натыкаемся на понятия, которые первичны и никаким конкретным физическим процессом не представлены. Они не являются физическими процессами, а являются неким взглядом на них. Каждый конкретный случай этого взгляда жёстко детерминирован, т.е. можно найти конкретные физические процессы, отвечающие за него. Но в целом так сделать не получается.

Это выглядит как чистая вера. Ты веришь/веруешь, что есть выбор/душа/свобода воли. Если оппонент не верует, то убеждать бессмысленно. Если верует, то он тебя и так понял. Я не критикую и не пытаюсь оскорбить тебя этим сравнением, просто констатирую, что вижу. Примерно так должны заканчиваться честные религиозные споры. Один чувствует Бога, другой нет. Всё, спор закончен, разные аксиоматики.

Тем не менее, я позволю напомнить про эксперименты, когда "ощущение" выбора срабатывает позже, чем происходит сам выбор, т.е. можно по электрической активности мозга определить выбор до того, как сам человек ощущает, что он делает решение. Это не аргумент. Это факт, над которым предлагаю поразмыслить. Или другой факт: существуют когнитивные искажения и существуют оптические иллюзии, есть множество ситуаций, когда ощущения (чего угодно, включая выбор) подводят нас, когда реальность расходится с восприятием. Это вряд ли сработает, мне кажется, что в твоём случае это именно вера (не обязательно религиозного характера, просто твёрдое, уверенное убеждение в чём-то как в аксиоме), а веру нельзя опровергнуть логикой. Веру можно только разрушить. Обычно с негативными последствиями для верящего, ведь из его психики изымается кусок фундамента.

Чего чему противопоставление? Если квалиа материалистичны, если достаточно предоставить сочетание физических свойств, и тем самым автоматически будут предоставлены и квалиа, то всё хорошо. Но если можно без малейших противоречий предоставить сочетание физических свойств без квалиа (т.н. философский зомби), то квалиа нефизичны. Или - или. Если физическое влечёт квалиа, то немыслима ситуация, когда есть физическое и нет квалиа. Но ситуация мыслима. Я даже более того скажу, с чего бы мне считать, что у тебя есть квалиа? Или у гипотетического разумного ИИ. Вообще у кого-то, кроме меня? Я предлагаю просто закрыть эту линию диалога, потому что ты явно не хочешь или прилагать усилий, чтобы разобраться в аргументации (хотя бы погуглить и почитать нагугленное), или просто понять, что такое "квалиа".

В последнем случае возможно, что ты находишься на позиции BrightOne-а, с элиминистами разговаривать на тему квалиа также бессмысленно, потому что, ну, как с вопросом выбора выше - другая аксиоматика. Верим в разные основополагающие штуки. Причём доходит до того, что противоположная позиция настолько немыслима, что автоматически записывается в бред. Можно максимум только донести, что другая позиция возможна и логически непротиворечива, да и то с трудом и не всегда. Боюсь, я не лучший... хм, дипломат и не способен убеждать других людей, что существуют особые случаи, когда одной и той же территории может соответствовать несколько карт, и каждая из них будет в равной мере территории соответствовать. Разница между картами будет отнюдь не в названиях.

Корректность и релевантность - близкие по смыслу вещи. Если честно, мне после развёрнутых ответов выше влом закапываться в нюансы (контекстуальной?) разницы между ними. Что касается понимания и релевантности, то первое - это означает создание внутри модели (в любом аналоге оперативной памяти) (подробней см. в конце этого комментария), второе - просто формально подходящий ответ. То есть, когда мы написали древо вопросов-ответов для чат-бота, никакого понимания нет, но ответы могут быть более чем релевантны и полезны для просителя. Аналогично с чатжпт. Понимания нет, но ответы релевантны. Вместо древа вопросов-ответов - гораздо, гораздо более сложная статичная структура, с щепоткой рандома, с другим принципом формирования, несколько иначе применяемое, нежели вручную написанное древо, но в сути своей это то же самое. Понимание требует модели внутри головы. Модель - это связная карта (реальности), то есть такая карта, при изменении одного элемента в которой меняются и другие. Про чатжпт можно говорить, что это машина ассоциаций. С той поправкой, что отдельно отобраны "вредные" ассоциации (другой нейронкой). Я согласен, что чатжпт - это прекрасный, хм, копировальщик ассоциативного мышления людей. Вплоть до ограничения областей ассоциаций. К сожалению, ассоциативное мышление - это не интеллект. И очень круто, что из него можно выжать эмулятор интеллекта, пусть даже и слабый. Ещё одно подтверждение, что язык - одна из главных осей человеческого разума.

Ну если внутри него что-то может меняться в ходе работы, то это называется "внутреннее состояние". Если не может - ну нет внутреннего состояния. То есть, ящик с внутренним состоянием меняется в ответ на вход. Ящик без него - не меняется в ответ на вход. У нас есть внутреннее состояние. У виндоус есть внутреннее состояние. А вот у кода ядра виндоус его нету. У нейросети его нет. У прошивок низкоуровневых девайсов его нет. Я думал, что ты знаком с понятием внутреннего состояния:(

Я не согласен с этим определением. Понимание - это всегда процесс. Грубо говоря, это сверка имеющейся модели и новых данных (в любой форме, может быть, тоже в форме модели). Если данные совпадают с моделью (предсказанием модели, если хочешь, но это разные вещи: сделать с помощью модели предсказание и проверить, соответствуют ли данные модели, первое во много раз затратней в общем случае), то мы говорим о понимании. Если нет - о непонимании. Чатжпт ничего ни с чем не сверяет, она генерирует следующий токен и затем следующий токен и так далее. Понимания внутри нет, просто генерация токенов, которые преобразуются в слова (и обратно) по жёсткой схеме.

Asteroid (2)
Да.

Ты отказываешь в манипуляции моделями старикам? Только опустим пограничные случаи вроде старческих заболеваний, ОК? Это не влияет на сущность определения, а лишь демонстрирует, что оно не всегда чётко применимо. И я согласен, что "разум" - это нечёткое понятие, можно говорить, что у кого-то разума больше или меньше. Людям в терминальной стадии деменции я скорее отказал бы в разумности (скорее - потому что не вникал в тему подробно, чтобы делать прям обоснованные утверждения).

Это похоже, см. выше, на аксиоматическую разницу. Или просто я настолько херово объясняю, что... Что же. Я всегда знал, что из меня выходит очень херовый объясняльщик. Извини за это. Я стараюсь быть лучше - но...

Детерминация - определённость одного другим - не всегда означает причинно-следственную связь в любую сторону. Например, взаимная детерминация двух формальных систем в математике не означает, что они как-то "причинно" связаны. Если кто-то перестанет интерпретировать кого-то как разумного, от этого не изменится ничего физического. Ну прост интерпретация другая.

Наверное, тут можно было бы аккуратней использовать слова, я тут ещё подумал. Если говорить о широких смыслах, то разум и физически мир не связаны причинно-следственно, потому что связь - это двойная стрелочка, взаимная штука. Физмир порождает разум, но обратное неверно - разум ничего не порождает в физмире, физически мир причинно замкнут внутри себя. То есть, да, с этой точки зрения ты прав, я некорректно выразился. Разум является следствием. Просто надо добавить, что чистым следствием и не является причиной, и более того - не является частью физического мира вообще. Теперь, вроде бы, выразил мысль ясней.