Asteroid (1)
Не совсем, там ещё всякая химия, если говорить о физической основе разума, т.е. это тебе не искусственные нейронки со взвешенными суммами, а гораздо более сложная система. Но не суть важно. Проблема в том, что физический субстрат разума и разум - это разные вещи. Конкретно в твоей формулировке за это отвечает, например, "согласованная работа". Чтобы отделить "правильно согласованную" от "неправильно согласованной" работы нужны определённые внешние критерии высокого уровня. Получаются скАчки: пытаясь редуцировать до чего-то низкоуровневого (биохимии или даже электромагнетизма) обращаешься к высокоуровневому, а чтобы редуцировать его, нужно опять добавить что-то и так далее. Но и это не суть важно, а является отклонением от темы, на которую можешь не отвечать.

Важно, что ни в каком физическом процессе ты не найдёшь разум. Чтобы его найти, нужно произвольно скомбинировать физические процессы в лучшем случае, т.е. неким образом обобщить. Это самое обобщение не будет относиться к физическим процессам. Если попытаешься его определить через физику, то либо зациклишься, сославшись вновь на "разум" (который и пытаешься определить), или на другое слово того же типа, как то "информация", "отличие", "возможность" и так далее - штуки, на которые нельзя ткнуть в физическом мире, они "находятся" как бы над ним, будучи в каждом конкретном случае им полностью детерминированными (определёнными, здесь речь идёт не об отношении причина-следствия).

Факт в том, что любая физическая реализация рекурсии - это цикл. То есть, можно указать, мол, эта штука - она рекурсивна, но как только дойдёт до практической реализации, так сразу штука будет работать циклично. Что касается запихивания цикла в любом виде в физические процессы, то в периодичности вроде бы нет ничего такого особенного. Никакого особенного статуса у неё нет. Да, определённо периодичность нужна для гомеостаза, это правда. С другой стороны, если вглядеться, то само определение периодичности идёт через "повторение", а оно - через общность. Ну а дальше см. выше - мы натыкаемся на понятия, которые первичны и никаким конкретным физическим процессом не представлены. Они не являются физическими процессами, а являются неким взглядом на них. Каждый конкретный случай этого взгляда жёстко детерминирован, т.е. можно найти конкретные физические процессы, отвечающие за него. Но в целом так сделать не получается.

Это выглядит как чистая вера. Ты веришь/веруешь, что есть выбор/душа/свобода воли. Если оппонент не верует, то убеждать бессмысленно. Если верует, то он тебя и так понял. Я не критикую и не пытаюсь оскорбить тебя этим сравнением, просто констатирую, что вижу. Примерно так должны заканчиваться честные религиозные споры. Один чувствует Бога, другой нет. Всё, спор закончен, разные аксиоматики.

Тем не менее, я позволю напомнить про эксперименты, когда "ощущение" выбора срабатывает позже, чем происходит сам выбор, т.е. можно по электрической активности мозга определить выбор до того, как сам человек ощущает, что он делает решение. Это не аргумент. Это факт, над которым предлагаю поразмыслить. Или другой факт: существуют когнитивные искажения и существуют оптические иллюзии, есть множество ситуаций, когда ощущения (чего угодно, включая выбор) подводят нас, когда реальность расходится с восприятием. Это вряд ли сработает, мне кажется, что в твоём случае это именно вера (не обязательно религиозного характера, просто твёрдое, уверенное убеждение в чём-то как в аксиоме), а веру нельзя опровергнуть логикой. Веру можно только разрушить. Обычно с негативными последствиями для верящего, ведь из его психики изымается кусок фундамента.

Чего чему противопоставление? Если квалиа материалистичны, если достаточно предоставить сочетание физических свойств, и тем самым автоматически будут предоставлены и квалиа, то всё хорошо. Но если можно без малейших противоречий предоставить сочетание физических свойств без квалиа (т.н. философский зомби), то квалиа нефизичны. Или - или. Если физическое влечёт квалиа, то немыслима ситуация, когда есть физическое и нет квалиа. Но ситуация мыслима. Я даже более того скажу, с чего бы мне считать, что у тебя есть квалиа? Или у гипотетического разумного ИИ. Вообще у кого-то, кроме меня? Я предлагаю просто закрыть эту линию диалога, потому что ты явно не хочешь или прилагать усилий, чтобы разобраться в аргументации (хотя бы погуглить и почитать нагугленное), или просто понять, что такое "квалиа".

В последнем случае возможно, что ты находишься на позиции BrightOne-а, с элиминистами разговаривать на тему квалиа также бессмысленно, потому что, ну, как с вопросом выбора выше - другая аксиоматика. Верим в разные основополагающие штуки. Причём доходит до того, что противоположная позиция настолько немыслима, что автоматически записывается в бред. Можно максимум только донести, что другая позиция возможна и логически непротиворечива, да и то с трудом и не всегда. Боюсь, я не лучший... хм, дипломат и не способен убеждать других людей, что существуют особые случаи, когда одной и той же территории может соответствовать несколько карт, и каждая из них будет в равной мере территории соответствовать. Разница между картами будет отнюдь не в названиях.

Корректность и релевантность - близкие по смыслу вещи. Если честно, мне после развёрнутых ответов выше влом закапываться в нюансы (контекстуальной?) разницы между ними. Что касается понимания и релевантности, то первое - это означает создание внутри модели (в любом аналоге оперативной памяти) (подробней см. в конце этого комментария), второе - просто формально подходящий ответ. То есть, когда мы написали древо вопросов-ответов для чат-бота, никакого понимания нет, но ответы могут быть более чем релевантны и полезны для просителя. Аналогично с чатжпт. Понимания нет, но ответы релевантны. Вместо древа вопросов-ответов - гораздо, гораздо более сложная статичная структура, с щепоткой рандома, с другим принципом формирования, несколько иначе применяемое, нежели вручную написанное древо, но в сути своей это то же самое. Понимание требует модели внутри головы. Модель - это связная карта (реальности), то есть такая карта, при изменении одного элемента в которой меняются и другие. Про чатжпт можно говорить, что это машина ассоциаций. С той поправкой, что отдельно отобраны "вредные" ассоциации (другой нейронкой). Я согласен, что чатжпт - это прекрасный, хм, копировальщик ассоциативного мышления людей. Вплоть до ограничения областей ассоциаций. К сожалению, ассоциативное мышление - это не интеллект. И очень круто, что из него можно выжать эмулятор интеллекта, пусть даже и слабый. Ещё одно подтверждение, что язык - одна из главных осей человеческого разума.

Ну если внутри него что-то может меняться в ходе работы, то это называется "внутреннее состояние". Если не может - ну нет внутреннего состояния. То есть, ящик с внутренним состоянием меняется в ответ на вход. Ящик без него - не меняется в ответ на вход. У нас есть внутреннее состояние. У виндоус есть внутреннее состояние. А вот у кода ядра виндоус его нету. У нейросети его нет. У прошивок низкоуровневых девайсов его нет. Я думал, что ты знаком с понятием внутреннего состояния:(

Я не согласен с этим определением. Понимание - это всегда процесс. Грубо говоря, это сверка имеющейся модели и новых данных (в любой форме, может быть, тоже в форме модели). Если данные совпадают с моделью (предсказанием модели, если хочешь, но это разные вещи: сделать с помощью модели предсказание и проверить, соответствуют ли данные модели, первое во много раз затратней в общем случае), то мы говорим о понимании. Если нет - о непонимании. Чатжпт ничего ни с чем не сверяет, она генерирует следующий токен и затем следующий токен и так далее. Понимания внутри нет, просто генерация токенов, которые преобразуются в слова (и обратно) по жёсткой схеме.