↓
 ↑
Регистрация
Имя/email

Пароль

 
Войти при помощи
Матемаг
7 апреля 2023
Aa Aa
#моё #философское

Продолжаю сейчас уже думать (сегодня не до чтения было) над товарищем Чалмерсом в частности и трудной проблемой сознания в целом. Зацепил меня следующий момент. Итак, понятие (если кто не в курсе, см. ссылку в начале). А что это, в общем-то, такое? Оно часть физического мира? Понятие - это функция из интенсионала в экстенсионал.

Если понимать расширительно, интенсионал может содержать в себе сразу множество меньших интенсионалов и суммарно быть избыточным - это, в общем-то, совершенно нормально для понятий. В одной и той же вещи мы различаем разные признаки, по-разному отличаем её от разных же вещей. Но я буду тут понимать под понятием такое, которое имеет один смысл. Это значит, что ВЕСЬ избыточный интенсионал сжимается в единственное определение. Может, не одно, но сам факт в том, что любое определение, выделяемое из интенсионала, будет эквивалентно любому другому. И все они выделяют одну и ту же часть реального мира. Может быть, нечётко выделяют (что тоже совершенно нормально для понятий), но "одинаково нечётко" - это к вопросу об экстенсионале.

Итак. У нас есть три штуки, чью принадлежность надо определить. Это интенсионал, экстенсионал и функция из одного в другой. Интенсионал, по-видимому, можно найти в физическом мире. Первичный интенсионал - это буквально отражение реальной вещи, совокупности её свойств внутри головы. Если есть технические возможности, то формирование этого отражения можно проследить. Вторичный интенсионал уже не будет "отражением", но он всё ещё будет частью мозга (возможно, плюс органы чувств), т.е. набором физических свойств, которые можно зафиксировать, измерить. Это частный интенсионал конкретного человека.

Экстенсионал первичного интенсионала не более сложен. Это просто вещь, набор физсвойств, сформировавших отражение в мозгу. В дальнейшем отражение будет искажено во вторичный интенсионал (или не будет), но, в общем-то, здесь нет ничего сверхъестественного. Интересное начинается дальше. И, нет, ещё до функции.

Когда мы говорим о понятии, то подразумеваем его не в конкретной голове, а во множестве голов. Более того, мы можем рассуждать о возможном понятии в несуществующих головах. Соответствует ли это какому-то набору физических свойств? Нет. Мы всегда можем репрезентовать интенсионал иначе, получив новый набор, но дело даже не в этом, а в том, что сам "набор", "множество", в общем-то, никак не относится к физике. Множество неизмеримо. Деление мира на части не является частью мира. Оно не управляется никакими физическими законами. Ему не соответствуют никакие физические свойства.

Можно было бы возразить, что мы могли бы говорить о "выход-выходной сигнатуре" некоторого механизма, т.е. о реальной (воплощённой в физическом явлении) функции, которая на набор входов даёт набор выходов, но сам по себе переход от конкретного свойства к сигнатуре является объединением во множество. А множество... Множество можно было бы вводить аксиоматически (хотя это даже в такой форме выглядит искусственно - в мире нигде не проведено границ, мир целостен, ну, если забыть о всяких особых случаях вроде горизонта событий чёрной дыры). Допустим. Но как это должно работать с возможными понятиями? Понятиями, распространяемыми на возможные миры? "Физически" они нигде не находятся. Можно было бы сказать, что это всё (ре)комбинации частичных отражений мира внутри мозга, но само по себе понятие "мира целиком" не похоже что является отражением мира целиком даже близко.

Аналогично непонятно, как быть с экстенсионалами в чуть более общем случае. Понятно, что с областью значений на возможных мирах проблемы (физически эти самые возможные миры недоступны), но ещё до них мы объединяем различные физические объекты во множества! Объекты, до которым мы физически никак не можем дотянуться - в том числе. Или во времени, или в пространстве, или не хватает энергии...

А как насчёт математических понятий? Они физически где-то располагаются? Нет. Тем не менее, мы не считаем экстенсионалы всех таких понятий пустыми; для них есть специальные "миры" - нефизические, математические. Причём в математике тоже можно работать "как в физике" (ставить эксперименты, рассматривать объекты с кучи разных сторон), а можно - "как в логике", работая в какой-то конкретной формальной системе. И недоказуемое с одной стороны может быть доказуемым с другой.

В реальности же мы используем такие понятия как "самая большая звезда во вселенной". Экстенсионал этого понятия точно не пуст (звёзды существуют, их размер всегда сравним), но определить его мы не можем принципиально - нам доступен участок мира под названием "видимая вселенная" (который непрерывно и с ускорением уменьшается в размерах), а в ней есть куча всяких препятствий для распространения света. Сама по себе относительность одновременности в СТО рождает интересные вопросы о "существует" для экстенсионалов понятий. А ведь мы можем говорить о понятии понятия, о понятии отражения, о понятии экстенсионала и так далее!

Функция, связующая интенсионал и экстенсионал - вишенка на торте. Эта функция, собственно, встроена или в частный интенсионал (мозг плюс органы чувств) или экстенсионал (плюс наблюдателя с мозгом и органами чувств), а иногда и туда, и сюда. Собственно, это связь между множеством алгоритмов, включая возможные (интенсионал) и множеством объектов, включая вроде бы как не относящиеся к физике (сами по себе понятия с интенсионалами без экстенсионалов?), а ещё - возможные (в отдельных случаях ещё невозможные или просто несуществующие). Где она находится? Это точно какое-то физическое свойство, объект?

Исходя из всего сказанного, я склоняюсь к тому, что сами по себе понятия, пусть и (как квалиа) супервентны на физическом, но это очень интересный способ супервентности. Не знаю, эпифеноменальны ли понятия. Но я настолько затрудняюсь с пониманием, где "находится" понятие "вода", что склонен предполагать, что оно нигде не находится. Это такая полупроизвольно очерченная часть мира, и свойства проведённой черты - не исключительно физические, хотя полностью физическим определяются.

В сущности, парадокс в том, что всё, описанное выше, всё, что могут мне ответить, само по себе формулируется через систему понятий. Само наше мышление протекает через понятия (не обязательно знаки - я читал описания размышлений действительно крутых математиков от первого лица - там неименованные мыслеобразы, которые потом уже переводятся в слова и математические символы, думаю, в дебрях других областей также... да и обычный человек при желании может на время отключить словесное сопровождение мышления, кто-то - вообще словами не думает, а лишь выражает мысль прочим).

Мы думаем через переплетение понятий, мы существуем в понятийном пространстве, наши квалиа недостижимы физическими исследования, а наши понятия, по-видимому, выражаются друг через друга, мы не можем "описать" физическое свойство не через понятие. Только через квалиа, а у квалиа известно какие проблемы - его вообще нельзя "описать", квалиа невыразимы. Получается своего рода замкнутый круг, прослойка между "нами" (чем бы мы ни были) и миром - это круг, мир мыслей и понятий. Если нельзя даже выразить через что-то, потому что мы выражаем всё через понятия, а реальность - она всегда там, за понятийным горизонтом.

Понятия составляют карту мира, но карта не является территорией. Мы можем уточнять карту, но она принципиально, на мой взгляд, прямо-таки концептуально (как будто квалиа!) не можем выражать реальность. Мы всегда смотрим на мир сквозь понятийные очки, которые нельзя с нас снять. Разница с квалиа в том, что нам недоступны квалиа других людей, а вот понятия - вполне доступны. Не полностью, по сути, получается карта чужих понятий, но с картами работать нам уже привычно, мы в этом живём. Ещё можно создать общие карту, под которые корректируются понятия друг друга, ещё более улучшив взаимопонимание (пусть даже такие карты часто имеют меньшую точность по отношению к какой-то части реальности - например, игнорируют оттенки смысла в наших головах).

Или же я не прав и понятия - это полностью физический объект? Как считаете?
7 апреля 2023
8 комментариев из 71 (показать все)
Матемаг

То есть, вы отрицаете наличие чувственного? Или нет? Явно ответьте.

Так я и ответил - чувствую. С чего мне отрицать "реальность, данную в ощущениях", если сама моя личность - продукт преобразования поступающих на вход чувств нейросеткой моего мозга? А вот квалиа, во всяком случае, в том виде, в каком эту хрень описываете вы и Торговец, - да, пожалуй, что отрицаю. По вышеизложенным причинам: если квалиа все-таки является частью причинно-следственной связи, то я не вижу достаточных оснований выделять ее в какую-то отдельную от обычного восприятия категорию, а если не является, то я не понимаю, как хоть кто-то может знать о ее существовании, если любое знание - продукт отражения реальности, что подразумевает таки ж причинно-следственную связь.

Здесь я не буду пересказывать все утверждения, возражения, аргументы, варианты и целый философский анализ.

Да не надо пересказывать все. Достаточно ткнуть мне в нос единственную возможность воспринимать квалиа, которые не участвуют в причинно-следственной связи. До Чалмерса я, конечно, доберусь, он у меня на полке стоит, но ответ-то на мой вопрос у вас есть?

Задумайтесь, почему мы можем выражать такие сложные штуки, как "планковская длина", "двоичная система", "объяснение" - но не можем никак описать сладкий вкус, кроме как указать на слово, которое используется во всех сходных случаях.

Давно задумался. Проблема, на мой взгляд, - чисто коммуникативная. Планковская длина, двоичная система и т.п. - вещи, о которых нетрудно договориться. Показать друг другу наглядные блок-схемы, потыкать пальчиком, изобразить пантомиму, сослаться на других. А вот затащить собеседника в свой внутренний мир и ткнуть носом в особенности своего ощущения, да еще и сравнить его с ощущением собеседника - хрен там. Нет коммуникации - нет языка - нет и развитого понятийного аппарата. Как в анекдоте о том, что вначале периодическая таблица приснилась Пушкину, но он ни хрена не понял.

Хорошо, давайте вы укажите мне, какой причинной силой обладает качественное ощущение сладкого вкуса.

Огромной силой. Именно это ощущение может заставить меня (ну хорошо, не меня, но моего сына - точно) на ночь глядя лезть в холодильник за шоколадкой. А вкус испорченной брюквы порождает совсем другие мотивации. Как по мне, участие в причинно-следственной связи налицо. И с цветами аналогично. Одни цвета мне нравятся больше других. Они могут вызывать явления синестезии, ассоциации и даже провоцировать паническую атаку ("У меня нет рта, но я должен кричать"). Не участие в причинно-следственной связи, по-вашему?

Это "закономерность", а не закон. Не путайте.

Я не путаю, я просто придерживаюсь иной терминологии - более распространенной в академической среде (не философской, а естественно=научной). О чем мы вроде как уже объяснились.
Показать полностью
Asteroid Онлайн
Матемаг
вещи реально очевидные.
А земля очевидно плоская.

В данном случае - не являющееся частью физической причинности, каузального потока реальности.
То есть. Это определение.
Так что тогда, нынешние нейросети являются частью физической причинности? А генератор? Ты так прямо и не ответил - где граница?
Это главные вопросы.

То есть, энергию ему подводить не надо?...Или всё-таки физичен твой генератор?
То есть, он определен казуальным потоком реальности. Да?
А насчёт энергии: сколько ты без подвода внешней энергии просуществуешь?

И взаимодействовать с брошенным камнем он не будет? И излучаемые им волны тоже ни с чем не взаимодействуют? Или всё-таки физичен твой генератор?
Твоя голова тоже не взаимодействует с брошенным камнем? Или эм волны не излучает? Или всё таки она физична?

То есть, в программировании нельзя написать ни одну рекурсивную функцию, потому что для этого надо уже иметь рекурсивную функцию?
Ага, почти верно. Твой компилятор должен это уметь. Нельзя просто так взять, и написать рекурсивную функцию. )))

. Рекурсивных определений в непрограммировании нет, их последовательно избегают в науках. Таким образом, выглядит всё это как "спрячусь от ответа в домик", только вместо домика - рекурсия.
Фракталы?
И нет, это не избегание, а попытка ответить.

И любая рекурсия в программировании раскрывается в цикл.
Который на порядок сложнее и запутанней. То есть, не выгоден для "кодировщика" природы.

От тебя тоже не увидел даже не примера, а просто определения
Ну извини, если тебе пример выбора нужен, то он для тебя бесполезен.

Свободы воли нет, ну или по крайней мере, я её не нашёл.
Потому что фатум. )))

Так квалиа таки базовое? Ну значит, ты согласен и со мной, и с товарищем Чалмерсом, договорились.
Я даже с Гитлером в чём-то согласен. Что уж там. Не обязан же я менять свою позицию по вопросу, если с ней согласен Чалмерс. )))
Только тут главное, что квалиа крайне физично, потому что это простая реакция нейросети - взвешенное суммирование. Это просто базовая кодировка.

Эм, ты читаешь, что я пишу? Возможность понимания - дискретная. Правильность/корректность - нет. Итак, когда ты разговариваешь с белорусами, ты в случайные моменты то разумен, то неразумен?
Именно что!
шутка
В прошлом столетии негров в зоопарке показывали вместе с неразумными животными. Отчего ты выдаешь им, никак не умеющим с тобой общаться, возможность понимания, но не выдаешь её умеющему поддерживать диалог чатботу?
Более того, получается, мы оцениваем корректность понимания того, что возможностью понимания не обладает. Противоречие вижу я.
В целом, неправильная постановка вопроса какая-то, с ног на голову, как и всё у тебя. Мы никак не можем оценить возможность понимания у черного ящика. Только его корректность. А уже на основе этой корректности делаем вывод о наличии.

И ты почему-то связываешь понимание с интеллектом. Но это только для нашего разума верно, основанного на специфичной архитектуре. Кто сказал, что понимание не может быть отделено и быть самостоятельным механизмом? Просто природе изготавливать отдельно механизм понимания, без связанного с ним механизмом разума нет профита.
Но сделать это искусственно никто не мешает.

Для манипуляции моделями нужно внутреннее состояние и способность автономной работы.
Сессию они помнят, иногда неделями. Это чисто техническая сложность, причем, больше связанная с экономикой и затратами на одного пользователя.
А вот способность автономной работы - это уже не обязательное условие, а натянутое тобой. С чего это оно обязательно для манипуляции моделями? Хопкинс не был разумен?

Ну к этому навыку надо добавить онлайновую изменчивость и довесить "пространство", в котором он будет работать
И почему ты считаешь первое обязательным?
Пространство в котором он работает есть - его память.
Мне кажется, что ты считаешь, что каждый разум должен быть похожим на человеческий. Это не так.

Хороший инструмент, но хайпа типа "у него проблески разума!!" - дофигища. Это не у него проблески разума, а в обучающей выборке.
А человеки без обучающей выборки тоже всего лишь обезьяны.
Чатжпт - это практически рафинированный механизм понимания, без всего остального разума. Насколько это возможно.

Самое забавное, ты и сам так же, как я, считаешь, но не видишь, что процесса в нейронках нет. Не, есть нейронки даже с прикрученным внутренним состоянием, они уже ближе к разуму, но всё ещё по архитектуре своей очень далеки.
Полноценного разума у нейронок ещё нет. Понимание - есть.
Разум строится на понимании, но оно без него возможно.
И опять-таки, некий процесс внутри нейронок идёт. Они дообучаются, они отвечают. Другое дело, что процесс этот прерывен в силу архитектуры. Но обязан ли разум быть непрерывным? Нет. Главное, чтобы он был последовательным. Хотя... и это тоже возможно не обязательно.

С производной это ещё получается. С интегралом - уже нет. В голове не выстраивается схема вниз до теории множеств.
Тогда, по аналогии: производная - не математична. Потому что, какой бы казуальный интервал Х и определенное им казуальное соотношение дельта Ф к дельта Х мы не взяли, они не будут детерминировать производную произвольной функции Ф.

См. выше - то, что не является частью каузального потока реальности (но может быть им порождено). Соответственно, в физической реальности можно найти только некое соответствие нефизическому, но не его само.
Это вообще какое-то странное деление. Смотри:
То есть, всё детерминировано, за исключением того, что ещё и случайно.
Ты говоришь, что результат работы нейросети детерминирован. Значит, он казуален. Значит, наш разум физичен в твоём смысле.
Показать полностью
BrightOne
да, пожалуй, что отрицаю
Элиминизм. Просто другая аксиоматика. Нам не о чём говорить, для вас не существует предмета обсуждения.

Достаточно ткнуть мне в нос единственную возможность воспринимать квалиа, которые не участвуют в причинно-следственной связи
Есть обратное: участвовать в причинно-следственной связи БЕЗ квалиа. Поскольку квалиа обусловлены физическим, то где физическое с причинно-следственностью, там и квалиа. Но поскольку возможно обратное, то квалиа, в сущности, не обязательны. Но есть. Нет никаких противоречий в забирании у вас, у меня или у кого угодно квалиа. Поведение, структура, функциональность не поменяется. Просто не будет квалиа. Но между тем, квалиа есть. Ну, для меня. Для вас их нет, поэтому я не знаю, зачем вам отвечаю, вы же элиминист, другая аксиоматика.

А вот затащить собеседника в свой внутренний мир и ткнуть носом в особенности своего ощущения, да еще и сравнить его с ощущением собеседника - хрен там
*пожатие плечами*
А на мой взгляд, проблема концептуальная. Но в вашем понимании она техническая, потому что передать "сладкий вкус" для вас - это передать структуру ощущения, поэтому разработать соответствующий язык можно. При желании можно не разрабатывать, а что-то типа технотелепатии замутить. Квалиа, конечно, будут в стороне. Зато индивидуальные оттенки смысла сладкого вкуса, его сравнительную силу с острым вкусом и другие структурно-функциональные штуки передать удастся, даже язык не нужен, ну.

Именно это ощущение может заставить меня
Нет, конечно, вас заставляет это делать сигнал, а не ощущение. В ощущении вы не нуждаетесь для объяснения ситуации. К вашим услугам весь аппарат нейрофизиологии, психологии, etc. Единственное что, часто "ощущение" и "сигнал" смешивают, как смешивают феноменальное и функциональное сознание, например. Сладость-ощущаемая не нужна вам для объяснение, бритва Оккама обрезает эту сущность, будьте уж последовательным элиминистом, ну что ж такое! У этой сладости нет никакой причинной силы, следовательно, её не существует. Л - логика. У сигнала причинная сила есть. Или у ощущения-как-сигнала, это вопрос чисто терминологический. Определённое отношение этого ощущения-сигнала к другим штукам в мозгу, теле (или психике, ментальном, в зависимости от выбранной вами науки) вызывает соответствующие ощущения. Аналогично с брюквой и т.д. Это структурно-функциональные штуки, ощущаемое вам для них не нужно, забудьте об нём, оно вам в принципе не нужно, разве нет?

Я не путаю, я просто придерживаюсь иной терминологии - более распространенной в академической среде (не философской, а естественно=научной). О чем мы вроде как уже объяснились.
Ну я уже утерял контекст за время между ответами, беседуя с Астероидом.
Показать полностью
(1) Asteroid

Так что тогда, нынешние нейросети являются частью физической причинности? А генератор? Ты так прямо и не ответил - где граница?
Это главные вопросы.
Является причиной или является следствием - вот и вся граница, не вижу никаких проблем. Нейросети - почему нет? Просто надо отличать нейросети как феномен от нейросетей как идеи/понятия. Нейросеть как феномен - вполне себе штуковина, находящаяся там-то и там-то, не вижу препятствий к тому, чтобы она была физической. Генератор - аналогично. Интерпретация нейросети как, допустим, слабого ИИ - это уже нефизическая штука.

Почему сложно отвечать на вопросы о границе - потому что см. конец поста. Мы существуем в мире понятий, мы ими мыслим, они образует непрерывную пелену между нами и физической реальности, барьер, который не может быть разрушен (ну разве что предположить, что это делают квалиа, но эт такое себе предположение, очень спорное). То есть, сам по себе переход от конкретного спектра ощущений к объекту, т.е. минимальное обобщение - оно выводит нас за границы физического. Но при этом мы можем мыслить физическое различными моделями и абстракциями. Пока мы не "метамыслим", т.е. не начинаем размышлять о самих моделях, абстракциях, обобщениях, нашем мышлении, информации и так далее, модели физического остаются замкнуты в себе. Более того, поскольку сам процесс мышления имеет закономерности, то мы можем мыслить о нём как о физическом тоже, как бы скрывая переход от биохимии к мыслям. Ну, насколько я это понимаю.

Отдельно добавлю, что я это прямо сейчас осмысляю, ты можешь посмотреть на дату поста - ну где-то дня три от неё отними и получишь дату, когда мне пришла в голову сама идея, что понятия - нефизическая штука. То есть, это всё - не какая-то разработанная теория с многолетними размышлениями, не стоит ждать от меня предельно формальных выкладок, их (пока что?) нет.

То есть, он определен казуальным потоком реальности. Да?
А насчёт энергии: сколько ты без подвода внешней энергии просуществуешь?
В чём проблема? Определён. Более того, я явно говорил, что понятийный пласт ТОЖЕ определён физическим. Я никогда с этим не спорил. Я лишь говорю, что он НЕ ЯВЛЯЕТСЯ физическим, а вот что он им определён, детерминирован, причём жёстко - я согласен полностью. Тут не о чём спорить. Аналогичные рассуждения применимы к моему телу и его отношению к моему разуму. А вот ты, кстати, в нижней части нашей переписки не согласен с этим детерминизмом. Там, где рассуждаешь о свободе воли. Это иронично, не правда ли? Я стою на позиции физического детерминизма и отсутствия свободы воли, но утверждаю, что понятийное нефизично, а ты стоишь на позиции свободы воли, но утверждаешь, что понятийное физично. Т.о., конкретно тебе (для меня не выйдет) можно попробовать определить понятия/информацию через выбор/душу:) Это будет не моя позиция, но интересно, что она тоже выводит за пределы "просто физики". Просто другим образом. Попробуй, может, интересное получится?

Твоя голова тоже не взаимодействует с брошенным камнем? Или эм волны не излучает? Или всё таки она физична?
Я нигде не утверждал, что голова или волны нефизичны, см. выше. Вот про разум или понятия говорил. Про голову или волны - нет. Непонятно, что ты пытаешься опровергнуть.

Ага, почти верно. Твой компилятор должен это уметь. Нельзя просто так взять, и написать рекурсивную функцию.
*пожатие плечами* Ты сейчас пытаешься указать на какой-то особенный статус рекурсии? Рекурсии разворачиваются в циклы. Получается, у циклов особый статус? Что же в нём такого особенного? Непонятно.

Фракталы?
Строятся последовательным углублением. Циклами же, ну.

Который на порядок сложнее и запутанней. То есть, не выгоден для "кодировщика" природы.
*пожатие плечами* Это обращение к принципу минимального действия или к чему именно? Всё биоразнообразие вокруг неустойчиво, гомеостаз возможен только благодаря притоку энергии извне. Практически же мне сложно представить рекурсию. Циклы - да. Но тут я просто не осведомлён могу быть, вроде бы, в квантовой теории поля есть рекурсия, но это именно вычислительный приём, не помню точного названия, и на практике он тоже раскрывается в цикл. Можешь привести пример рекурсии, который в природе НЕ раскрывается в цикл?

Ну извини, если тебе пример выбора нужен, то он для тебя бесполезен
Ушёл от ответа. Ну вот:( Переформулирую: дай пример выбора, который не детерминистичен и не случаен, а ещё не является комбинацией того и другого. Потому что "выбор", вообще, помимо волшебного неведомого значения, который придают ему сторонники свободы воли, имеет более приземлённое - переключение системы/процесса другое состояние/режим, не обязательно дискретное, кстати. Понятно, что ничего свободовольного в таком определении нет: переключение детерминировано предыдущим состоянием реальности.

квалиа крайне физично
*удалил начатый было ответ* Не, я не собираюсь дублировать полкниги Чалмерса, чтобы доказать, что квалиа нефизично. Ну начни хотя бы с философского зомби, как одного из главных аргументов против физичности квалиа. Последовательно аргумент звучит так (скрывая определения):
1) Мир философских зомби мыслим (см. философский зомби)
2) Следовательно, он возможен (см. семантика Крипке)
3) Но в наш мир - не мир философских зомби
4) Следовательно, квалиа не является логически супервентным на физическом
5) Квалиа нефизическое
Причём нефизическое в намного более сильном смысле, нежели то, что я говорил о понятиях: в смысле логической супервентности, т.е. квалиа сопровождают физические феномены... а могли бы и не сопровождать, от этого ничего бы не поменялось в физических феноменах. А когда я рассуждаю о понятиях, то полагаю, что они-то как раз логически супервентны, т.е. нельзя убрать понятия, не изменив что-то в физическом мире. С квалиа же такой фокус проходит. Можно. Дальнейшие расспросы по этому рассуждению - уже не ко мне, хорошо? Не буду работать сломанным телефоном.
Показать полностью
(2) Asteroid
В прошлом столетии негров в зоопарке показывали вместе с неразумными животными. Отчего ты выдаешь им, никак не умеющим с тобой общаться, возможность понимания, но не выдаешь её умеющему поддерживать диалог чатботу?
*пожатие плечами* Это чисто технический аргумент с твоей стороны. Наше понимание мира, в т.ч. понимание понимания - меняется, развивается. Когда-то Землю плоской считали, когда-то негров неразумными, а когда-то не просто негров, а соседнее племя. Зато солнце считалось разумным. Как говорится: "и что?"

мы оцениваем корректность понимания того, что возможностью понимания не обладает
Это как раз некорректно, кто так делает. Но определённый смысл имеет: "если бы оно было разумным/интеллектуальным/рассудочным, то его корректность понимания..." и так далее. Зато корректно оценивать релевантность ответов на вопросы. Понимание для релевантных ответов не требуется. Даже действие, на самом деле, не требуется, когда человек хочет понять, закрыт ли магазин, а на магазине табличка, что он закрыт - человеку даже задавать вопрос не понадобилось. Релевантность ответов и понимание - разные вещи. Поисковый движок тоже ничего не понимает. Воспринимать языковую нейросеть можно как поисковый движок релевантных ответов/реакций.

Кто сказал, что понимание не может быть отделено и быть самостоятельным механизмом?
Это интересный вопрос. Понимание, на мой взгляд, является комбинацией функционального (ты сводил к чисто функциональному, однако я согласен в том, что функциональное в нём есть) и структурного. То есть, можно говорить о понимании, есть у нас есть активный агент с внутренним состоянием и отчётом о нём (не обязательно вовне, можно и себе). Полагаю, этот агент не обязательно разумен. Собственно, можно говорить о понимании кошки или собаки. Возможно, можно как-то выдернуть агентность, оставив "активное внутреннее состояние", но тут моё воображение отказывает. Это то, что касается чисто "физического" подхода к пониманию. Интерпретационный подход работает иначе, да, собственно, можно интерпретировать, что нейросеть понимает. На мой взгляд, в таких штуках надо придерживаться сочетания обоих подходов.

Сессию они помнят
Это внутреннее состояние нейросети или нет? Очевидно, нет.

способность автономной работы - это уже не обязательное условие
Понимание предполагает мышление, на мой взгляд.

Пространство в котором он работает есть
Нет, конечно, его нет. Нейросеть не способна создавать модели внутри себя и удалять их, например. Она не генератор моделей, а слепок навыка.

Полноценного разума
Никакого нет.

некий процесс внутри нейронок идёт
Нет, конечно, это ИХ дообучают, а не они дообучаются, разница, я думаю, понятна? Ну ты же не говоришь, что кукла, устами которой говорит человек, что-то понимание. А этой кукле записали внутрь целую базу данных типа вопрос-ответ. Понимания там не появилось. Мы с тобой не являемся массивами данных типа ответ-вопрос. И животные с развитой нервной системой, кстати, тоже.

Тогда, по аналогии: производная - не математична. Потому что, какой бы казуальный интервал Х и определенное им казуальное соотношение дельта Ф к дельта Х мы не взяли, они не будут детерминировать производную произвольной функции Ф.
Да, произвольной функции - не будет, есть функции, не имеющие производной, например, разрывные в каждой точке, ты совершенно прав. Или точки в функциях, в которых не существует производные, например, точка ноль-ноль в функции эф от икс равняется модуль икс. Отношение приращения функции к приращению аргумента не является каузальным. Это отношение называния, определения. Математические теории вообще не обязательно являются полными или непротиворечивыми, это совершенно нормально. Чем-то похоже на то, как обстоит дело с физическими теориями. Только что физические обладают её эмпирической стороной, в отличие от математических, а математические могут вообще никак не соответствовать чему-то в окружающем мире. Что ты пытался доказать натягиванием каузальности на математику - не понял.

Ты говоришь, что результат работы нейросети детерминирован. Значит, он казуален. Значит, наш разум физичен в твоём смысле
Кстати, не полностью детерминирован, всякие чатжпт юзают рандом в своей работе, ну да не суть. Детерминированность не означает каузальность. Разум детерминирован физическим, я нигде это не отрицал, не вижу в этом никакой проблемы. Но разум не является следствием чего-то и не является причиной чего-то в физическом мире. Мозг или тело целиком - являются. Разница понятна?
Показать полностью
Asteroid Онлайн
Матемаг
Ты сейчас пытаешься указать на какой-то особенный статус рекурсии? Рекурсии разворачиваются в циклы. Получается, у циклов особый статус? Что же в нём такого особенного?
Разум - согласованная работа нейросетей, которые есть просто взвешенная сумма электрических сигналов. Получается, у нейросетей особый статус? Что в разуме такого особенного?

Это обращение к принципу минимального действия или к чему именно?
Что-то типа того. Не будь оно минимальным, и разума могло бы и не получиться - сложность и затраты не позволили бы.

Переформулирую: дай пример выбора, который не детерминистичен и не случаен, а ещё не является комбинацией того и другого.
Если тебе он нужен, то он бесполезен.

Последовательно аргумент звучит так (скрывая определения):
Это примитивное ложное противопоставление. Я не знаю, если ты не видишь проблем в такой софистической логике, то есть ли смысл разговаривать дальше.

Зато корректно оценивать релевантность ответов на вопросы.
Как ты отличишь релевантность от корректности для черного ящика? Что применять?

Это внутреннее состояние нейросети или нет? Очевидно, нет.
В смысле нет? Очевидно, что это внутреннее состояние черного ящика.

Понимание предполагает мышление, на мой взгляд.
Нет. Это в нашей человеческой архитектуре оно совмещено. И природа никогда не создаст их отдельно. Но само понимание - это состояние системы, память. А мышление - процесс оперирования этой памятью. Это разные и принципиально отделимые штуки.

Нейросеть не способна создавать модели внутри себя и удалять их, например. Она не генератор моделей, а слепок навыка.
Если разум не способен создавать новые модели, то это не разум? Ты отказываешь в разумности старикам?
Что касается генерации моделей, попробуй поговорить с чатжпт на каком-нибудь "падонкавском" сленге.

есть функции, не имеющие производной, например, разрывные в каждой точке, ты совершенно прав.
Я о гладких функциях говорил.
Что ты пытался доказать натягиванием каузальности на математику - не понял.
Показать как мной воспринимается твоё определение.

Разум детерминирован физическим...
Разум не является следствием чего-то в физическом мире
Противоречие вижу я.
Показать полностью
Asteroid (1)
Разум - согласованная работа нейросетей, которые есть просто взвешенная сумма электрических сигналов
Не совсем, там ещё всякая химия, если говорить о физической основе разума, т.е. это тебе не искусственные нейронки со взвешенными суммами, а гораздо более сложная система. Но не суть важно. Проблема в том, что физический субстрат разума и разум - это разные вещи. Конкретно в твоей формулировке за это отвечает, например, "согласованная работа". Чтобы отделить "правильно согласованную" от "неправильно согласованной" работы нужны определённые внешние критерии высокого уровня. Получаются скАчки: пытаясь редуцировать до чего-то низкоуровневого (биохимии или даже электромагнетизма) обращаешься к высокоуровневому, а чтобы редуцировать его, нужно опять добавить что-то и так далее. Но и это не суть важно, а является отклонением от темы, на которую можешь не отвечать.

Важно, что ни в каком физическом процессе ты не найдёшь разум. Чтобы его найти, нужно произвольно скомбинировать физические процессы в лучшем случае, т.е. неким образом обобщить. Это самое обобщение не будет относиться к физическим процессам. Если попытаешься его определить через физику, то либо зациклишься, сославшись вновь на "разум" (который и пытаешься определить), или на другое слово того же типа, как то "информация", "отличие", "возможность" и так далее - штуки, на которые нельзя ткнуть в физическом мире, они "находятся" как бы над ним, будучи в каждом конкретном случае им полностью детерминированными (определёнными, здесь речь идёт не об отношении причина-следствия).

Что-то типа того. Не будь оно минимальным, и разума могло бы и не получиться - сложность и затраты не позволили бы.
Факт в том, что любая физическая реализация рекурсии - это цикл. То есть, можно указать, мол, эта штука - она рекурсивна, но как только дойдёт до практической реализации, так сразу штука будет работать циклично. Что касается запихивания цикла в любом виде в физические процессы, то в периодичности вроде бы нет ничего такого особенного. Никакого особенного статуса у неё нет. Да, определённо периодичность нужна для гомеостаза, это правда. С другой стороны, если вглядеться, то само определение периодичности идёт через "повторение", а оно - через общность. Ну а дальше см. выше - мы натыкаемся на понятия, которые первичны и никаким конкретным физическим процессом не представлены. Они не являются физическими процессами, а являются неким взглядом на них. Каждый конкретный случай этого взгляда жёстко детерминирован, т.е. можно найти конкретные физические процессы, отвечающие за него. Но в целом так сделать не получается.

Если тебе он нужен, то он бесполезен.
Это выглядит как чистая вера. Ты веришь/веруешь, что есть выбор/душа/свобода воли. Если оппонент не верует, то убеждать бессмысленно. Если верует, то он тебя и так понял. Я не критикую и не пытаюсь оскорбить тебя этим сравнением, просто констатирую, что вижу. Примерно так должны заканчиваться честные религиозные споры. Один чувствует Бога, другой нет. Всё, спор закончен, разные аксиоматики.

Тем не менее, я позволю напомнить про эксперименты, когда "ощущение" выбора срабатывает позже, чем происходит сам выбор, т.е. можно по электрической активности мозга определить выбор до того, как сам человек ощущает, что он делает решение. Это не аргумент. Это факт, над которым предлагаю поразмыслить. Или другой факт: существуют когнитивные искажения и существуют оптические иллюзии, есть множество ситуаций, когда ощущения (чего угодно, включая выбор) подводят нас, когда реальность расходится с восприятием. Это вряд ли сработает, мне кажется, что в твоём случае это именно вера (не обязательно религиозного характера, просто твёрдое, уверенное убеждение в чём-то как в аксиоме), а веру нельзя опровергнуть логикой. Веру можно только разрушить. Обычно с негативными последствиями для верящего, ведь из его психики изымается кусок фундамента.

Это примитивное ложное противопоставление. Я не знаю, если ты не видишь проблем в такой софистической логике, то есть ли смысл разговаривать дальше.
Чего чему противопоставление? Если квалиа материалистичны, если достаточно предоставить сочетание физических свойств, и тем самым автоматически будут предоставлены и квалиа, то всё хорошо. Но если можно без малейших противоречий предоставить сочетание физических свойств без квалиа (т.н. философский зомби), то квалиа нефизичны. Или - или. Если физическое влечёт квалиа, то немыслима ситуация, когда есть физическое и нет квалиа. Но ситуация мыслима. Я даже более того скажу, с чего бы мне считать, что у тебя есть квалиа? Или у гипотетического разумного ИИ. Вообще у кого-то, кроме меня? Я предлагаю просто закрыть эту линию диалога, потому что ты явно не хочешь или прилагать усилий, чтобы разобраться в аргументации (хотя бы погуглить и почитать нагугленное), или просто понять, что такое "квалиа".

В последнем случае возможно, что ты находишься на позиции BrightOne-а, с элиминистами разговаривать на тему квалиа также бессмысленно, потому что, ну, как с вопросом выбора выше - другая аксиоматика. Верим в разные основополагающие штуки. Причём доходит до того, что противоположная позиция настолько немыслима, что автоматически записывается в бред. Можно максимум только донести, что другая позиция возможна и логически непротиворечива, да и то с трудом и не всегда. Боюсь, я не лучший... хм, дипломат и не способен убеждать других людей, что существуют особые случаи, когда одной и той же территории может соответствовать несколько карт, и каждая из них будет в равной мере территории соответствовать. Разница между картами будет отнюдь не в названиях.

Как ты отличишь релевантность от корректности для черного ящика? Что применять?
Корректность и релевантность - близкие по смыслу вещи. Если честно, мне после развёрнутых ответов выше влом закапываться в нюансы (контекстуальной?) разницы между ними. Что касается понимания и релевантности, то первое - это означает создание внутри модели (в любом аналоге оперативной памяти) (подробней см. в конце этого комментария), второе - просто формально подходящий ответ. То есть, когда мы написали древо вопросов-ответов для чат-бота, никакого понимания нет, но ответы могут быть более чем релевантны и полезны для просителя. Аналогично с чатжпт. Понимания нет, но ответы релевантны. Вместо древа вопросов-ответов - гораздо, гораздо более сложная статичная структура, с щепоткой рандома, с другим принципом формирования, несколько иначе применяемое, нежели вручную написанное древо, но в сути своей это то же самое. Понимание требует модели внутри головы. Модель - это связная карта (реальности), то есть такая карта, при изменении одного элемента в которой меняются и другие. Про чатжпт можно говорить, что это машина ассоциаций. С той поправкой, что отдельно отобраны "вредные" ассоциации (другой нейронкой). Я согласен, что чатжпт - это прекрасный, хм, копировальщик ассоциативного мышления людей. Вплоть до ограничения областей ассоциаций. К сожалению, ассоциативное мышление - это не интеллект. И очень круто, что из него можно выжать эмулятор интеллекта, пусть даже и слабый. Ещё одно подтверждение, что язык - одна из главных осей человеческого разума.

В смысле нет? Очевидно, что это внутреннее состояние черного ящика.
Ну если внутри него что-то может меняться в ходе работы, то это называется "внутреннее состояние". Если не может - ну нет внутреннего состояния. То есть, ящик с внутренним состоянием меняется в ответ на вход. Ящик без него - не меняется в ответ на вход. У нас есть внутреннее состояние. У виндоус есть внутреннее состояние. А вот у кода ядра виндоус его нету. У нейросети его нет. У прошивок низкоуровневых девайсов его нет. Я думал, что ты знаком с понятием внутреннего состояния:(

понимание - это состояние системы, память
Я не согласен с этим определением. Понимание - это всегда процесс. Грубо говоря, это сверка имеющейся модели и новых данных (в любой форме, может быть, тоже в форме модели). Если данные совпадают с моделью (предсказанием модели, если хочешь, но это разные вещи: сделать с помощью модели предсказание и проверить, соответствуют ли данные модели, первое во много раз затратней в общем случае), то мы говорим о понимании. Если нет - о непонимании. Чатжпт ничего ни с чем не сверяет, она генерирует следующий токен и затем следующий токен и так далее. Понимания внутри нет, просто генерация токенов, которые преобразуются в слова (и обратно) по жёсткой схеме.
Показать полностью
Asteroid (2)
Если разум не способен создавать новые модели, то это не разум?
Да.

Ты отказываешь в разумности старикам?
Ты отказываешь в манипуляции моделями старикам? Только опустим пограничные случаи вроде старческих заболеваний, ОК? Это не влияет на сущность определения, а лишь демонстрирует, что оно не всегда чётко применимо. И я согласен, что "разум" - это нечёткое понятие, можно говорить, что у кого-то разума больше или меньше. Людям в терминальной стадии деменции я скорее отказал бы в разумности (скорее - потому что не вникал в тему подробно, чтобы делать прям обоснованные утверждения).

Показать как мной воспринимается твоё определение
Это похоже, см. выше, на аксиоматическую разницу. Или просто я настолько херово объясняю, что... Что же. Я всегда знал, что из меня выходит очень херовый объясняльщик. Извини за это. Я стараюсь быть лучше - но...

Разум детерминирован физическим...
Разум не является следствием чего-то в физическом мире
Противоречие вижу я.
Детерминация - определённость одного другим - не всегда означает причинно-следственную связь в любую сторону. Например, взаимная детерминация двух формальных систем в математике не означает, что они как-то "причинно" связаны. Если кто-то перестанет интерпретировать кого-то как разумного, от этого не изменится ничего физического. Ну прост интерпретация другая.

Наверное, тут можно было бы аккуратней использовать слова, я тут ещё подумал. Если говорить о широких смыслах, то разум и физически мир не связаны причинно-следственно, потому что связь - это двойная стрелочка, взаимная штука. Физмир порождает разум, но обратное неверно - разум ничего не порождает в физмире, физически мир причинно замкнут внутри себя. То есть, да, с этой точки зрения ты прав, я некорректно выразился. Разум является следствием. Просто надо добавить, что чистым следствием и не является причиной, и более того - не является частью физического мира вообще. Теперь, вроде бы, выразил мысль ясней.
Показать полностью
ПОИСК
ФАНФИКОВ











Закрыть
Закрыть
Закрыть