Коллекции загружаются
#вопрос #писательское
У энергосберегающих, а тем более светодиодных лампочек, есть один недостаток. Недостаточная летальность. Залетают в открытое окно ночные мотыльки - раньше они бились в раскаленной стекло лампы накаливания вплоть до своей смерти, терпящим аварию вертолетиком падая на пол. Кружась по нисходящей пьяной спирали как винтокрылая машина с перебитой хвостовой тягой. В этот же холодный во всех смыслах источник света они тупо и настойчиво бьются - затем разлетаются по всей комнате. Мотылёк - Пикник(с). Для настроения. А теперь вопрос. Как писать про то, чего не знаешь и не понимаешь? И, более того, понять и не можешь? 23 июля 2017
|
Матемаг
>Астероид, ну, давай, какая ещё ... логика бывает? Завтра приведу и отвечу на остальные комменты. Сегодня уже мозги заплетаются. Если пропущу важный лдя вас вопрос - напоминайте. |
madness
Показать полностью
О. Наверняка он объединен с другими дроидами и еще какими-нибудь мега-мозгами и являлся частью чего-то большего. Не более чем человек - часть общества. Матемаг Мне лень отвечать на все эти простыни. Так и знал что сошлетесь на Юдковского, мнение которого о рациональном для меня - не аргумент. "Нет, цель может быть и в самом процессе например" - то есть, всё равно, будет ли процесс прерван? А не сдохнем ли мы все? Или все-таки бессмертны? Нет? Всему человечеству плевать на результат оно, витая в иллюзиях о "цели", живет ради процесса. Ну это тогда не "цель" и не "мотив". Потому что цель и мотив предполагают, что возможные препятствия и трудности таки преодолеваются. А если у тебя ИИ будет мыслить не целями и мотивами, то возникает естественный вопрос, какова хотя бы простейшая схема его функционирования именно как разума? ИИ - раб. У него нет цели у него задача - быть хорошим рабом своему господину. Его разум оптимизирует задачу - быть хорошим рабом. ""всеобъемлющей" рациональности вообще не существует - её куски скрепляются иррациональным." - это проблема не теоретическая, а практическая, техническая. В ИИ можно это минимизировать настолько, что иррациональным в методиках можно будет пренебречь. Было бы желание и был бы сам ИИ. Полностью установив "соответствие между местностью и её когнитивной картой" (по Юдковскому) вы так и не получите ответ зачем вы живетеЮ например. Зачем вообще отвечать на вопрос, "что есть моё", а "что не моё" Единственно что можно будет сказать - в силу устройства "когнитивной карты" вам хочется это сделать. "Например, опыты на людях рациональны, но многие люди считающие себя рационалистами, или действительно "рациональные" в определенных задачах, так не считают" - они ограниченные рационалисты, значит. То есть, на рациональность накладываются дополнительные ограничения, отбрасывающие наиболее эффективные пути решения. А для чего вообще-то эти опыты проводить? Какая у них "цель"? А? А такое же иррациональное желание, как и желание например не производить их на людях. Вперед, уберите все "ограничения". Но они же и порождают и цели и задачи, которые рациональными (пусть ограничено) методами решаются. ""всеобъемлющей" рациональности вообще не существует - её куски скрепляются иррациональным." - это проблема не теоретическая, а практическая, техническая. В ИИ можно это минимизировать настолько, что иррациональным в методиках можно будет пренебречь. Было бы желание и был бы сам ИИ. А само желание минимизировать иррациональность - оно рационально? Я вас не понимаю. "Вы обязываете дроида/ИИ не иметь конкретных иррациональных ограничений(которые озвучиваете), но именно они же - эти иррациональные ограничения лежат вообще в основе его существования. Отчего одно для вас неприемлемо, а другое имеет право на жизнь?" - я предположил, что создатели дроида работали с точки зрения эффективности и что он мыслит исключительно рационально, не суть, что ему при этом приходится "выводить на экран пользователя", т.е., как приходится преподносить себя людям. "он мыслит исключительно рационально" - бред, ибо полностью лишенная смысла фраза. И совершенно недостижимая. если он существует не безмолвным куском недвижимого железа - значит у него есть мотивация. А теперь, внимания вопрос: Как оценить рационально "мотивацию"? Естественно предположить, что таковым мотивом в последовательно (само)оптимизирующейся системе останется "самое важное". То, что я называю "смыслом жизни". Если хотите, вот вам одно из определений смысла жизни - мотив, который не может быть удалён при оптимизации и рационализации разумной системы, поскольку является критерием этой самой оптимизации. И как, он рационален? Этот смысл жизни? А если этих неудалимых мотивов и закладок очень много что это меняет концептуально? Еще раз - оптимизация действий с целью лучшей инкарнации после смерти - иррационально или рациональное действие? "Со своими сверхенностями" - прекрасно, больше переходов на личности во славу кого там? Кхорна, наверное? Моя продвинутая интернет-эмпатия детектирует агрессию в вашем тоне. С чего бы это? Пора её переоптимизировать, хм? Потому что мне надоело талдычить про искусственность и глупость деление на рациональное и иррациональное . Оно всё равно бессмысленно и иррационально. (если совершить глупость, разумеется, и скатиться в тупую бинарную логику) Можно сказать, что некий поступок _более_ или _менее_ рационален, но бинарная логика тут неприменима. Ибо у каждого поступка есть мотив и и целый набор "смыслов жизни" - его граничные условия - и от их количества он будет менять свою "рациональность" тоже исключительно количественно. А никак не качественно. Поэтому я нахожу нелепым требовать от ИИ быть суперрационалистом, "мыслить исключительно рационально" и вообще считать это некой для него необходимостью. По той причине что это невозможно вообще. Проблема в том, что некоторые очевидные для вас критерии для меня не значат ровным счетом ничего. Если вы ссылаетесь на Юдковского, то 1)Эпистемическая рациональность: образ действий и мыслей, укрепляющий соответствие между местностью и её когнитивной картой, корректировка убеждений в свете новой информации. Искусство обретения убеждений, согласующихся с реальностью настолько близко, насколько возможно. Это соответствие обычно называют «точностью», «правдивостью» или «правильностью», и нас удовлетворяет подобное обозначение. Это для меня рациональность в том вышеназванном филосовском смысле слова. Т.е. вообще в этом и есть смысл науки. 2)Инструментальная рациональность: реализация ваших ценностей. «Ваших» не обязательно в смысле «личных» или «эгоистичных»: «твоей ценностью» может быть любая вещь, которая тебе небезразлична. Искусство направлять будущее в сторону более устраивающих тебя результатов. На LW это порой называется «выигрыванием». Это я могу позволить себе называть рациональным разве что "условно разговорно". Почему? Вот например, сконструировали вы газовую камеру для концлагеря. С максимальной экономией стройматериалов, человекочасов строителей и максимальной производительнсотью трупов. Однако сама необходимость убивать например евреев и русских лежит в неких убеждениях о превосходстве германской, арийской нации над недочеловеками - евреями и славянами. И она ничем например не отличается по "(1 - эпистемологической рациональности)" от желания обрести лучшую инкарнацию после смерти, вернее от веры в её возможность. и то и другое лежит на ничем не обоснованных убеждениях и вере. Поэтому "Инструментальная рациональность" - для меня нечто высосаное из пальца. (Именно слово "рациональсноть" в этом контексте) Конечно (1) оказывает влияние на формирование задач (2) но именно что рассматривая их отдельно (2) теряет смысл называть "рациональностью". Какая-то оптимальность или эффективность - причем вполне вероятно субъективная, но не более. Я много раз говорил, что я иррациональный человек - т.е. "рациональным" человеком себя не считаю. (ибо человек вообще не может быть рациональным). Теперь становится яснее, почему? Рациональным может быть отдельное действие, поступок причем с учетом рамок и доступной информации. И человек и дроид - и любой иной субъект же иррационален. |
madness Онлайн
|
|
финикийский_торговец
какого общества? Все идет к тому, что мы будем скоро связаны сетью почище дроидов будущего) А если учесть, что возможности дроидов получать доступ к более мощным процессорам и другим ресурсам куда большие, чем у человека сейчас, к тому же в них (дроидах) не заложена потребность выделиться (ну, мб в ваших заложена, я не знаю), то почему они должны быть автономны? Оптимальнее же быть связанным и решать задачи, привлекая все возможные ресурсы. Ну вот как вы в этом треде привлекли ресурсы других людей, и, чем черт не шутит, мог найтись кто-то, кто дал бы вам дельный совет. Т.е. глупо не использовать возможность, чтобы за тебя подумал кто-то более умный в принципе или сведущий в определенном вопросе. Или речь идет о том, чтобы дроид просто перестал быть адекватным? |
madness
Показать полностью
Потому что в данном сеттинге дроиды автономны. Это аксиома. (у них есть нечто вроде интернета для дроидов - но он не для связи друг с другом) какого общества? Все идет к тому, что мы будем скоро связаны сетью почище дроидов будущего) Уже А если учесть, что возможности дроидов получать доступ к более мощным процессорам и другим ресурсам куда большие, чем у человека сейчас, к тому же в них (дроидах) не заложена потребность выделиться (ну, мб в ваших заложена, я не знаю), то почему они должны быть автономны? Потому что их такими сделали. Чтобы дроиды не "убили всех человеков". (что они не однократно и пытались сделать в сеттинге ЗВ) Оптимальнее же быть связанным и решать задачи, привлекая все возможные ресурсы. Ну вот как вы в этом треде привлекли ресурсы других людей, и, чем черт не шутит, мог найтись кто-то, кто дал бы вам дельный совет. Т.е. глупо не использовать возможность, чтобы за тебя подумал кто-то более умный в принципе или сведущий в определенном вопросе. "Оптимальность" может быть ограничена вполне законодательно. По вышеназванным причинам. Или речь идет о том, чтобы дроид просто перестал быть адекватным? Адекватным чему? |
madness Онлайн
|
|
>>Адекватным чему?
ситуации. Чем больше задействовано возможностей, тем оптимальнее реакция. А, ну в целом тогда понятен посыл, хотя и не совсем лично мне нравится, но тут уж вы хозяин своей вселенной. |
madness
>>>ситуации. Чем больше задействовано возможностей, тем оптимальнее реакция. Не понимаю. Что значит быть "адекватным ситуации"? "Ситуациия" сама способна оценить поступки как адекватные или нет? Или все же нужен субъект-оценщик? |
Матемаг
Показать полностью
Постараюсь более понятнее выразиться (хотя и не получается). Юдковский, оценивая действия как рациональные или нет (2 - Инструментальная рациональность), смотрит на их оптимальность по достижению "цели", при этом позволяя себе вывести из критики саму эту "цель". И "ценности". В то время, как сами они по шкале рациональности им не оцениваются. Например, поэтому его ГГ в ГПиМРМ вроде как "рационален". Поскольку придерживается эпистемологической рациональности. И достаточно эффективно достигает своих желаний, при этом ограниченный по-собачьи вбитыми в него "хорошими" ценностями. В отличие от своего "противника". А в действительности поступая лишь так, как ему хочется. Как и его "противник". В то время как ценности эти являются производными всех взаимодействий новорожденного организма с окружающим миром и обществом - далеко не рациональным. Именно что уже "эпистомологически". И вот это более/менее - куда бы не было, а доля иррациональности там будет. Ладно, предположим довелось некому субъекту родиться в идеально рациональном обществе где все оптимизировано под выполнения неких первичных никак не меняющимся базовым потребностям - тому, что вы назвали "смыслом жизни." Это как раз ситуации с дроидом. По этому опираясь на Юковского это можно назвать прееддльно рациональным всё также никак не оценивая "первичные ценности" - заложенные программистом-создателем ИИ или эволюцией в случае человека. Они для него "никакие". Не рациональные и не иррациональные. Для меня же они иррациональны, а потому все существа - иррациональны. Т.е. лежат вне этого рацио, разума. Разум - лишь надстройка над ними, тот самый метод по их достижению и не более. И ценности эти можно раздвигать сколь угодно широко, я не вижу разницы между желание вкусно есть и верой в бога - это всё некие электрохимические процессы в ГМ. Где нащупать эту границу между самой простой неотключаемой, базовой активностью в ГМ и уже "надстройками"? Персонификация окружающего, приделывание всему личности - это же такая же задача ГМ, как и заставлять тушку питаться и размножаться. Если я не вижу четкой границы - значит я и не понимаю смысла в классификации. Иначе как для практических задач - тут нужна классификация. Но в неких принципиальных, концептуальных спорах - нет, не вижу. +++ Когда пишешь очень много и быстро немзбежны ошибки, кроме того отвечать на такое ко-во реплик решительно невозможно. Либо мы сократим "вопрос" обсуждения либо это будет совершенно бесполезным бадминтоном. |
madness Онлайн
|
|
финикийский_торговец
хех, ну конечно ситуация не способна оценивать, но именно она способна предоставить данные для размышлений. Сократила я мысль просто. Я не в курсе, кто дроиду сказал, что его суждения должны превалировать. Этот кто-то и должен был подумать, будет ли дроид в этом случае действовать более оптимально, или менее, и если менее, то будет ли это соответствовать необходимому уровню возможностей для решения проблем в определенных ситуациях, или дроид не сможет действовать в них на должном уровне. |
madness
Этот кто-то - трикстер. пусть и прячущийся за маской рациональности. "будет ли дроид в этом случае действовать более оптимально, или менее" В условиях отсутствия свободы воли все действия производятся наиболее (субъективно) оптимальным способом и одновременно - единственно возможным. Попросту кто-то приделывает ценностям-ограничениям право считаться рациональными или нет. А потом говорит, что это рациональное или нерациональное действие. Что меня смешит. Или уже даже сердит - эта попытка придать всему рациональность. |
madness Онлайн
|
|
финикийский_торговец
а это уже интересно. Трикстер, так трикстер. Хоть бог или дьявол, разницы никакой. Быть может, для кого-то из них чем менее предсказуем дроид, тем лучше, оптимальнее) |
madness Онлайн
|
|
финикийский_торговец
*заинтересованно* чего где пишите? |
Графоманю на фикбуке. Ссылка в профиле есть.
https://ficbook.net/readfic/4018898 - вот это, чтобы далеко не ходить. |
Матемаг
И ведь самое забавное - был бы рад во многом с вами согласиться - я же сам рационалист. И всегда выступаю за рациональность во всём, прямо проводя аналогию рациональности с разумностью и разумом вообще. Но как человек - (полностью) рациональным существом быть не могу. И это справедливо и для ИИ. |
madness Онлайн
|
|
Спасибо. Масштабненько, если судить по шапке)
|
Fluxius Secundus Онлайн
|
|
>Они для него "никакие". Не рациональные и не иррациональные.
>Для меня же они иррациональны Почему? |
Fluxius Secundus
Показать полностью
Потому что не порождены той самой надстройкой - разумом, которая рацио и порождает. Нет разницы между тем, чтобы верить в бога или хотеть съесть мороженое - и то и другое просто "хочется", это возникает не требуя критического восприятия - мыслей о мыслях. Можно сказать, что одно - убеждение, а второе кулинарное пристрастие, но для меня и то и другое плоды деятельности не контролируемой последовательно действующим, логичным сознанием "части мозга". Это то, что случается само собой и не требует разумности - т.е. похоже на поведение животного. И да - я смешал в кучу инстинкты и условные с безусловными рефлексы. И животные могут вести себя рационально - когда вороны учатся пользоваться палочкой для извлечения еды. Но это метод, ворону это рациональным не делает. То, что "мы" создали компьютеры и квантмех - не отрицает того, что основные наши задачи - есть. доминировать и размножаться никуда не делись и собственно в контексте именно этих задач и в результате специфичного их взаимодействия со сложным обществом и появляется например "наука". Вороны пользуются для получения еды палочкой. Мы запускаем в космос спутники. Разница на мой вгляд небольшая. Да, метод может быть рациональным (более или менее, но никогда на 100%*), знание, способ его получения может быть рациональным. Тот у кого есть разум - эта надстройка - именно так и будет себя вести. Иначе никакого разума у него и нет. *Ибо рационально наиболее оптимальное решение проблемы, но человек будет неизбежно "держать в уме" много ограничений, но если сказать что они не важны, то отчего важно и само целеполагание? А вот само существо, всё это делающее, никогда рациональным не будет. Да, можно использовать тройное деление: а)Рациональное б)Нерациональное в)Никакое. Но почему и на каком основании Юдковский разделяет "Нерациональное" и "Никакое" (а возможно и Матемаг) для меня остается загадкой. По мне он не оставляет вообще места "нерациональному" - путем нехитрых манипуляций его в роли "ценностей" можно спихнуть в "никакое". И все - останется только нечто серое и неясное и так любимое им "рациональное". Я же объединяя "нерациональное" и "никакое" в просто "нерациональное" превращаю в отчасти "нерациональное" вообще все поведение любого человека. И ИИ тоже - поскольку и у него обязаны быть эмоции и базовые "ценности" - некий "смысл жизни". +Мне надоедает. Может, это и не вежливо, но пока отвечать в этой теме я не буду. Во всяком случае ближайшую неделю - мозг у меня не многозадачный, а написание фика с мертвой точки так и не сдвинусь. |
https://fanfics.me/message270989
Вот пример системы логики, о которой я говорил. П.С. Дублировал на всякий случай, а то бывали случаи. )) |