"Нет, цель может быть и в самом процессе например" - то есть, всё равно, будет ли процесс прерван? Ну это тогда не "цель" и не "мотив". Потому что цель и мотив предполагают, что возможные препятствия и трудности таки преодолеваются. А если у тебя ИИ будет мыслить не целями и мотивами, то возникает естественный вопрос, какова хотя бы простейшая схема его функционирования именно как разума?

"В действительности целей и нет никаких(как и смысла жизни), они все редуцируются до процессов" - в действительности никакого разума и ИИ нет, всё редуцируется до процессов. В действительности никаких ЭМ-процессов нет, всё редуцируется до эволюции единого поля. И чего ты этим достиг? Редукционизм - хорошая штука, но разум на то и разум, что мыслит не частицами и не частями, а схемами и блоками. Вот ты сейчас ИИ моделируешь на уровне "вот сигнал пойдёт туда, там произойдёт взаимодействие этих двух сигналов, после чего...", да? Нет. Ты используешь слово "ИИ", слово "цель", слово "решение". Я использую словосочетание "смысл жизни" и слово "мотив". Почему вам можно мыслить как разумное существо, а мне нельзя? Что за двойные стандарты в месте, где они даже не предполагаются?

"в рамках своей парадигмы, своих, пусть и ложных знаний" - рационализм есть метод, частный случай рационализма - парадигма восприятия мира.

"метод, согласно которому основой познания и действия людей является разум" - кажется, кто-то путает, причём системно, рациональность и рационализм. Возможно, мне стоило использовать слово "рационатистичность"? Оно лучше слова "рационализм", которое можно ещё и как философию растолковать. Рациональность - это оптимальность. Это дальнейшая эволюция понятия "здравый смысл". http://lesswrong.ru/w/%D0%A7%D1%82%D0%BE_%D1%82%D0%B0%D0%BA%D0%BE%D0%B5_%D1%80%D0%B0%D1%86%D0%B8%D0%BE%D0%BD%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%D1%81%D1%82%D1%8C - рациональность. Именно это я и имею в виду. Вообще говоря, именно к этому философия вся эта в итоге и сведётся, потому что разум - это, вообще говоря и отталкиваясь от происхождения, и есть очень сложная реакция на раздражитель. "Предсказывающее" поведение. Реакция, опережающая сам раздражитель. Квинтэссенция адаптации, старательно выращенная природой. То, что в итоге получилась куча побочных эффектов - это не отменяет сущности разума как особо продвинутого механизма адаптации для выживания. Далее, мои аргументы отталкиваются от этой http://ru-transhuman.livejournal.com/556713.html статьи, хз, где нормальная ссылка на чтение, у меня она сохранена на компе.

"Или метода познания" - нет, не только познания.

"Например, опыты на людях рациональны, но многие люди считающие себя рационалистами, или действительно "рациональные" в определенных задачах, так не считают" - они ограниченные рационалисты, значит. То есть, на рациональность накладываются дополнительные ограничения, отбрасывающие наиболее эффективные пути решения.

"Мораль, если следование ей не дает некой личной выгоды, в условиях общества иррациональная" - да, и? Лежащая в самом низу мотивация тоже иррациональная ВСЕГДА. И что? Рациональность как таковая не имеет к этому отношения. Это метод, при котором происходит наиболее оптимальный выбор наиболее эффективного пути решения. В случае познания - это научный метод, как вы уже сказали. Метод оперирует с готовыми входными данными. Если на вход подано "запрещено X, Y, Z" - метод работает, отбрасывая пути с X, Y и Z в качестве побочных эффектов или промежуточных и конечных результатов. Потому тому как учитывает наличие такого-то количества начальных ресурсов или такую-то моделируемую структуру реальности согласно мировоззрению пользователя метода. Все это, от запретов и искусственно расставленных приоритетов до мировоззрения, может быть модифицировано с помощью, опять же, рациональности во славу Слаанеш и Тзинча. Надо только задать цель и условия. В итоге мы приходим к тому, что рациональность применима на всё, кроме одного - самой первоначальной мотивации. Примерно так.

""всеобъемлющей" рациональности вообще не существует - её куски скрепляются иррациональным." - это проблема не теоретическая, а практическая, техническая. В ИИ можно это минимизировать настолько, что иррациональным в методиках можно будет пренебречь. Было бы желание и был бы сам ИИ.

"И соотношение иррациональных кусков и рационального у дроида / ИИ может быть вообще любым" - ОК, задавайте его, прежде чем задавать вопрос. А то про "рационального дроида" тут загонять и так далее... Но про недостаточность условий я уже говорил, незачем повторяться.

"Вы обязываете дроида/ИИ не иметь конкретных иррациональных ограничений(которые озвучиваете), но именно они же - эти иррациональные ограничения лежат вообще в основе его существования. Отчего одно для вас неприемлемо, а другое имеет право на жизнь?" - я предположил, что создатели дроида работали с точки зрения эффективности и что он мыслит исключительно рационально, не суть, что ему при этом приходится "выводить на экран пользователя", т.е., как приходится преподносить себя людям.

""рационально" = разумно. да, но: С опорой на разум, а не чувства. Но разум не отвечает на вопрос, зачем вообще жить, совершать многие странные вещи - вроде поиска "собственного мнения и т.п.", размножаться и прочее. Почему одна деятельность предпочтительней другой. Это именно что - вопрос чувств." - больше высказываний капитана Очевидности этому треду. Как уже говорил, рациональность расширяется на всё, кроме хотя бы одного первоначального мотива. Естественно предположить, что таковым мотивом в последовательно (само)оптимизирующейся системе останется "самое важное". То, что я называю "смыслом жизни". Если хотите, вот вам одно из определений смысла жизни - мотив, который не может быть удалён при оптимизации и рационализации разумной системы, поскольку является критерием этой самой оптимизации.

"Со своими сверхенностями" - прекрасно, больше переходов на личности во славу кого там? Кхорна, наверное? Моя продвинутая интернет-эмпатия детектирует агрессию в вашем тоне. С чего бы это? Пора её переоптимизировать, хм?

А вообще, от вас я ожидал более разумного отношения. Рационального, что ли. Попытки искать зерно истины, предположения, что собеседник хреново формулирует (а так оно и есть).

Астероид, ну, давай, какая ещё "И рациоанализм я бы назвал просто ещё одной системой логики. Не более." логика бывает? Жги. Де-факто все сознающие себя нетупицы юзают рационализм, пусть и прикрытый кучей моралей и прочих принципов, но его-родимый. Если нет - то или недотягивает человек до понимания слово "эффективно" или до факта, что можно делать лучше, или не сознаёт свои мысли вообще и, соответственно, сложно что-то говорить с точки зрения "самоуправления" такого человека. Нет модели себя - нечего и улучшать.
На всякий случай поясню, что под "логикой", как я понял из контекста, является "методика мышления и решения задач". Так?

Матемаг
>Астероид, ну, давай, какая ещё ... логика бывает?
Завтра приведу и отвечу на остальные комменты. Сегодня уже мозги заплетаются.
Если пропущу важный лдя вас вопрос - напоминайте.

madness

Не более чем человек - часть общества.

Матемаг
Мне лень отвечать на все эти простыни.
Так и знал что сошлетесь на Юдковского, мнение которого о рациональном для меня - не аргумент.


А не сдохнем ли мы все? Или все-таки бессмертны? Нет?
Всему человечеству плевать на результат оно, витая в иллюзиях о "цели", живет ради процесса.


ИИ - раб. У него нет цели у него задача - быть хорошим рабом своему господину. Его разум оптимизирует задачу - быть хорошим рабом.



Полностью установив "соответствие между местностью и её когнитивной картой" (по Юдковскому) вы так и не получите ответ зачем вы живетеЮ например. Зачем вообще отвечать на вопрос, "что есть моё", а "что не моё"
Единственно что можно будет сказать - в силу устройства "когнитивной карты" вам хочется это сделать.




А для чего вообще-то эти опыты проводить? Какая у них "цель"?

А?

А такое же иррациональное желание, как и желание например не производить их на людях.

Вперед, уберите все "ограничения". Но они же и порождают и цели и задачи, которые рациональными (пусть ограничено) методами решаются.




А само желание минимизировать иррациональность - оно рационально?

Я вас не понимаю.




"он мыслит исключительно рационально" - бред, ибо полностью лишенная смысла фраза. И совершенно недостижимая.
если он существует не безмолвным куском недвижимого железа - значит у него есть мотивация.

А теперь, внимания вопрос: Как оценить рационально "мотивацию"?




И как, он рационален? Этот смысл жизни?

А если этих неудалимых мотивов и закладок очень много что это меняет концептуально?

Еще раз - оптимизация действий с целью лучшей инкарнации после смерти - иррационально или рациональное действие?



Потому что мне надоело талдычить про искусственность и глупость деление на рациональное и иррациональное . Оно всё равно бессмысленно и иррационально. (если совершить глупость, разумеется, и скатиться в тупую бинарную логику)

Можно сказать, что некий поступок _более_ или _менее_ рационален, но бинарная логика тут неприменима.
Ибо у каждого поступка есть мотив и и целый набор "смыслов жизни" - его граничные условия - и от их количества он будет менять свою "рациональность" тоже исключительно количественно.

А никак не качественно.

Поэтому я нахожу нелепым требовать от ИИ быть суперрационалистом, "мыслить исключительно рационально" и вообще считать это некой для него необходимостью.

По той причине что это невозможно вообще.

Проблема в том, что некоторые очевидные для вас критерии для меня не значат ровным счетом ничего.

Если вы ссылаетесь на Юдковского, то

1)Эпистемическая рациональность: образ действий и мыслей, укрепляющий соответствие между местностью и её когнитивной картой, корректировка убеждений в свете новой информации. Искусство обретения убеждений, согласующихся с реальностью настолько близко, насколько возможно. Это соответствие обычно называют «точностью», «правдивостью» или «правильностью», и нас удовлетворяет подобное обозначение.

Это для меня рациональность в том вышеназванном филосовском смысле слова. Т.е. вообще в этом и есть смысл науки.

2)Инструментальная рациональность: реализация ваших ценностей. «Ваших» не обязательно в смысле «личных» или «эгоистичных»: «твоей ценностью» может быть любая вещь, которая тебе небезразлична. Искусство направлять будущее в сторону более устраивающих тебя результатов. На LW это порой называется «выигрыванием».

Это я могу позволить себе называть рациональным разве что "условно разговорно".

Почему?

Вот например, сконструировали вы газовую камеру для концлагеря. С максимальной экономией стройматериалов, человекочасов строителей и максимальной производительнсотью трупов.

Однако сама необходимость убивать например евреев и русских лежит в неких убеждениях о превосходстве германской, арийской нации над недочеловеками - евреями и славянами.

И она ничем например не отличается по "(1 - эпистемологической рациональности)" от желания обрести лучшую инкарнацию после смерти, вернее от веры в её возможность.

и то и другое лежит на ничем не обоснованных убеждениях и вере.

Поэтому "Инструментальная рациональность" - для меня нечто высосаное из пальца. (Именно слово "рациональсноть" в этом контексте)

Конечно (1) оказывает влияние на формирование задач (2) но именно что рассматривая их отдельно (2) теряет смысл называть "рациональностью".
Какая-то оптимальность или эффективность - причем вполне вероятно субъективная, но не более.

Я много раз говорил, что я иррациональный человек - т.е. "рациональным" человеком себя не считаю. (ибо человек вообще не может быть рациональным). Теперь становится яснее, почему?

Рациональным может быть отдельное действие, поступок причем с учетом рамок и доступной информации. И человек и дроид - и любой иной субъект же иррационален.

финикийский_торговец
какого общества? Все идет к тому, что мы будем скоро связаны сетью почище дроидов будущего) А если учесть, что возможности дроидов получать доступ к более мощным процессорам и другим ресурсам куда большие, чем у человека сейчас, к тому же в них (дроидах) не заложена потребность выделиться (ну, мб в ваших заложена, я не знаю), то почему они должны быть автономны? Оптимальнее же быть связанным и решать задачи, привлекая все возможные ресурсы. Ну вот как вы в этом треде привлекли ресурсы других людей, и, чем черт не шутит, мог найтись кто-то, кто дал бы вам дельный совет. Т.е. глупо не использовать возможность, чтобы за тебя подумал кто-то более умный в принципе или сведущий в определенном вопросе. Или речь идет о том, чтобы дроид просто перестал быть адекватным?

madness
Потому что в данном сеттинге дроиды автономны. Это аксиома. (у них есть нечто вроде интернета для дроидов - но он не для связи друг с другом)


Уже

Потому что их такими сделали. Чтобы дроиды не "убили всех человеков". (что они не однократно и пытались сделать в сеттинге ЗВ)

"Оптимальность" может быть ограничена вполне законодательно. По вышеназванным причинам.

Адекватным чему?

>>Адекватным чему?
ситуации. Чем больше задействовано возможностей, тем оптимальнее реакция.

А, ну в целом тогда понятен посыл, хотя и не совсем лично мне нравится, но тут уж вы хозяин своей вселенной.

madness
>>>ситуации. Чем больше задействовано возможностей, тем оптимальнее реакция.

Не понимаю. Что значит быть "адекватным ситуации"? "Ситуациия" сама способна оценить поступки как адекватные или нет?

Или все же нужен субъект-оценщик?

Матемаг
Постараюсь более понятнее выразиться (хотя и не получается).

Юдковский, оценивая действия как рациональные или нет (2 - Инструментальная рациональность), смотрит на их оптимальность по достижению "цели", при этом позволяя себе вывести из критики саму эту "цель". И "ценности".

В то время, как сами они по шкале рациональности им не оцениваются.

Например, поэтому его ГГ в ГПиМРМ вроде как "рационален". Поскольку придерживается эпистемологической рациональности. И достаточно эффективно достигает своих желаний, при этом ограниченный по-собачьи вбитыми в него "хорошими" ценностями.
В отличие от своего "противника".

А в действительности поступая лишь так, как ему хочется. Как и его "противник".

В то время как ценности эти являются производными всех взаимодействий новорожденного организма с окружающим миром и обществом - далеко не рациональным. Именно что уже "эпистомологически".

И вот это более/менее - куда бы не было, а доля иррациональности там будет. Ладно, предположим довелось некому субъекту родиться в идеально рациональном обществе где все оптимизировано под выполнения неких первичных никак не меняющимся базовым потребностям - тому, что вы назвали "смыслом жизни."

Это как раз ситуации с дроидом. По этому опираясь на Юковского это можно назвать прееддльно рациональным всё также никак не оценивая "первичные ценности" - заложенные программистом-создателем ИИ или эволюцией в случае человека.

Они для него "никакие". Не рациональные и не иррациональные.

Для меня же они иррациональны, а потому все существа - иррациональны. Т.е. лежат вне этого рацио, разума. Разум - лишь надстройка над ними, тот самый метод по их достижению и не более.

И ценности эти можно раздвигать сколь угодно широко, я не вижу разницы между желание вкусно есть и верой в бога - это всё некие электрохимические процессы в ГМ.

Где нащупать эту границу между самой простой неотключаемой, базовой активностью в ГМ и уже "надстройками"? Персонификация окружающего, приделывание всему личности - это же такая же задача ГМ, как и заставлять тушку питаться и размножаться.

Если я не вижу четкой границы - значит я и не понимаю смысла в классификации. Иначе как для практических задач - тут нужна классификация. Но в неких принципиальных, концептуальных спорах - нет, не вижу.


+++ Когда пишешь очень много и быстро немзбежны ошибки, кроме того отвечать на такое ко-во реплик решительно невозможно.

Либо мы сократим "вопрос" обсуждения либо это будет совершенно бесполезным бадминтоном.

финикийский_торговец
хех, ну конечно ситуация не способна оценивать, но именно она способна предоставить данные для размышлений. Сократила я мысль просто.
Я не в курсе, кто дроиду сказал, что его суждения должны превалировать. Этот кто-то и должен был подумать, будет ли дроид в этом случае действовать более оптимально, или менее, и если менее, то будет ли это соответствовать необходимому уровню возможностей для решения проблем в определенных ситуациях, или дроид не сможет действовать в них на должном уровне.

madness
Этот кто-то - трикстер. пусть и прячущийся за маской рациональности.

В условиях отсутствия свободы воли все действия производятся наиболее (субъективно) оптимальным способом и одновременно - единственно возможным.

Попросту кто-то приделывает ценностям-ограничениям право считаться рациональными или нет. А потом говорит, что это рациональное или нерациональное действие.
Что меня смешит. Или уже даже сердит - эта попытка придать всему рациональность.

финикийский_торговец
а это уже интересно. Трикстер, так трикстер. Хоть бог или дьявол, разницы никакой. Быть может, для кого-то из них чем менее предсказуем дроид, тем лучше, оптимальнее)

финикийский_торговец
*заинтересованно* чего где пишите?

Графоманю на фикбуке. Ссылка в профиле есть.
https://ficbook.net/readfic/4018898 - вот это, чтобы далеко не ходить.

Матемаг
И ведь самое забавное - был бы рад во многом с вами согласиться - я же сам рационалист. И всегда выступаю за рациональность во всём, прямо проводя аналогию рациональности с разумностью и разумом вообще.

Но как человек - (полностью) рациональным существом быть не могу. И это справедливо и для ИИ.

Спасибо. Масштабненько, если судить по шапке)

>Они для него "никакие". Не рациональные и не иррациональные.
>Для меня же они иррациональны

Почему?

Fluxius Secundus
Потому что не порождены той самой надстройкой - разумом, которая рацио и порождает.

Нет разницы между тем, чтобы верить в бога или хотеть съесть мороженое - и то и другое просто "хочется", это возникает не требуя критического восприятия - мыслей о мыслях.

Можно сказать, что одно - убеждение, а второе кулинарное пристрастие, но для меня и то и другое плоды деятельности не контролируемой последовательно действующим, логичным сознанием "части мозга".

Это то, что случается само собой и не требует разумности - т.е. похоже на поведение животного.

И да - я смешал в кучу инстинкты и условные с безусловными рефлексы. И животные могут вести себя рационально - когда вороны учатся пользоваться палочкой для извлечения еды. Но это метод, ворону это рациональным не делает.

То, что "мы" создали компьютеры и квантмех - не отрицает того, что основные наши задачи - есть. доминировать и размножаться никуда не делись и собственно в контексте именно этих задач и в результате специфичного их взаимодействия со сложным обществом и появляется например "наука".

Вороны пользуются для получения еды палочкой. Мы запускаем в космос спутники. Разница на мой вгляд небольшая.

Да, метод может быть рациональным (более или менее, но никогда на 100%*), знание, способ его получения может быть рациональным. Тот у кого есть разум - эта надстройка - именно так и будет себя вести. Иначе никакого разума у него и нет.

*Ибо рационально наиболее оптимальное решение проблемы, но человек будет неизбежно "держать в уме" много ограничений, но если сказать что они не важны, то отчего важно и само целеполагание?

А вот само существо, всё это делающее, никогда рациональным не будет.

Да, можно использовать тройное деление:
а)Рациональное
б)Нерациональное
в)Никакое.

Но почему и на каком основании Юдковский разделяет "Нерациональное" и "Никакое" (а возможно и Матемаг) для меня остается загадкой.

По мне он не оставляет вообще места "нерациональному" - путем нехитрых манипуляций его в роли "ценностей" можно спихнуть в "никакое". И все - останется только нечто серое и неясное и так любимое им "рациональное".

Я же объединяя "нерациональное" и "никакое" в просто "нерациональное" превращаю в отчасти "нерациональное" вообще все поведение любого человека. И ИИ тоже - поскольку и у него обязаны быть эмоции и базовые "ценности" - некий "смысл жизни".

+Мне надоедает. Может, это и не вежливо, но пока отвечать в этой теме я не буду. Во всяком случае ближайшую неделю - мозг у меня не многозадачный, а написание фика с мертвой точки так и не сдвинусь.

https://fanfics.me/message270989
Вот пример системы логики, о которой я говорил.
П.С. Дублировал на всякий случай, а то бывали случаи. ))