финикийский_торговец
а это уже интересно. Трикстер, так трикстер. Хоть бог или дьявол, разницы никакой. Быть может, для кого-то из них чем менее предсказуем дроид, тем лучше, оптимальнее)

финикийский_торговец
*заинтересованно* чего где пишите?

Графоманю на фикбуке. Ссылка в профиле есть.
https://ficbook.net/readfic/4018898 - вот это, чтобы далеко не ходить.

Матемаг
И ведь самое забавное - был бы рад во многом с вами согласиться - я же сам рационалист. И всегда выступаю за рациональность во всём, прямо проводя аналогию рациональности с разумностью и разумом вообще.

Но как человек - (полностью) рациональным существом быть не могу. И это справедливо и для ИИ.

Спасибо. Масштабненько, если судить по шапке)

>Они для него "никакие". Не рациональные и не иррациональные.
>Для меня же они иррациональны

Почему?

Fluxius Secundus
Потому что не порождены той самой надстройкой - разумом, которая рацио и порождает.

Нет разницы между тем, чтобы верить в бога или хотеть съесть мороженое - и то и другое просто "хочется", это возникает не требуя критического восприятия - мыслей о мыслях.

Можно сказать, что одно - убеждение, а второе кулинарное пристрастие, но для меня и то и другое плоды деятельности не контролируемой последовательно действующим, логичным сознанием "части мозга".

Это то, что случается само собой и не требует разумности - т.е. похоже на поведение животного.

И да - я смешал в кучу инстинкты и условные с безусловными рефлексы. И животные могут вести себя рационально - когда вороны учатся пользоваться палочкой для извлечения еды. Но это метод, ворону это рациональным не делает.

То, что "мы" создали компьютеры и квантмех - не отрицает того, что основные наши задачи - есть. доминировать и размножаться никуда не делись и собственно в контексте именно этих задач и в результате специфичного их взаимодействия со сложным обществом и появляется например "наука".

Вороны пользуются для получения еды палочкой. Мы запускаем в космос спутники. Разница на мой вгляд небольшая.

Да, метод может быть рациональным (более или менее, но никогда на 100%*), знание, способ его получения может быть рациональным. Тот у кого есть разум - эта надстройка - именно так и будет себя вести. Иначе никакого разума у него и нет.

*Ибо рационально наиболее оптимальное решение проблемы, но человек будет неизбежно "держать в уме" много ограничений, но если сказать что они не важны, то отчего важно и само целеполагание?

А вот само существо, всё это делающее, никогда рациональным не будет.

Да, можно использовать тройное деление:
а)Рациональное
б)Нерациональное
в)Никакое.

Но почему и на каком основании Юдковский разделяет "Нерациональное" и "Никакое" (а возможно и Матемаг) для меня остается загадкой.

По мне он не оставляет вообще места "нерациональному" - путем нехитрых манипуляций его в роли "ценностей" можно спихнуть в "никакое". И все - останется только нечто серое и неясное и так любимое им "рациональное".

Я же объединяя "нерациональное" и "никакое" в просто "нерациональное" превращаю в отчасти "нерациональное" вообще все поведение любого человека. И ИИ тоже - поскольку и у него обязаны быть эмоции и базовые "ценности" - некий "смысл жизни".

+Мне надоедает. Может, это и не вежливо, но пока отвечать в этой теме я не буду. Во всяком случае ближайшую неделю - мозг у меня не многозадачный, а написание фика с мертвой точки так и не сдвинусь.

https://fanfics.me/message270989
Вот пример системы логики, о которой я говорил.
П.С. Дублировал на всякий случай, а то бывали случаи. ))