Гарри Поттер и Методы Рационального Мышления (джен)

Я немножко не о том. Мне почему-то подумалось о вариантах вида "сильной рукой загнать человечество к счастью". И тут возникает размышление: Известно, что такие попытки в истории предпринимались неоднократно. С плачевным результатом. Можем ли мы при всей нашей рациональности сказать, чем наш метод лучше всех ранее использованных и почему он не приведет к тому же плачевному результату?

Цель действительно задается из других соображений, но рациональность может отсечь часть целей как заведомо недостижимые. Ну и да, она может позволить обнаружить, что идеология самопротиворечива, чем, на мой взгляд, страдают очень многие идеологии :)

Alaric
Ваш первый абзац весьма и весьма спорен. Все зависит от точки зрения. И в зависимости от этой точки зрения (читай "от условий задачи") при помощи рациональности можно придти к совершенно разным выводам.
Сама же "точка зрения" определяется не рационально. Потому как таким сугубо оценочным понятиям как "сильная рука", "счастье" и т.д. и т.п. нет места в области чистой рациональности.

arantis
Мой первый абзац заканчивается вопросом :)

>> Потому как таким сугубо оценочным понятиям как "сильная рука", "счастье" и т.д. и т.п. нет места в области чистой рациональности.

Я утрирую и мне кажется, что это очевидно :) Но, по-моему, с таким же успехом можно прицепиться к любой, хоть сколько-то распространенной идеологии :) И доказать, что в её формулировках множество оценочных понятий, которым нет места в области чистой рациональности. И далее мы столкнемся с вопросом: а как методами чистой рациональности мы будем достигать целей, которые методами чистой рациональности не описываются? :)

Элементарно шеф :)
Распишем схему достижения этой идеальной цели и будем пошагово к ней идти. В алгоритме достижения цели - методы уже спокойно могут применятся :)

Добавлено 08.06.2012 - 15:52:
Ты просто можешь отдельно избрать своей целью - нахождение рациональной цели и тоже применять методы :))

>> Распишем схему достижения этой идеальной цели и будем пошагово к ней идти. В алгоритме достижения цели - методы уже спокойно могут применятся :)

Это работает, только если у нас есть линейный алгоритм. Но в жизни не всё так просто, и линейные алгоритмы можно построить не всегда. Зачастую надо уметь проверять, насколько далеко мы сейчас вообще находимся от цели. А как это сделать, если мы не умеем определять цель методами рациональности? :)

Мы не умеем ОПРЕДЕЛИТЬ цель методами рациональности, но мы вполне можем ОПИСАТЬ цель мение оценочными понятимя.

Необходимая поправка: под словом "определять" я в данном контексте подразумеваю "дать определение". Прошу прощения, двусмысленно получилось :)

Что касается можем мы описать цель или не можем, то это как раз зависит от цели, и об этом я собственно и писал выше :)

Я похож на злостного флудопровокатора?:)
Думаю, определить цель можно даже формально, конечно, будет некоторая неопределённость, поскольку язык описания естественный, но выработать довольно однозначные критерии того, достигута ли цель и в какой мере она достигнута - не проблема. Конечно, надо знать, что такое "всеобщее благо", "планетарная справедливость", "личное счастье" и "исполненный долг", а не оперировать тем, о чём имеешь отдалённое представление. Рациональные методы, кстати, могут позволить выработать точные критерии, сократить определение, отбросить внешнее и оставить суть нашей Великой Цели.

>> Я похож на злостного флудопровокатора?:)

Ну, лично меня спровоцировать на флуд никакого труда не составляет :)

В целом согласен, но у меня есть впечатление, что если цель включает подобные параметры, то при формальном определении есть изрядные шансы обнаружить противоречивость :) Впрочем, обосновать эту точку зрения я не могу.

Я вас не вполне понял.
Вот смоттрите:
1)
Есть цель: всеобщее ЩАстье. (цель, конечно, совершенно бредовая, но именно по этому мы и возьмем ее для примера)
2)
Мы можем описать счастье только в сугубо оценочных понятиях. Рациональностть здесь не подойдет.
Но нам нужно что-то, к чему можно подойти с рациональной точки зрения.
Мы думали, мы думали и наконец придумали:
Мы будем считать людей счастливыми, когда они сами будут о себе так думать.
!!!Внимание!!!- теперь у нас есть ОПИСАНИЕ счастья с которым можно работать рациональными методами.
(Пример задачи: разработать и воплотить в жизнь механизм беспристрастного сбора сведений о мнении людей).
3)
Составляем возможные планы действий, попутно устанавливаем "рамки допустимого" (если мы ранее этим не озаботтились).
3.1.1)Вариант№1:
Наладить промышленный выпуск наркотиков и "посадить на иглу" всех людей.
Цель будет достигнута?- Да.
3.1.2) Но этот метод нами не принимается по ЭТИЧЕСКИМ соображениям. РАЦИОНАЛЬНО он вполне себе хорош.
Занимаемся формализацией, описываем что нам не нравится, описываем "рамки".
3.2...)...
3.3...)...
3....
....
Грубо, на всккидку, но вполне понятно.

Alaric, Тут всё зависит от, собственно, цели. Если человек сам для себя даже примерно не может сформулировать её - то о каких формальных критериях вообще идёт речь? А так бывает весьма и весьма часто. Однако определить, что есть, допустим, анархический строй, коммунизм, технократия, теократия, планетарная республика, Земная Империя - вполне себе реально. А они могут пониматься разными группами людей как то самое "всеобщее благо", причём критерии достижения и промежуточные результаты достаточно точно определимы.

arantis, хех, помнится, как-то в детстве читал роман, в котором описываются "злые" роботы с ИИ, которые были изобретены ради "всеобщего щастья". В итоге они взбунтовались против бедного создателя и пошли насаждать добро и принуждать к справедливости. Наркотики употреблялись достаточно широко, равно как и ментальный контроль техническими способами. Жаль, название забыл.

Существовал культ Карго - это туземцы поклонялись технологии, например самолёту. Трансгуманисты не поклоняются, но некоторые из них занимаются не более продуктивной деятельностью. Так что говорить о силе идеологии как таковой не совсем корректно. Я об этом упомянул.

PS: обратим внимание, что под "рациональностью" понимает автор:
http://lesswrong.ru/w/Что_такое_рациональность
PPS: сейчас человечеству следует определиться, какую же цель должен преследовать ИИ, чтобы быть дружественным, вопрос на самом деле очень сложный, но если к созданию ИИ мы не успеем его понять, то всем крышка.
Это основная цель нынешнего сообщества автора.

Mr.Кролик
Вы это вобще к чему?

первое к комментарию о моём комментарии, с которого всё поехало
второе к тому, что сейчас происходит

Mr.Кролик, пожалуй, вы правы. Сама по себе идеология трансгуманизма ничего не значит. Нужно добавить к ней рациональность и наложить некие ограничения морали, иначе и до технофашизма докатиться можно. Интересно, как много трансгуманистов являются "настоящими" рационалистами хотя бы в обыденном понимании этого слова, то есть ставят достижимые цели и идут к ним разумными методами? Предчувствую, не так уж много...
Ну а формализировать всё эти человеческие понятия, да ещё и заложить в ИИ... Если не ошибаюсь, Юдковски над чем-то таким и работает. Причём довольно долго.

arantis

>> Но этот метод нами не принимается по ЭТИЧЕСКИМ соображениям. РАЦИОНАЛЬНО он вполне себе хорош.

Я подозреваю, что этот конфликт происходит из-за того, что метод определения достижения цели (опрос всех людей) оказался не до конца соответствующим пониманию цели того, кто её поставил :) Фактически в ограничивающие условия вы запихиваете всё, что не смогли запихать в основное условие :)

оказался не до конца соответствующим пониманию цели того, кто её поставил
- естественно, ведь мы формализовали понятие "всеобщего счастья"

Фактически в ограничивающие условия вы запихиваете всё, что не смогли запихать в основное условие
- не совсем так. Можно сказать, что Цель- то чего нужно достичь, а Рамки- то чего при этом надо избежать.

В любом случае, то, что Цель может быть формализована я доказал.

>> естественно, ведь мы формализовали понятие "всеобщего счастья"

Вы его, получается, как-то "для галочки" формализовали :) Проблема-то в том, что тот, кто ставит цель достичь всеобщего счастья может считать сохранение свободы воли неотъемлимой частью цели. Поэтому идея подсадить всех на наркотики не отметается по Этическим соображениям, она просто цели не удовлетворяет.

Т.е. конечно, можно часть цели объявить Целью, а часть - Рамками, но это части одного целого. И формализовать в таком случае нужно не только Цель, но и Рамки.

Цитата:
Составляем возможные планы действий, попутно устанавливаем "рамки допустимого" (если мы ранее этим не озаботились).

Цель стояла: всеобщее счастье.
Про свободу воли здесь ничего не сказано. И даже не подразумевается.
Более того, в самой постановке вопроса: достичь счастья для всех. О свободе воли этих "всех" речи не идет.
Поэтому цели- это цели, а рамки-это рамки.

>> Цель стояла: всеобщее счастье.

В том-то и проблема формализаций, что глобальная цель может быть описана двумя словами, но на самом деле за этими словами скрывается ещё уйма ограничений. Которые говорящий считает самоочевидными и поэтому даже не задумывается озвучить. Мне сложно представить реального человека, который бы за счастье принял бы отсутствие свободы воли. Или какую-нибудь иное условие, при котором человек фактически прекращает быть человеком.

Но в принципе, повторюсь, я не против разделить всю цель на Цель и Рамки. Это ничего не меняет. И в общем-то не важно, откуда берутся Рамки - из этических соображений, из неявно-подразумеваемого или просто потому что так левая пятка захотела. Факт в том, что всё это непонятно откуда взявшееся, так или иначе нужно описывать рациональными методами :) Иначе как мы узнаем, не влетели ли мы в эти рамки? :)