Гарри Поттер и Методы Рационального Мышления (джен)

Я похож на злостного флудопровокатора?:)
Думаю, определить цель можно даже формально, конечно, будет некоторая неопределённость, поскольку язык описания естественный, но выработать довольно однозначные критерии того, достигута ли цель и в какой мере она достигнута - не проблема. Конечно, надо знать, что такое "всеобщее благо", "планетарная справедливость", "личное счастье" и "исполненный долг", а не оперировать тем, о чём имеешь отдалённое представление. Рациональные методы, кстати, могут позволить выработать точные критерии, сократить определение, отбросить внешнее и оставить суть нашей Великой Цели.

>> Я похож на злостного флудопровокатора?:)

Ну, лично меня спровоцировать на флуд никакого труда не составляет :)

В целом согласен, но у меня есть впечатление, что если цель включает подобные параметры, то при формальном определении есть изрядные шансы обнаружить противоречивость :) Впрочем, обосновать эту точку зрения я не могу.

Я вас не вполне понял.
Вот смоттрите:
1)
Есть цель: всеобщее ЩАстье. (цель, конечно, совершенно бредовая, но именно по этому мы и возьмем ее для примера)
2)
Мы можем описать счастье только в сугубо оценочных понятиях. Рациональностть здесь не подойдет.
Но нам нужно что-то, к чему можно подойти с рациональной точки зрения.
Мы думали, мы думали и наконец придумали:
Мы будем считать людей счастливыми, когда они сами будут о себе так думать.
!!!Внимание!!!- теперь у нас есть ОПИСАНИЕ счастья с которым можно работать рациональными методами.
(Пример задачи: разработать и воплотить в жизнь механизм беспристрастного сбора сведений о мнении людей).
3)
Составляем возможные планы действий, попутно устанавливаем "рамки допустимого" (если мы ранее этим не озаботтились).
3.1.1)Вариант№1:
Наладить промышленный выпуск наркотиков и "посадить на иглу" всех людей.
Цель будет достигнута?- Да.
3.1.2) Но этот метод нами не принимается по ЭТИЧЕСКИМ соображениям. РАЦИОНАЛЬНО он вполне себе хорош.
Занимаемся формализацией, описываем что нам не нравится, описываем "рамки".
3.2...)...
3.3...)...
3....
....
Грубо, на всккидку, но вполне понятно.

Alaric, Тут всё зависит от, собственно, цели. Если человек сам для себя даже примерно не может сформулировать её - то о каких формальных критериях вообще идёт речь? А так бывает весьма и весьма часто. Однако определить, что есть, допустим, анархический строй, коммунизм, технократия, теократия, планетарная республика, Земная Империя - вполне себе реально. А они могут пониматься разными группами людей как то самое "всеобщее благо", причём критерии достижения и промежуточные результаты достаточно точно определимы.

arantis, хех, помнится, как-то в детстве читал роман, в котором описываются "злые" роботы с ИИ, которые были изобретены ради "всеобщего щастья". В итоге они взбунтовались против бедного создателя и пошли насаждать добро и принуждать к справедливости. Наркотики употреблялись достаточно широко, равно как и ментальный контроль техническими способами. Жаль, название забыл.

Существовал культ Карго - это туземцы поклонялись технологии, например самолёту. Трансгуманисты не поклоняются, но некоторые из них занимаются не более продуктивной деятельностью. Так что говорить о силе идеологии как таковой не совсем корректно. Я об этом упомянул.

PS: обратим внимание, что под "рациональностью" понимает автор:
http://lesswrong.ru/w/Что_такое_рациональность
PPS: сейчас человечеству следует определиться, какую же цель должен преследовать ИИ, чтобы быть дружественным, вопрос на самом деле очень сложный, но если к созданию ИИ мы не успеем его понять, то всем крышка.
Это основная цель нынешнего сообщества автора.

Mr.Кролик
Вы это вобще к чему?

первое к комментарию о моём комментарии, с которого всё поехало
второе к тому, что сейчас происходит

Mr.Кролик, пожалуй, вы правы. Сама по себе идеология трансгуманизма ничего не значит. Нужно добавить к ней рациональность и наложить некие ограничения морали, иначе и до технофашизма докатиться можно. Интересно, как много трансгуманистов являются "настоящими" рационалистами хотя бы в обыденном понимании этого слова, то есть ставят достижимые цели и идут к ним разумными методами? Предчувствую, не так уж много...
Ну а формализировать всё эти человеческие понятия, да ещё и заложить в ИИ... Если не ошибаюсь, Юдковски над чем-то таким и работает. Причём довольно долго.

arantis

>> Но этот метод нами не принимается по ЭТИЧЕСКИМ соображениям. РАЦИОНАЛЬНО он вполне себе хорош.

Я подозреваю, что этот конфликт происходит из-за того, что метод определения достижения цели (опрос всех людей) оказался не до конца соответствующим пониманию цели того, кто её поставил :) Фактически в ограничивающие условия вы запихиваете всё, что не смогли запихать в основное условие :)

оказался не до конца соответствующим пониманию цели того, кто её поставил
- естественно, ведь мы формализовали понятие "всеобщего счастья"

Фактически в ограничивающие условия вы запихиваете всё, что не смогли запихать в основное условие
- не совсем так. Можно сказать, что Цель- то чего нужно достичь, а Рамки- то чего при этом надо избежать.

В любом случае, то, что Цель может быть формализована я доказал.

>> естественно, ведь мы формализовали понятие "всеобщего счастья"

Вы его, получается, как-то "для галочки" формализовали :) Проблема-то в том, что тот, кто ставит цель достичь всеобщего счастья может считать сохранение свободы воли неотъемлимой частью цели. Поэтому идея подсадить всех на наркотики не отметается по Этическим соображениям, она просто цели не удовлетворяет.

Т.е. конечно, можно часть цели объявить Целью, а часть - Рамками, но это части одного целого. И формализовать в таком случае нужно не только Цель, но и Рамки.

Цитата:
Составляем возможные планы действий, попутно устанавливаем "рамки допустимого" (если мы ранее этим не озаботились).

Цель стояла: всеобщее счастье.
Про свободу воли здесь ничего не сказано. И даже не подразумевается.
Более того, в самой постановке вопроса: достичь счастья для всех. О свободе воли этих "всех" речи не идет.
Поэтому цели- это цели, а рамки-это рамки.

>> Цель стояла: всеобщее счастье.

В том-то и проблема формализаций, что глобальная цель может быть описана двумя словами, но на самом деле за этими словами скрывается ещё уйма ограничений. Которые говорящий считает самоочевидными и поэтому даже не задумывается озвучить. Мне сложно представить реального человека, который бы за счастье принял бы отсутствие свободы воли. Или какую-нибудь иное условие, при котором человек фактически прекращает быть человеком.

Но в принципе, повторюсь, я не против разделить всю цель на Цель и Рамки. Это ничего не меняет. И в общем-то не важно, откуда берутся Рамки - из этических соображений, из неявно-подразумеваемого или просто потому что так левая пятка захотела. Факт в том, что всё это непонятно откуда взявшееся, так или иначе нужно описывать рациональными методами :) Иначе как мы узнаем, не влетели ли мы в эти рамки? :)

Alaric
Почитал я- почитал...
Подумал-подумал...
И решил:
ПЕРЕХОЖУ_НА_ЛИЧНОСТИ
А иди ка ты куда подальше гребаный_троллофлудер перескакивающий_с_темы_на_тему, сам не знающий, о чем же он говорит.

Матемаг, трансгуманизм это философия, а не идеология. А за мораль цеплятся не имеет смысла. Разумность и рациональность способны компенсировать.

Mr.Кролик, а вы случайно не из трансгуманистов? По некоторым вопросам вы весьма "в теме"

ТемныйСвет, мне почему-то казалось, что любая система взглядов, где центральной является цель, идея изменения, есть идеология. Например, философия солипсизма не является идеологией, поскольку не задаёт явную цель. У трансгуманизма есть явная цель - улучшение, совершенствование человека и человечества. Это скорее идеология. Хотя, возможно, я не совсем правильно определяю понятия "идеология" и "направление философии".

Матемаг, трасгуманизм по своей природе эгоистичен. Цель ТГ менят себя, а не идея менять все.

"У трансгуманизма есть явная цель - улучшение, совершенствование человека и человечества"
Но только на добровольной основе.

Идеология принуждает к чему-то, пытается тащить куда-то к "свету". Трансгуманизм - это абсолютно доброльный выбор. На человечество в целом трасгуманистам пофиг, лишь бы не мешали.

ТемныйСвет, странно, у меня сложилось впечатление, что трансгуманизм в равной мере альтруистичен и эгоистичен: развитие человечества через развитие (пожалуй, больше подойдёт словечко "апгрейд") каждого человека.
Просто трансгуманизм - неагрессивная идеология, и всего-то. Или мне кажется, или любая идеология принимается только на добровольной основе. Ну, если её не впихивают насильно, но тут мы говорим о другом явлении, в каком-то смысле впихиваением насильно будет и прочтение "ГП и МРМ", ибо склоняет.
Кстати, неужели среди всех направлений ТГ нет агрессивных? Что-то не верится...

Матемаг, ну это не совсем верное впечталение. Ведь возможно же развите части человечества.
А в перспективе сосуществование двух разумных видов.

"Просто трансгуманизм - неагрессивная идеология, и всего-то."
Но при этом готовая на защиту :)

"Или мне кажется, или любая идеология принимается только на добровольной основе."
Ну идеологию воспитывают чаще всего. И идеология - это четкий свод норм и взглядов.
Траснгуманизм имеет в себе самые расплывчатые положения.

"Кстати, неужели среди всех направлений ТГ нет агрессивных? Что-то не верится..."
Направлений нет. Отдельные психи есть.

Счастье всем и всех "гнать" к свету - это идиотизм. Кому надо сам придет.

ТемныйСвет, ну, возможно и так. В любом случае, в целом, развитие значительной части всех людей будет развитием человечества. Вообще - зависит от того, как реализовывать развитие. Если плавно и долго, то можно и всё человечество без остатка перевести на новый уровень. Если резко - будут отставшие.
Любая идеология... даже не так - любая группа людей или система взглядов имеет что-то вроде инстинкта самосохранения.
Просто трансгуманизм - новая, молодая идеология. Некому воспитывать пока. Много ли их, трансгуманистов, в доле от всех людей? А в сравнении с (иными) идеологиями, особенно старыми? Вот-вот.
Психи есть везде. Это не идеология или философия. Это статистика:(