| Название: | Harry Potter and the Methods of Rationality |
| Автор: | Элиезер Юдковский |
| Ссылка: | http://www.fanfiction.net/s/5782108/1/Harry_Potter_and_the_Methods_of_Rationality |
| Язык: | Английский |
| Наличие разрешения: | Разрешение получено |
Проверено на грамотность 
СЛУШАТЬ
| Мыслит, значит существует (гет) | 216 голосов |
| Червь (джен) | 189 голосов |
| Luminosity - Сияние разума (гет) | 127 голосов |
| Мать Ученья (джен) | 92 голоса |
| Что-то придется менять (джен) | 79 голосов |
|
Dutani рекомендует!
|
|
ВолчьяКошка рекомендует!
|
|
Одно из лучших произведений! И безумно рада, что его напечатали. Теперь мечтаю как-нибудь купить в печатной версии не смотря на то, что читала раз двадцать (и с сайта, и с электронки, и слушала аудиоверсию).
Логика, прекрасная, шикарная логика цепляет с первой главы и вызывает иногда взрыв мозга, так как начинает казаться дико нелогичными многие вещи в каноне. Фантазия у автора не знает границ - и это сочетание с юмором (разговоры со шляпой, банки Прыского чая и пр.). Расчеты (например, как автор заморочился и рассчитал все с валютой в главе с Гринготтсом) вызывает лютое уважение. |
|
|
Alex Chapa рекомендует!
|
|
Книга, которую я мгновенно рекомендовал к прочтению всем друзьям.
|
|
 |
Матемаг Онлайн
|
|
Alaric, Тут всё зависит от, собственно, цели. Если человек сам для себя даже примерно не может сформулировать её - то о каких формальных критериях вообще идёт речь? А так бывает весьма и весьма часто. Однако определить, что есть, допустим, анархический строй, коммунизм, технократия, теократия, планетарная республика, Земная Империя - вполне себе реально. А они могут пониматься разными группами людей как то самое "всеобщее благо", причём критерии достижения и промежуточные результаты достаточно точно определимы.
arantis, хех, помнится, как-то в детстве читал роман, в котором описываются "злые" роботы с ИИ, которые были изобретены ради "всеобщего щастья". В итоге они взбунтовались против бедного создателя и пошли насаждать добро и принуждать к справедливости. Наркотики употреблялись достаточно широко, равно как и ментальный контроль техническими способами. Жаль, название забыл. |
|
 |
|
|
Существовал культ Карго - это туземцы поклонялись технологии, например самолёту. Трансгуманисты не поклоняются, но некоторые из них занимаются не более продуктивной деятельностью. Так что говорить о силе идеологии как таковой не совсем корректно. Я об этом упомянул.
PS: обратим внимание, что под "рациональностью" понимает автор: http://lesswrong.ru/w/Что_такое_рациональность PPS: сейчас человечеству следует определиться, какую же цель должен преследовать ИИ, чтобы быть дружественным, вопрос на самом деле очень сложный, но если к созданию ИИ мы не успеем его понять, то всем крышка. Это основная цель нынешнего сообщества автора. |
|
|
|
|
Mr.Кролик
Вы это вобще к чему? |
|
|
|
|
первое к комментарию о моём комментарии, с которого всё поехало
второе к тому, что сейчас происходит |
|
|
Матемаг Онлайн
|
|
Mr.Кролик, пожалуй, вы правы. Сама по себе идеология трансгуманизма ничего не значит. Нужно добавить к ней рациональность и наложить некие ограничения морали, иначе и до технофашизма докатиться можно. Интересно, как много трансгуманистов являются "настоящими" рационалистами хотя бы в обыденном понимании этого слова, то есть ставят достижимые цели и идут к ним разумными методами? Предчувствую, не так уж много...
Ну а формализировать всё эти человеческие понятия, да ещё и заложить в ИИ... Если не ошибаюсь, Юдковски над чем-то таким и работает. Причём довольно долго. |
|
|
Alaricпереводчик
|
|
arantis
>> Но этот метод нами не принимается по ЭТИЧЕСКИМ соображениям. РАЦИОНАЛЬНО он вполне себе хорош. Я подозреваю, что этот конфликт происходит из-за того, что метод определения достижения цели (опрос всех людей) оказался не до конца соответствующим пониманию цели того, кто её поставил :) Фактически в ограничивающие условия вы запихиваете всё, что не смогли запихать в основное условие :) |
|
|
|
|
оказался не до конца соответствующим пониманию цели того, кто её поставил
- естественно, ведь мы формализовали понятие "всеобщего счастья" Фактически в ограничивающие условия вы запихиваете всё, что не смогли запихать в основное условие - не совсем так. Можно сказать, что Цель- то чего нужно достичь, а Рамки- то чего при этом надо избежать. В любом случае, то, что Цель может быть формализована я доказал. |
|
|
Alaricпереводчик
|
|
>> естественно, ведь мы формализовали понятие "всеобщего счастья"
Вы его, получается, как-то "для галочки" формализовали :) Проблема-то в том, что тот, кто ставит цель достичь всеобщего счастья может считать сохранение свободы воли неотъемлимой частью цели. Поэтому идея подсадить всех на наркотики не отметается по Этическим соображениям, она просто цели не удовлетворяет. Т.е. конечно, можно часть цели объявить Целью, а часть - Рамками, но это части одного целого. И формализовать в таком случае нужно не только Цель, но и Рамки. |
|
|
|
|
Цитата:
Составляем возможные планы действий, попутно устанавливаем "рамки допустимого" (если мы ранее этим не озаботились). Цель стояла: всеобщее счастье. Про свободу воли здесь ничего не сказано. И даже не подразумевается. Более того, в самой постановке вопроса: достичь счастья для всех. О свободе воли этих "всех" речи не идет. Поэтому цели- это цели, а рамки-это рамки. |
|
|
Alaricпереводчик
|
|
>> Цель стояла: всеобщее счастье.
В том-то и проблема формализаций, что глобальная цель может быть описана двумя словами, но на самом деле за этими словами скрывается ещё уйма ограничений. Которые говорящий считает самоочевидными и поэтому даже не задумывается озвучить. Мне сложно представить реального человека, который бы за счастье принял бы отсутствие свободы воли. Или какую-нибудь иное условие, при котором человек фактически прекращает быть человеком. Но в принципе, повторюсь, я не против разделить всю цель на Цель и Рамки. Это ничего не меняет. И в общем-то не важно, откуда берутся Рамки - из этических соображений, из неявно-подразумеваемого или просто потому что так левая пятка захотела. Факт в том, что всё это непонятно откуда взявшееся, так или иначе нужно описывать рациональными методами :) Иначе как мы узнаем, не влетели ли мы в эти рамки? :) |
|
|
|
|
Alaric
Почитал я- почитал... Подумал-подумал... И решил: ПЕРЕХОЖУ_НА_ЛИЧНОСТИ А иди ка ты куда подальше гребаный_троллофлудер перескакивающий_с_темы_на_тему, сам не знающий, о чем же он говорит. |
|
 |
|
|
Матемаг, трансгуманизм это философия, а не идеология. А за мораль цеплятся не имеет смысла. Разумность и рациональность способны компенсировать.
Mr.Кролик, а вы случайно не из трансгуманистов? По некоторым вопросам вы весьма "в теме" |
|
|
Матемаг Онлайн
|
|
ТемныйСвет, мне почему-то казалось, что любая система взглядов, где центральной является цель, идея изменения, есть идеология. Например, философия солипсизма не является идеологией, поскольку не задаёт явную цель. У трансгуманизма есть явная цель - улучшение, совершенствование человека и человечества. Это скорее идеология. Хотя, возможно, я не совсем правильно определяю понятия "идеология" и "направление философии".
|
|
|
|
|
Матемаг, трасгуманизм по своей природе эгоистичен. Цель ТГ менят себя, а не идея менять все.
"У трансгуманизма есть явная цель - улучшение, совершенствование человека и человечества" Но только на добровольной основе. Идеология принуждает к чему-то, пытается тащить куда-то к "свету". Трансгуманизм - это абсолютно доброльный выбор. На человечество в целом трасгуманистам пофиг, лишь бы не мешали. |
|
|
Матемаг Онлайн
|
|
ТемныйСвет, странно, у меня сложилось впечатление, что трансгуманизм в равной мере альтруистичен и эгоистичен: развитие человечества через развитие (пожалуй, больше подойдёт словечко "апгрейд") каждого человека.
Просто трансгуманизм - неагрессивная идеология, и всего-то. Или мне кажется, или любая идеология принимается только на добровольной основе. Ну, если её не впихивают насильно, но тут мы говорим о другом явлении, в каком-то смысле впихиваением насильно будет и прочтение "ГП и МРМ", ибо склоняет. Кстати, неужели среди всех направлений ТГ нет агрессивных? Что-то не верится... |
|
|
|
|
Матемаг, ну это не совсем верное впечталение. Ведь возможно же развите части человечества.
А в перспективе сосуществование двух разумных видов. "Просто трансгуманизм - неагрессивная идеология, и всего-то." Но при этом готовая на защиту :) "Или мне кажется, или любая идеология принимается только на добровольной основе." Ну идеологию воспитывают чаще всего. И идеология - это четкий свод норм и взглядов. Траснгуманизм имеет в себе самые расплывчатые положения. "Кстати, неужели среди всех направлений ТГ нет агрессивных? Что-то не верится..." Направлений нет. Отдельные психи есть. Счастье всем и всех "гнать" к свету - это идиотизм. Кому надо сам придет. |
|
|
Матемаг Онлайн
|
|
ТемныйСвет, ну, возможно и так. В любом случае, в целом, развитие значительной части всех людей будет развитием человечества. Вообще - зависит от того, как реализовывать развитие. Если плавно и долго, то можно и всё человечество без остатка перевести на новый уровень. Если резко - будут отставшие.
Любая идеология... даже не так - любая группа людей или система взглядов имеет что-то вроде инстинкта самосохранения. Просто трансгуманизм - новая, молодая идеология. Некому воспитывать пока. Много ли их, трансгуманистов, в доле от всех людей? А в сравнении с (иными) идеологиями, особенно старыми? Вот-вот. Психи есть везде. Это не идеология или философия. Это статистика:( |
|
|
|
|
Матемаг, просто у меня идеология ассоцируется с комунизмом и КПСС, поэтому я препочитаю термин философия.
"Просто трансгуманизм - новая, молодая идеология. Некому воспитывать пока. Много ли их, трансгуманистов, в доле от всех людей" Ничтожно мало. Около тысячи на все СНГ. |
|
|
|
|
ТемныйСвет, своё собственное мнение зависит от окружающего куда в большей степени, чем вы думаете.
|
|
|
|
|
Mr.Кролик, это вы к чему?
|
|
Включить тёмную тему
Популярное
VKontakte
WhatsApp
Telegram
Если вы еще не читали- я вам завидую!!!!
( и сочувствую- для мира вы потеряны😅😅😅)
Рекомендую!