Комментарии «Гарри Поттер и Методы Рационального Мышления» (джен)

Эмили Джейн

"Гарри закрыл глаза и несколько раз сглотнул — у него перехватило дыхание. Он внезапно осознал, что пока он вовсю старался жить по идеалам Просвещения, Дамблдор, вообще-то, сражался на войне. Легко придерживаться идеалов отказа от насилия, если ты учёный, который живёт внутри пузыря Протего, поддерживаемого полицейскими и солдатами. Сомневаться в их действиях — это роскошь, которая у тебя есть благодаря им. Скорее всего, у Дамблдора когда-то были такие же твёрдые идеалы, как и у самого Гарри, возможно, даже твёрже. Но ему не удалось пройти войну, не убивая врагов и не жертвуя друзьями.

Неужели, Гарри Поттер, ты настолько лучше Хаукелида и Дамблдора, что сумеешь сражаться и обойтись совсем без потерь? Даже в мире комиксов единственная причина того, что супергерой вроде Бэтмена хотя бы выглядит успешным, состоит в том, что читатели комиксов замечают смерти только Важных Персонажей. Они не обращают внимание, когда Джокер стреляет в безымянного прохожего, чтобы показать, какой он злой. Бэтмен — убийца не в меньшей степени, чем Джокер, потому что все те жизни, что Джокер отнял, можно было спасти, убей Бэтмэн самого Джокера. Вот что человек по имени Аластор пытался сказать Дамблдору, и вот почему Дамблдор потом сожалел, что так долго доходил до этой истины. Ты действительно хочешь попробовать идти по пути супергероя, и никогда не пожертвовать ни единой фигурой, и не убить ни одного врага?"

Или вы считаете, что автор должен был написать, как Гарри:

а) забалтывает Волдеморта;
б) плетёт свою паутину;
в) и ещё при этом одновременно рассуждает, а стоит ли убивать Пожирателей или может им сейчас только руки отрезать?

Ну, типа, всё равно Гарри и так супергерой, он и так творит невозможное, чего мелочиться, пусть ещё порефлексирует немного? :)

Эмили Джейн
Да, я тоже считаю, что Гарри не мог прямо в процессе рассматривать всерьёз альтернативный вариант с обезвреживанием. В смысле, Юдковский написал картину: Гарри решает проблему наиболее эффективным способом из тех, что приходят в голову быстро. Да, я согласен, что Юдковский явно не хотел бы показывать, как герой в такой ситуации ещё и придумывает как сохранить Пожирателям жизнь.

Эмили Джейн
Я не понимаю, почему предполагается (?), что эти пункты противоречат друг другу.

В смысле, да, в тексте показано, что Гарри очень часто думает об убийстве врага. Но при этом в тексте также показано, что до Пожирателей Гарри так никого и не убил. Хотя сказано, что во время суда у него был план, как убить всех, но при этом он пошёл по другому пути.

nadeys
Вот этого не было. Собственно, текст Юдковского остался и в оригинале и в переводе, можете проверить. Читатели должны были прислать хоть что-то, что позволит Гарри избежать немедленной гибели. И потом Юдковский писал, что на самом деле он был уверен, что хоть кто-нибудь хоть что-нибудь интересное пришлёт, поэтому плохой концовки у него в полном виде заготовлено не было (была просто идея, что Гарри трансфигурирует немного антиматерии и будет большой взрыв, в котором погибнет он и Пожиратели, а Волдеморт лишится тела).

Но при этом текущий вариант с нитями был запланирован с самого начала, см. эпиграф к первой главе. Кажется, некоторые ответы повлияли на то, как Гарри забалтывал Волдеморта, но не уверен.

Про "магический рационализм". По-моему, большинство известных мне людей, которые знакомы как с "ГПиМРМ", так и с примерно стандартным курсом философии, при употреблении слова "рационализм" в приложении к Юдковскому начинают несколько ругаться, потому что "рационализм" -- это течение, которое развивали Декарт, Спиноза и Лейбниц. А Юдковский в тогдашних терминах наоборот ближе к эмпирику, потому что активно апеллирует к важности эксперимента.

Мне бы всё же хотелось, чтобы диалоги здесь проистекали в более мягкой форме. Даже если вдруг оппонент не прав, вряд ли он поменяет свою точку зрения, если на него как следует надавить. Скорее наоборот, если человек считает, что он вынужден защищать свою точку зрения, он с большей вероятностью в ней утвердится.

Artemo
На самом деле, в какой-то степени Юдковский и математик тоже.
https://intelligence.org/all-publications/ - вот перечень работ MIRI, если смотреть на те, что обозначены HR (Highly Reliable Agent Design), то там есть работы, которые в значительной степени математические, и у некоторых в соавторах стоит Юдковский.

Что касается вопросов, насколько он участвует в разработке ИИ, если он не пишет код, то мне вспоминается недавно переведённая на русский полушуточная аналогия его же авторства: https://lesswrong.ru/755

sweetie pie
Да, это ошибка перевода. Спасибо.

Оригинал: Здесь используется слово "psychotic", а не "psychopath" (которое Юдковский тоже использует, но в других местах).

Мнение автора о том, насколько "магия может временно где-то отменить законы физики", можно прочитать, например, здесь: https://lesswrong.ru/322

Что касается этических вопросов, то мне представляется, что для их хоть сколько-то эффективного обсуждения, лучше меньше вешать ярлыки, особенно отрицательные.

rational_sith
Справедливости ради, аргумент не выглядит особо железным. В футболе не продержался, в хоккее в НХЛ (в плей-офф) держится до сих пор (уже больше ста лет, если я не ошибаюсь).

Кстати, в футболе тоже долгое время (до 1970-го года в международных соревнованиях, в Англии местами протянуло даже дольше) тоже было несколько плохо с верхней границей, потому что при ничьей в плей-офф назначалась переигровка.

Ну и ещё есть какое-то количество видов спорта, где длина матча не фиксирована (теннис и настольный теннис, например).

Так что этот баг вполне присутствует в реальной жизни. (У меня есть подозрение, что существенная необходимость в верхней границе длины матча появляется лишь в том случае, если доходы от телевидения начинают существенно перевешивать доходы от других источников. И возможно сейчас, когда телевидение уходит в интернет, где нет необходимости, чтобы у тебя была только одна передача в одно время, даже это условие перестаёт быть актуальным.)

Для меня более важным выглядит аргумент Гарри по поводу того, что ловец практически никак не взаимодействует с остальными игроками.

Eterni
Вы это про мир ГПиМРМ или про какой-то ещё мир ГП?

Если речь про мир ГПиМРМ, то Юдковский говорил, что в его представлении его мира магия не меняет законы физики. Его мир устроен так, что реальные законы мира просто более "широки", чем законы известной нам физики. Известные нам законы физики в авторской трактовке мира МРМ - это некоторая "песочница", которой искусственно ограничены возможности людей, за исключением тех, кто имеет "более высокий доступ" (то есть волшебников). То есть, нет никакой машины Атлантов, которая творит магию. Магия не что-то дополнительное, что нарушает физику. Просто законы известной маглам физики - это не законы Вселенной, а законы искусственно выделенной её части.

Источник: слова Юдковского на встрече, посвящённой окончанию ГПиМРМ в 2015 году. https://www.reddit.com/r/HPMOR/comments/2z9ukz/hpmor_qa_by_eliezer_at_wrap_party_in_berkeley/

Он, правда, также говорит, что поскольку всего этого нет в книге, то это просто его мнение, а не что-то, высеченное в камне. Но, как я понял, когда он всё это придумывал, он руководствовался именно такой моделью.

Artemo
Простите, при чём тут Аспергер? :) Ситуации, когда один человек хамит другому человеку, совершенно не думая, что другого его слова могут обидеть, или когда человек "режет правду в глаза", совершенно не думая, как эта "правда" отразится на нём с точки зрения будущих социальных взаимодействий, случаются регулярно без всякого синдрома Аспергера. А уж если мы посмотрим на общение в интернете (и в данной теме в частности) ... :)

Но вообще, конечно, эта часть, с моей точки зрения, невыразимо прекрасна. Тут столько комментариев на тему "Юдковский не умеет описывать детей" и при этом же, ах, у Юдковского персонаж хамит другому, не думая о последствиях :)

К оживлённо обсуждавшемуся вопросу с нанотрубками на плечах пожирателей. Я эту историю всегда понимал так:

У Юдковского трансфигурация маленького объекта в большой происходит постепенно (кажется, это в нескольких местах описано и упоминалась даже скорость). И когда маг превращает что-то, скажем, в нить, то он может решать, где появится следующий фрагмент нити - можно её творить спиралью, змейкой, прямой линией... Соответственно, Гарри не кидался ни в кого нитями, пытаясь точно попасть на плечи, он просто создавал свою систему нитей постепенно - никакого движения нет, ни реактивного, ни какого-то ещё. Условно, в момент времени t1 есть нить, созданная до ног Пожирателя, в момент времени t2 - нить, которая идёт до ног и поднимается по его одежде до шеи, в момент времени t3 - всё то же самое, плюс нить, обвившаяся вокруг шеи. Насколько для этого нужна точность - не очень понятно, в конце концов, в других трансфигурациях маг тоже лишь приблизительно представляет необходимый результат и у него нет проблемы с тем, что у него молекулы не на тех местах.

Вверх к Волдеморту нити шли тоже таким же образом, просто, как я понимаю, Юдковский утверждает, что Гарри может создавать следующие фрагменты нити вертикально быстрее, чем нить падает под силой тяжести. Возможно, здесь его можно опровергнуть, если привести соответствующие уравнения.

В общем, с моей точки зрения, для описанной автором конструкции не нужно создавать реактивное движение, которое тут так долго обсуждалось.

DistantSong
Когда Гарри уменьшал нити, они уже были все из нанотрубок, т.е. у них был совершенно ничтожный объём, с которым Гарри может делать что хочет моментально. На всякий случай напомню, что большую часть исходной сети Гарри делал из паучьего шёлка, объём которого уже значительно больше. (Честно говоря, я затрудняюсь сказать, почему Юдковский посчитал именно такую последовательность более оптимальной. Возможно, это как раз связано с тем, что паучий шёлк более эффективно будет цепляться за землю/одежду и это как-то позволит легче его контролировать. Но это лично мои догадки, над которыми я много не думал.)

---

Что касается большей части последующей дискуссии, то, как я уже писал (можно, например, у меня даже в блоге глянуть), я давно и искренне недоумеваю, откуда взялась идея, что Юдковский хотел написать какого-то вообще не ошибающегося гения. В смысле, последовательность "а вот тут Гарри облажался", следовательно, "Юдковский не понимает, о чём он тут пишет" мне вообще непонятна. Я ещё при первом прочтении считал, что это книга об ошибках, причём в основном эти ошибки совершает главный герой.

И как я понимаю, одна из основных идей Юдковского как раз в том, что ты можешь быть намного умнее окружающих, и при этом далеко не факт, что это спасёт тебя от того, что в критической ситуации ты совершишь ошибку. Более того, возможно, если ты намного умнее окружающих, последствия от твоей ошибки будут ещё и более разрушительны.

Подумал и понял, что возможно, кто-нибудь тут может быть ещё не в курсе.

На самом деле текст книги здесь, на fanfics, вообще не обновлялся после 2015 года, хотя мы (переводчики) ещё долго потом правили всякие ошибки и опечатки. Более менее окончательную версию можно найти на hpmor.ru или гпмрм.рф . А ещё там есть предисловие, которое Юдковский написал для печатного издания, которое было создано краудфандингом в 2018 году: https://hpmor.ru/book/1/foreword/ Возможно, для кого-то оно ответит на какие-то вопросы, хотя, конечно же, для многих - нет, за отсутствием таковых :)

Eterni
Дело в том, что сейчас есть достаточно свидетельств того, что эксперимент Зимбардо был поставлен очень некорректно. (Как и эксперимент Робберс Кейв, кстати.) Другое дело, что эта информация стала известна уже после написания соответствующих глав, и Юдковский об этом немного пишет в предисловии, на которое я дал ссылку.

StragaSevera
Я так понимаю, что просто ни у кого не доходили руки. Плюс к этому мы долго не понимали, а в какой момент мы вообще решим, что всё, мы больше не вносим новых правок, поэтому перевыкладывание всё откладывалось (по соображениям, что это делать довольно долго и не хочется это делать несколько раз).

К тому же, долгое время это вообще мог сделать только один человек, потому что несмотря на запись в перечне со-переводчиков, текст мог править только тот, кто перевод здесь создал. Я вот только сейчас осознал, что теперь я теоретически могу и сам перезалить новую версию перевода, но это довольно длительная и муторная работа и сейчас у меня на неё совершенно нет времени.

Я, возможно, нащупал новую идею.

Я видел много отзывов на МРМ, в том числе отрицательных. Многие люди писали, что они бросили читать МРМ, потому что Гарри хамил Макгонагалл и/или Рону. Кто-то бросил МРМ, потому что в начале было много науки, а потом её практически не стало. Кто-то бросил МРМ, потому что где-то встретилось что-то похожее на слэш. Есть и другие причины.

Я ни разу не видел, чтобы кто-то заявлял, что бросил читать МРМ в начале арки Азкабана. Мол, это же явная глупость, чтобы якобы рациональный герой соглашается на такое предложение, какой смысл это вообще читать дальше?

Я предполагаю, что дело в том, что читатель, как правило, надеется, что в итоге выяснится что-нибудь, из-за чего это решение окажется более оправданным.

Недавно в одном из "хейтерских" обсуждений я увидел фразу, мол, я надеялся, что Квиррелл всё же окажется не Волдемортом, тогда это всё было бы не так бредово.

Однако же, если все те звоночки в поведении Квиррелла, из-за которых поведение Гарри тут называют глупостью (вероятно, оправданно), действительно были, то какая разница, что там вскроется в итоге? Если действительно есть основания считать, что Квиррелл может оказаться Волдемортом, разве в ситуации когда он вдруг оказался бы не им, доверие ему было бы более обосновано? С моей точки зрения, решение нужно оценивать на основании той информации, которая была на момент его принятия, а не на основании послезнания.

И Юдковский даже показывает для контраста Гермиону, которая как приняла решение по поводу Квиррелла на основании тех же самых "звоночков", так и не меняла его до конца.

Ну и, возможно, повторюсь: нет единой шкалы "умный/глупый". Есть прецедент, когда нобелевского лауреата унесло в "лженауку" фактически в собственной области экспертизы (Лайнус Полинг). Случаи, когда человек с существенными интеллектуальными достижениями начинал нести чушь в чужой области экспертизы, вообще исчислению не поддаются. Одна из идей книги в том, что всех этих знаний, которыми кидается Гарри, совершенно недостаточно (даже несмотря на некоторые локальные достижения). Не случайно коллективный блог, который создал Юдковский, называется именно LessWrong.

ВераDark

Я видел следующие подборки:

- Книги, упомянутые явно - https://www.livelib.ru/selection/388638-knigi-upominaemye-v-fanfike-garri-potter-i-metody-ratsionalnogo-myshleniya
- Книги, на которые есть отсылки - https://www.livelib.ru/selection/333418-proizvedeniya-otsylki-k-kotorym-est-v-knige-garri-potter-i-metody-ratsionalnogo-myshleniya

- Подборка отсылок на TVTropes (на английском) - https://tvtropes.org/pmwiki/pmwiki.php/ShoutOut/HarryPotterAndTheMethodsOfRationality

Не уверен, что какая-то из этих подборок является полной :)

Тощий Бетон_вторая итерация
Извините, пожалуйста, но и в тексте явным образом сказано, что "не всегда то, что делает или думает Гарри, — хорошая идея", и здесь в комментариях неоднократно люди писали, что если кто-то считает, что автор хотел написать "Гениального Гения", то этот кто-то сильно ошибается и как-то криво читал текст.

Поэтому, пожалуйста, прекратите повторять одно и то же, особенно, когда оно не соответствует действительности. Иначе у меня будет сильное искушение начать удалять ваши комментарии, тем более, ничего нового я от вас не вижу уже давно, и с моей точки зрения никто от этого ничего не потеряет.

Я закрываю комментарии. Я не верю, что в немодерируемой дискуссии рождается истина, и в последние годы у меня складывается впечатление, что на любой нормальный комментарий здесь лишь сбегается несколько граждан, которые, судя по всему, готовы потратить практически любое количество времени, чтобы написать, как им не нравится эта книга и её автор. Модерировать эту дискуссию ни у кого нет ни сил, ни времени.

Любой желающий узнать альтернативные точки зрения может пройти в блоги этих граждан, поэтому с моей точки зрения мир ничего не потеряет.

Тем же, кому эта история понравилась, я могу написать следующее.

К сожалению, хотя перевод этой книги на русский язык начался здесь, когда он получил большую популярность, переводчики и помогающие им люди больше развивали другие ресурсы. Поэтому в тексте здесь есть довольно большое количество ошибок и опечаток, поправленных в других местах. Сейчас книгу лучше читать на следующих сайтах:

https://гпмрм.рф/
https://hpmor.ru/

Там тоже можно скачать текст в разных форматах, найти вёрстку для самостоятельной печати или ссылки на разные дополнительные материалы. Там же есть авторское предисловие, написанное для русскоязычного издания в 2018 году.

Если вы хотите узнать больше об авторских идеях, добро пожаловать на lesswrong.com . Этот блогофорум сильно изменился со времён написания ГПиМРМ, и автор играет на нём уже гораздо менее существенную роль, однако общий смысл и идея не поменялась. Какое-то количество переводов оттуда есть на сайте lesswrong.ru

Если вы хотите пообщаться об этих идеях с другими людьми, можно попробовать начать искать отсюда: https://lesswrong.ru/wiki/%D0%9E%D0%BD%D0%BB%D0%B0%D0%B9%D0%BD-%D1%80%D0%B5%D1%81%D1%83%D1%80%D1%81%D1%8B_%D1%81%D0%BE%D0%BE%D0%B1%D1%89%D0%B5%D1%81%D1%82%D0%B2%D0%B0

К сожалению, из площадок, где можно было бы пообщаться с другими людьми о ГПиМРМ без связи с LW, мне известна только одна, в ВК: https://vk.com/hpmor. Если вы хотите пообщаться о других произведениях жанра rational fiction, добро пожаловать в группу https://t.me/rationalfic

Возможно, большую часть этого комментария стоит вынести в шапку (заменив там часть устаревшей информации), но у меня, кажется, нет этих прав.

Если вы хотите дать обратную связь лично мне, то на всякий случай предупрежу, что сюда я заглядываю редко. Мне можно писать в ВК (ссылка в профиле) или в Телеграм (https://t.me/Alaric ).