Alaric

#МРМ

В дискуссиях о "Гарри Поттере и методах рационального мышления" часто встречается мысль, которую я до сих пор не понимаю. Некоторые люди, судя по всему, совершенно всерьёз утверждают, что Гарри с точки зрения автора - это некий идеал.

Чаще это люди, которым "ГПиМРМ" не понравились. И иногда складывается впечатление, что не понравилось многим из них именно потому, что они считают, что у Гарри огромное количество недостатков, а тут его выставляют как идеал, и это совершенно невыносимо. Однако изредка встречаются люди, которые, такое впечатление, на полном серьёзе считают Гарри неким идеалом, к которому нужно стремиться. А на днях я в комментариях наткнулся на дискуссию, спровоцированную девушкой, которая, как я её понял, заявляет, что Юдковский - гений, потому что написал потрясающую антиутопию, где показал, что такой вот доведённый до идеала рационалист обязательно придёт к чему-то плохому (в частности, что любое убийство можно оправдать).

И я совершенно не понимаю, откуда это берётся. Когда-то я думал, может быть, виной всему этому старая аннотация, где утверждалось, что Гарри "очень-очень рациональный". Мол, аннотация "якорит" читателей и далеко не все ставят её под вопрос. Но эту аннотацию вроде бы уже отовсюду убрали, а эффект, кажется, работает и на тех, кто её не видел.

Сам я ещё задолго до окончания "ГПиМРМ" считал, что это книга об ошибках рассуждений и подавляющую их часть совершает главный герой. В конце концов, Гарри с первых же глав регулярно наступает на самые разные грабли, а потом думает: "Ой, это же были грабли! И я даже мог об этом догадаться, если бы чуть-чуть всерьёз подумал!" Сам автор пишет о том, что далеко не все идеи Гарри хороши, прямым текстом. Книга заканчивается тем, что Гарри думает: "Мне надо повысить уровень своей игры".

На форуме по "ГПиМРМ" один человек как-то писал, мол, я долгое время считал за рациональность вот эти самые разборы Поттера своих ошибок и только потом понял, что осознание своих ошибок задним числом ещё не делает человека рациональным.

Когда я начал задумываться над вопросом, почему кто-то вообще видит в Гарри идеал, я вспомнил, что вообще обсуждение книг фэнтези нередко скатывается в вопрос идеальности. Например, я неоднократно видел обсуждения (и развенчивания) идеальности Эддарда Старка или Стурма Светлого Меча.

Ещё в контексте этих же мыслей мне вспомнилось, что как-то в школе нам задали писать сочинение примерно на тему "Гамлет - идеал гуманизма эпохи Возрождения" (или что-то в этом духе, дело было давно, но высокая гуманистичность Гамлета там точно была). Что звучит несколько забавно, если задуматься, сколько из-за Гамлета народу полегло.

Неужели дело в том, что если герой "пытается взять на себя некий высокий статус" и автор поддерживает его "претензии" хотя бы в малом, то для кого-то этого будет достаточно для заявления "автор считает вот это идеалом"?

Или я куда-то не туда думаю?

В первую очередь запись предназначена для поклонников книги Гарри Поттер и Методы Рационального Мышления, но, возможно, и другие люди найдут в ней что-нибудь интересное.

Для российского сообщества LessWrong я перевёл большой текст Элиезера Юдковского под названием "Лицензия героя".

Сюда я об этом пишу в первую очередь потому, что в этом тексте много авторской интроспекции на тему того, о чём он думал, когда создавал "ГПиМРМ", и о чём он не думал. Лично я оттуда вычитал некоторое количество интересных идей, которые можно применить к собственной жизни.

На всякий случай предупрежу, что если вы совсем не знаете, кто такой Юдковский и что такое "ГПиМРМ", то, наверное, начинать знакомиться с ними именно с этого текста вам будет не интересно.

#МРМ

Почему Юдковский написал фанфик по Гарри Поттеру?

Юдковский практически никогда не делает что-либо только лишь по одной причине (он говорит, что это лучше всего делает его похожим на суперзлодея). (утащено с реддита)

Так уж получилось, что я периодически натыкаюсь на разные попытки людей ответить на вопрос, вынесенный в заголовок. Все более менее сходятся, что Юдковский хотел распространять свои идеи, однако же, не очень понятно, почему он избрал именно такую форму. Я даже сталкивался с утверждением, что он заранее пришёл к выводу, что именно таким образом он сможет более эффективно распространять рациональность, однако, эта гипотеза мне казалась всё-таки слишком смелой - по-моему, люди всё-таки не слишком способны на настолько точное прогнозирование.

После очередной дискуссии я понял, что мне стало слишком интересно и я решил попробовать в этой области немного "покопать".

В итоге я нашёл дискуссию на lesswrong.com времён ещё мая 2010-го года (когда было опубликовано только пара десятков глав). Некий читатель предположил, что Юдковский стал писать фанфик, потому что был в ярости от того, насколько персонажи Роулинг не проявляют никакого любопытства к тому, как устроена их странная вселенная (в частности, что никого не удивляет тот же Маховик времени). Ответ Юдковского:



Позже он, правда, приписал:



На этом месте лично я подумал, что российским читателям повезло, что Юдковский остановился на "Гарри Поттере", а не на "Сумерках". Всё-таки, насколько я представляю, ГП-фэндом у нас гораздо более активен.

Однако, потом обнаружилась ещё одна причина. Несколько месяцев спустя, Юдковский дошёл до 42-й главы и столкнулся с воплями: "А-а-а, слэш, какой ужас!" И написал по этому поводу довольно резкую заметку. Потом он её то ли удалил, то ли просто не стал восстанавливать, когда на ff.net произошли разные пертурбации с разрешениями на ссылки и всё прочее. Но в интернете мало что пропадает бесследно:



Впрочем, возможно, он удалил эту заметку, потому что посчитал, что был слишком резок, кто знает.

И, конечно, всё это ничуть не гарантирует, что потом не найдётся ещё парочка причин :) И, да, можно сказать, что если человек хочет распространять рациональность и понимает, что он сможет регулярно над этим работать только при написании фанфика по Гарри Поттеру, то оптимальный способ для него распространять рациональность - это писать фанфик по Гарри Поттеру :)

#МРМ

Некоторые дискуссии по поводу ГПиМРМ сподвигли меня перевести запись Юдковского в фейсбуке почти двухгодичной давности, в которой он рассуждает об одной возможной причине, почему некоторые люди испытывают столь бурные отрицательные эмоции по поводу его книги.

Оригинал: https://www.facebook.com/yudkowsky/posts/10152305725324228

"Некоторые наблюдения за ненавистниками ГПиМРМ наконец заставили меня осознать, что я совершенно не чувствую (возможно, у меня в этом отношении вообще «слепое пятно») обычных эмоций по поводу статусов, которые, как я теперь понимаю, есть у многих людей. Более того, мне следовало предвидеть — исходя из эволюционной психологии, - что у людей есть эти эмоции.

Статус — чертовски важный ресурс, которого постоянно не хватает. Он существует в мыслях и поведении людей. Нам стоит ожидать, что люди будут испытывать эмоции в случае, если X приписывает Y статус S, и при этом X считает, что Y пытается получить статус S+2 или, что гораздо хуже, Y ведёт себя, будто его статус S+2. X попытается подавить Y, даже если S+2 не выше его собственного статуса. Достаточно того, что это выше, чем статус S, который X уже мысленно назначил Y и которого Y по его мнению заслуживает.

Люди, у которых такие эмоции есть, оставляют гневные отклики на главу 6 ГПиМРМ. В своих сообщениях они жалуются о том, как сильно Гарри не уважает профессора МакГонагалл и потому они не могут читать эту книгу. Или пишут в твиттере о том, что они не выносят ГПиМРМ, потому что автор определённо написал их, чтобы показать всем, какой он умный. (Историческая справка: Пример того, что я делаю, когда мне хочется покрасоваться, можно найти на стр.3 статьи: http://intelligence.org/wp-content/uploads/2013/12/procrastination-paradox.pdf . Я бы не стал писать фанфик по Гарри Поттеру, чтобы впечатлить людей своим интеллектом.)

Когда-то давным-давно я услышал историю — она меня очень поразила — о том, что некоторые чёрные ученики устраивают бойкот другим чёрным ученикам, которые делают свою домашнюю работу и ведут себя «как белые» (http://www.google.com/search?q=acting+white). Теперь, когда я думаю про эмоции по поводу определения статусов, как о явлении из эволюционной психологии, эта история — как и то, что я видел всё это время среди ненавистников ГПиМРМ, — приобретает смысл. Это не зависть, потому что упомянутые чёрные ученики также завидовали бы настоящим белым ученикам. Это просто попытка «поставить на место» тех, кто замахнулся на более высокий статус, чем им «положено». Судя по всему, у меня нет таких эмоций.

Персонажи ГПиМРМ любят, плачут, обижаются, боятся, защищают, ненавидят — в общем, испытывают все человеческие эмоции, о которых я знал во время написания. Лишь теперь я осознал, что никто не ненавидит Гермиону или Гарри за то, что они ведут себя в соответствии с более высоким статусом, чем тот, который кто-то им мысленно присвоил. Персонажи ГПиМРМ могут не любить тех, кто их опережает, или завидовать тем, у кого есть то, чего нет у них, но явления «у тебя нет права быть важным» в ГПиМРМ не существует, ни герои, ни злодеи никогда не испытывают таких чувств.

Хотя я за свою жизнь испытывал много отрицательных эмоций, я знал, что такое обида, огорчение, отчаяние, возмущение. Несколько раз я даже испытывал зависть и чувство, что у кого-то есть нечто, чего я заслуживаю больше. Однако, я никогда не испытывал желания принизить тех, кто замахивается на более высокий статус. Мне пришлось вывести существование такого явления из эволюционной психологии, когда ГПиМРМ спровоцировали появление достаточного количества данных. Я до сих пор не представляю, как это «ощущается».

Я объясняю всё это настолько подробно, поскольку предполагаю, что это явление оказалось «фильтром»: оно отпугнуло от моей книги тех, кто испытывает описанные эмоции, и в результате должны были остаться те, у кого таких эмоций нет или они очень слабые. Уверен, некоторые из вас сейчас читают это и думают: «Бывает же такое...»"

#МРМ

Моя собственная рецензия на книгу Гарри Поттер и Методы Рационального Мышления. Поскольку как переводчик я не могу её разместить "штатным образом", оставлю её здесь :)

Во время работы над переводом я часто читал чужие отзывы на эту книгу, и относительно многие из них начинались с чего-то вроде: "Я никогда не читал фанфики, но я прочитал эту книгу и она - потрясающая". Я тоже практически не читал фанфики. Исключение составляли небольшие юмористические "зарисовки". Когда уже больше четырёх лет назад я увидел ссылку, сопровождаемую фразой, мол, там смешной фанфик про Гарри-вундеркинда, которого воспитали умные родители, я подумал, что это тоже что-то подобное. В итоге оказалось, что эта ссылка изрядно изменила мою жизнь. Потому что, дочитав переведённые на тот момент 16 глав, я не смог остановиться и продолжил читать на английском (при том, что тогда я довольно редко читал что-либо на английском), в процессе чтения окончательно пришёл к мысли, что эту книгу надо распространять всеми силами, и присоединился к команде переводчиков. А кроме того, благодаря этой книге я узнал о других великолепных книгах, существенно изменил своё представление о многом, а также познакомился с интересными людьми.

Однажды я задумался, встречал ли я что-то похожее на "ГП и МРМ" раньше, и пришёл к выводу, что в некоторой степени эта книга похожа на "Янки из Коннектикута при дворе короля Артура" Марка Твена. В обоих случаях авторы посылают своего героя в выдуманный мир, причём, что очень характерно, в обоих случаях мир выдуман другими людьми. Герои в обоих случаях достигают успехов благодаря собственным знаниям современной (для соответствующего автора) науки. При этом в обоих случаях герой не слишком вписывается в мир, где он оказался, ещё и в силу того, что его нравственные нормы не совпадают с нормами, принятыми в этом мире. Ну и обе книги написаны с юмором, хотя повествуют о довольно серьёзных вещах.

Но со времён Марка Твена мир серьёзно изменился. Янки (и некоторые другие герои того времени) обладал обширными запасами знаний - свежими достижениями человечества в области техники, - которые позволяли построить хоть паровоз на необитаемом острове. Но что делать, если мы сталкиваемся с задачей, для которой человечество не придумало готового решения? Что делать, если мы вынуждены опираться на информацию, в достоверности которой мы не можем быть полностью уверены? Эти вопросы очень актуальны для нашего времени. И Юдковский отправляет своего героя в мир, в котором нарушаются известные физические законы, и вооружает героя не столько детальным знанием каких-то конкретных технологических приёмов, а представлением о научном подходе, пониманием того, как следует исследовать принципиально новые задачи.

"— Технология и наука — совершенно разные вещи. Пробовать различные подходы и ставить эксперименты, чтобы обнаружить закономерности, — не одно и то же. — Многие пытались изобрести самолёт, создавая конструкции с крыльями, но только братья Райт построили аэродинамическую трубу, чтобы измерить подъёмную силу…"

Ещё одно важное отличие "ГПиМРМ" от "Янки" - разумность героев. В "Янки" разумен только один герой - главный. Он практически всегда и во всём прав, и другие персонажи в состоянии загнать его в тупик, только проявив какую-то невообразимую глупость. У Юдковского разумны все ключевые герои. Да, они все (включая главного героя) совершают ошибки. Они могут следовать неверным стереотипам, они могут поддаваться эмоциям, они могут ошибаться в силу незнания какой-то важной информации, однако, они стараются следовать своим интересам и учиться на своих ошибках.

"Драко шёл рядом с Гарри, стараясь не улыбаться, и думал о мести.
Быть может, пройдут годы, но однажды Гарри Поттер узнает, что значит недооценивать Малфоя.
Учёный проснулся в Драко за один день. Поттер, по его собственным словам, ожидал, что на это потребуются месяцы.
Но наследник Дома Малфоев неминуемо станет более могущественным учёным, чем любой другой волшебник.
Драко изучит все методы рационального мышления, о которых говорит Гарри Поттер, и когда настанет час..."

Вообще, на мой взгляд, "ГПиМРМ" в первую очередь - это книга об ошибках рассуждений. В процессе повествования автор показывает (в том числе, ссылаясь на научные исследования), что в определённых ситуациях ошибки совершенно естественны. Люди практически всегда вынуждены принимать решения в условиях неполной информации, иногда эти решения приходится принимать быстро, и люди склонны пользоваться разнообразными эвристиками - неявными "правилами" принятия решений, которые частично происходят из опыта, а частично и вовсе являются следствиями эволюции человека от диких предков. Эти эвристики могут быть полезными - иначе бы они у людей не вырабатывались, - однако, в определённых ситуациях они дают неверные ответы, и именно это автор и старается показать в своей книге.

Отмечу, что одно из правил, которым руководствовался автор при написании книги, гласит: "Если вы в своём фанфике делаете Фродо джедаем, Саурону следует выдать Звезду Смерти". Запустить гораздо более образованного героя в "канонический" мир Роулинг было бы неинтересно. Юдковский предлагает считать мир его книги "параллельной вселенной" для мира Роулинг. В первую очередь, Юдковский сделал персонажей умнее и добавил им мотивации, чтобы они не были просто объектами для взаимодействия с главным героем. При этом, на мой взгляд, характеры у почти всех героев остались те же (хотя отмечу, что в этом вопросе со мной многие не согласны).

Одна из наиболее часто повторяемых претензий к книге сводится к тому, что, по мнению читателей, поведение главного героя не реалистично, мол, 11-летний ребёнок не может так себя вести. Я здесь замечу, что автор написал такого героя умышленно, что по некоторым причинам главный герой совершенно не является нормальным 11-летним ребёнком и эти причины в книге объясняются (хотя и ближе к концу). Вообще, автор утверждает, что в его замысел входило заставить читателей задуматься о том, почему же главный герой так необычно себя ведёт, но здесь приходится констатировать, что это автору не удалось.

Также я часто натыкался на утверждения, мол, автор написал "сухой учебник", а не художественную книгу, что в тексте слишком мало эмоций и ещё что-нибудь в том же духе. Здесь я могу лишь удивиться разнице восприятий. Я ценю образовательную составляющую "ГПиМРМ", однако меня в какой-то момент захватило само повествование и я никак не могу назвать его "безэмоциональным", скорее, даже наоборот. Да, в этой книге больше разговоров и мыслей, чем "экшена" (особенно поначалу), но, как по мне, это очень увлекательные разговоры и мысли.

"— В законах Природы нет справедливости, директор. Нет понятия «честь» в уравнениях движения. Вселенная не добрая и не злая, ей просто всё равно. Звёздам всё равно, и солнцу, и небу. Но это не важно! Нам не всё равно! В мире есть свет, и этот свет — мы!"

И ещё раз отмечу замечательное авторское чувство юмора.

Ещё скажу, что, помимо прочих достоинств, книгу можно воспринимать как "список" литературы, фильмов и аниме. Повествование содержит огромное количество отсылок к самым разным вещам. Для знакомых с ними это лишний повод улыбнуться, для незнакомых - возможность о них узнать. Я и сам прочитал несколько книг благодаря тому, что узнал о них в процессе чтения "ГПиМРМ".

В общем, я думаю, все уже поняли, что я считаю эту книгу очень замечательной и рекомендую всем её прочитать.

#МРМ

Читая отзывы на Гарри Поттер и Методы Рационального Мышления, часто натыкаюсь на довольно распространённую ошибку: автора - Элиезера Юдковского - называют профессором.
При всём к нему уважении, это не так, Юдковский не является профессором, он даже не является Ph.D. Он научный сотрудник научного института (Machine Intelligence Research Institute), но этот институт он сам и создал. У Юдковского есть несколько статей в научных журналах, но пока, как я понимаю, нельзя сказать, что его вклад в науку очень уж существенен. Лично с моей точки зрения пока его следует считать талантливым популяризатором (ещё до создания МРМ, он создал сайт lesswrong.com со статьями, посвящёнными рациональному мышлению - переводы части из этих статей можно найти на lesswrong.ru). Впрочем, он относительно молод, и, возможно, у него ещё всё впереди :)

#МРМ