Название: | Harry Potter and the Methods of Rationality |
Автор: | Элиезер Юдковский |
Ссылка: | http://www.fanfiction.net/s/5782108/1/Harry_Potter_and_the_Methods_of_Rationality |
Язык: | Английский |
Наличие разрешения: | Разрешение получено |
Мыслит, значит существует (гет) | 216 голосов |
Червь (джен) | 189 голосов |
Luminosity - Сияние разума (гет) | 127 голосов |
Мать Ученья (джен) | 92 голоса |
Что-то придется менять (джен) | 79 голосов |
Dutani рекомендует!
|
|
ВолчьяКошка рекомендует!
|
|
Одно из лучших произведений! И безумно рада, что его напечатали. Теперь мечтаю как-нибудь купить в печатной версии не смотря на то, что читала раз двадцать (и с сайта, и с электронки, и слушала аудиоверсию).
Логика, прекрасная, шикарная логика цепляет с первой главы и вызывает иногда взрыв мозга, так как начинает казаться дико нелогичными многие вещи в каноне. Фантазия у автора не знает границ - и это сочетание с юмором (разговоры со шляпой, банки Прыского чая и пр.). Расчеты (например, как автор заморочился и рассчитал все с валютой в главе с Гринготтсом) вызывает лютое уважение. |
Alex Chapa рекомендует!
|
|
Книга, которую я мгновенно рекомендовал к прочтению всем друзьям.
|
Глава получилась очень продуктивной. Спасибо большое
|
loonyphoenix, придерживаюсь точки зрения, что психика в мозге не находится. Она им определяется. Ровно в той мере находится, в какой сюжет компьютерной игры находится на винчестере. Психика - это интерпретация множества нервных сигналов. Моё мнение таково: для каждого мозга эта интерпретация будет индивидуальна, можно сказать, индивидуальное кодирование психики. Я говорю не об общей системе (ну там, область, отвечающая за зрение, область, отвечающая за координацию, механизм, в котором хранится память...), а о частностях. Полагаю, если мы вознамеримся расшифровать мозг, чтобы промоделировать его, придётся каждый мозг, несмотря на внешнюю схожесть системы, декодировать в индивидуальном порядке. Не получится создать некий механизм, который вдруг, раз-два, и расшифровал психику, нашёл "области деградации" и убрал их. Вопрос: успеет ли человечество достичь такого уровня контроля над психикой, если принять, что со временем психика стареет независимо от мозга (что логично, если вспомнить о вездесущей энтропии, в смысле, о вездесущем регрессе всех систем - даже цивилизации умирают)? А если не успеет, получится, что N первых поколений бессмертных придётся того, в эвтаназию?
Показать полностью
Кстати, тут ещё один аспект: как скажется на психики всевозможное имплантирование и всякие там нейрокомпьютерные интерфейсы? Ведь наверняка они будут применяться ДО того, как расшифруют психику и уж тем более до того, как просчитают долговременные (десятки лет) последствия частого пользования. Словом, бессмертие страшно именно неопределённостью. Допустим, у тебя есть выбор: либо прожить счастливую долгую жизнь, либо применить технологию бессмертия, с неким, неопределённым шансом стать по истечение N лет/десятелетий/веков дауном. А теперь к слову о здоровой психике. Допустим, психика здорова. Но человек - аморален, притом притворяется успешно - моральным. Через N лет он станет властью. Чераз M лет - верховной властью. Но - он бессмертен. Ему некуда спешить. Неспешно и осторожно он захватит эту власть, затем продвинет в массы идею об опасности бессмертия, затем отменит его для всех, кроме себя и ближайших контролируемых соратников, затем... ну, понятно. Или на более просто: сменяемость поколений гарантирует прогресс. Если сменяемости не будет, что, стагнация, регресс? Как скажется бессмертие на социальном развитии? Это возможно прогнозировать? А ведь такая проблема может встать гораздо раньше проблемы "как бессмертие скажется на психике". Кстати, а здоровая, но застойная психика, тормозящая другие - что с ней делать? Человек в здравом уме и трезвой памяти не собирается развиваться и пропагандирует сей образ жизни. И он бессмертен. Вечная заноза в з..це общества? Вот такие вот вопросы вызывает обсуждение фанфика:) Переводчикам - спасибо. |
loonyphoenixпереводчик
|
|
Матемаг: Не думаю, что люди настолько индивидуальны :) Мы замечаем наши различия, потому что они имеют значение, а то, что у всех одинаково - не влияет на принятие решений, потому мозг это отфильтровывает. На самом деле все люди на 99% одинаковые. Мне кажется, вы эту проблему преувеличиваете. Мне не кажется, что это "бесконечно недосягаемая" тайна для науки.
Показать полностью
А даже если это сложнее, чем мне кажется, и за 200 лет с этим не справиться - есть много других способов решения проблемы. Например, допустим, загвоздка в жизненном опыте - если найдётся способ стирать память (кста, если мы до сих пор говорим о фике, такой способ уже существует :D), то достаточно удалять самые ненужные воспоминания - и спокойно жить дальше. Правда, я думаю, что механизм забывания человеческого мозга и так работает исправно. Не слышал ни об одном заболевании, которое вызвано переполнением мозга. Если корень всех бед сложнее - можно обратиться к креонике и отправлять в спячку всех, кто деградировал слишком сильно, до тех пор, пока проблема не решится. Опять же - вы тычите пальцем в небо. Никто не может сказать, появятся ли проблемы вообще, поэтому спорить про них сложно. Я бы сконцентрировался на преодолении смертности, и уже когда будет известен конкретный метод, можно будет задуматься о потенциальных проблемах. Проблемы же моральности при условии распространённости бессмертия, на мой взгляд, не слишком отличаются от моральных проблем при всеобщей смертности. Да, будут бессмертные подонки, но ведь должны быть и бессмертные хорошие люди. Или вы считаете, что бессмертие само по себе вызовет ухудшение моральных качеств людей? А почему? Мне кажется, с приобретением опыта люди скорее становятся терпимее, лучше находят друг с другом язык. Не вижу также, почему бессмертие бы вызывало стагнацию, застой. |
loonyphoenixпереводчик
|
|
Птичка: а как насчёт ВСЕОБЩЕГО бессмертия? Просто изобретения лекарства от смерти? Это - плохо?
Я тоже считаю, что бессмертие, достигаемое за счёт смерти других людей, как минимум очень опасно. Но ведь у Гарри с Дамбом разговор не об этом. |
loonyphoenix, при чём тут одинаковость людей? Я говорю об индивидуальности кодировки психики. Почему индивидуальна? Потому что каждая нервная система учится в своих условиях. Правда, могу ошибаться, ибо не знаком настолько глубоко с теорией нейросетей, но, кажется, в каждой нейросети (кстати, до сих пор не создали нейросеть, сравнимую по сложности и универсальности с НС) сигналы кодируются очень сложно. Попытаться выдавить из нейросети "почему", какая именно комбинация нервных импульсов означала данную мысль, данное воспоминание, данный психический процесс - дело для суперкомпьютеров будущего. Лет 200 вперёд. А там уже и проблемы со психикой могут назреть.
Показать полностью
Вообще, пожалуй, проблема неопределённости касается не только и не сколько бессмертия, а вообще времени техгологической сингулярности. Множество нового наложится на бессмертие - и не факт, что человечество не погребёт под прессом сотен новых проблем, сменящих старые. С памятью всё решается проще: нейрокомпьютерный интерфейс и храни себе на внешнем носителе. Мне не кажется, что бессмертие вызваает моральную деградацию (хотя кто знает... с бессмертными не сталкивался, хехе). Но вот стагнацию - вполне возможно. Что-то лично мне не кажутся заманчивыми "прямые" решения проблемы стагнации, вроде "давай-ка сотрём кусок старой памяти и кусок старой личности" и "повторяем сей процесс раз в 100 лет". Механизм забывания? Тоже будет прикольно. Вы как, хотите бессмертия, если через 500 лет этот механихм оставит лишь намёки на сегодняшние мысли, эмоции, личность, память? Кстати, бессмертие. А проблема голода? Если мы вдруг сделаем всех бессмертными - как с ней быть? Биосфера может поддерживать очень, очень много людей. При применении революционных технологий - ещё больше. Солнечная система - ещё больше людей. А дальше? Ограничения рождаемости? Нечто, подобное "обновлению поколений" у разноцветных рогатых князей "Вечного" Злотникова? Кстати, если перестанет расти численность населения, неважно, вынужденно или нет, то может наступить такая же стагнация взглядов, идей, развития. Стирать память и личность? Это эквивалентно смерти, вообще-то. Проблемы, проблемы... |
loonyphoenixпереводчик
|
|
Матемаг: Я тоже не знаком с теорией нейросетей достаточно глубоко, однако я знаю, что у всех людей есть:
1) Одинаковые эмоции. (Нет людей, которым в прямом смысле этого слова неведом страх, неведома симпатия, антипатия, радость, грусть...) 2) Одинаковые реакции на очень многие стимулы. (Во многом следует из предыдущего: эмоции вызывают предсказуемые реакции.) 3) Одинаковая (+/- несколько процентов) скорость мышления, изворотливость мышления. (Ни один из людей не умнее среднего человека настолько, насколько средний человек умнее шимпанзе.) Это означает, что ФУНДАМЕНТАЛЬНЫЕ блоки строения психики у всех одинаковые. Даже если есть различия, каркас у всех один и тот же. Иначе такие дисциплины, как психология, были бы кардинально другими... Наша психика сильно зависит от наших генов. Мне кажется, достаточно сильно, чтобы можно было прописать в них устойчивость к бессмертию. Стагнация - кхм, а с чего вы вообще взяли, что она появится? Я этого от вас так и не услышал. Вы сразу кинулись её решать, будто стагнация при бессмертии - это свершившийся факт. Но я, опять же, не вижу для этого твёрдых причин. |
Опять вы меня не поняли. Вы говорите о структуре. Я говорю о кодировке. Структуру, то есть интерпретацию множества нервных импульсов, изучает психология. Общие закономерности, которые можно примерно интерпретировать, либо простые рефлексы и их системы - нейрофизиология или как-то так. А чтобы рассматривать каждый нервный импульс как мысль или её часть... Боюсь, мост между высшей нервной деятельностью и отдельными актами НС будет индивидуален. Нет, в смысле, его структура будет общей. Но расшифровка - индивидуальна. Возможно, действительно просто. Но я бы не надеялся. Тем более до сих пор неясен до конца механизм запоминения-вспоминания, многие механимы мышления - есть множество закономерностей, но единой картины - нет. Возможно, это именно из-за индивидуальности кодировки? А без раскодированной психики (подобно раскодированному ДНК, да) мы не сможем до конца понять все процессы.
Показать полностью
ДНК влияет на психику? Не смешите меня. ДНК влияет на строение НС. Как мы эту НС наполним - целиком зависит от внешней среды. Вспомним о так называемых маугли, людях, воспитанных зверями. Или у них всех ДНК калечное? Психика зависит от генов в той же мере, в какой зависит от нервной системы, определяемой генами. Или даже в меньшей. Стагнация? Элементарно. Психика очень пластична, но - не до упора. В ней закрепляется система ценностей, та, что соответсвует, собственно, личности, "я". Менять её - менять "я". Полагаю, эта самая структура, базовая система ценностей, меняется со временем мало. Чем дальше идёт время - тем меньше меняется. Как говорится, человек нашёл себя, ему больше ничего не надо искать. В итоге первые 100, ну путь 200 лет психика будет меняться и фундаментально. Затем, когда система ценностей есть и она устоялась, можно сказать, психика находится в состоянии устойчивого равновесия - зачем ей меняться? Разум - это, по происхождению, крайне сложная, адаптивная, вариативная система ответа, реакции на изменение внешней среды. А если внешняя среда идеальна? Потребности обеспечиваются, смерти бояться уже не надо... зачем меняться? На что отвечать? Тут близка и ещё одна проблема: скука. За тысячу лет приестся и наука, и искусство, и спорт. Зачем стремится, если ты достиг вершины везде? Интерес будет падать. Человек замыкается в своём мирке. Умирает, но не телесно, а духовно, душевно. Ну а когда, наконец, всё устоялась, вдруг кто-то придумывает новую технологию или ещё что, меняющее мир фундаментально. Какова естественная реакция разума? Правильно, вернутся в максимум комфорта. Вот и консерватизм. А где консерватизм - там и стагнация. |
Ааааааа... какой великолепный бред!)))
Спасибо за новую главу! |
loonyphoenixпереводчик
|
|
Матемаг: А вы считаете, что для преодоления проблем, связанных с бессмертием, придётся исправлять отдельные мысли, а не править немного структуру? Почему? Мне кажется, что, если мозг действительно неприспособлен к такому долголетию, то проблема кроется именно в общей структуре.
Показать полностью
То, что "я" становится менее пластичным со временем - имхо, тоже неочевидно. Думаю, что "я" просто находит баланс, в котором оно чувствует себя лучше всего в текущем обществе, и тогда у него просто нет СМЫСЛА кардинально меняться. При изменении обстоятельств, "я" в любом возрасте может изменяться так же, как и у 20-летнего человека. А если обстоятельства не меняются - в чём смысл кардинальных изменений? Тут больше подоходит эволюция психики, а эволюция подразумевает постепенное изменение, а не резкое, потому оно и не заметно. Или вы думаете, что человек, которому 50 лет (и разум которого ещё не успел поддаться старости, которую мы вылечим), не сможет приспособиться, если резко переместить его из одного окружения в другое? Мне кажется, что сможет. А насчёт скуки... Мне кажется, это надуманная проблема. Для меня неочевидно, что за тысячу лет приестся всё на свете. Почему вы так подумали? Я могу представить, чем буду заниматься и тысячу, и миллион лет. Список Гарри, например, неплохая отправная точка. Уж во всяком случае небольшая скука в любом случае лучше смерти... |
Бурное обсуждение глава вызвала)
|
loonyphoenixпереводчик
|
|
Птичка: контроль за рождаемостью понадобится, да. Но если люди станут бессмертными, подождать сотню лет своей очереди будет не так уж сложно...
|
>подождать сотню лет своей очереди
Не поняла фразу... |
loonyphoenixпереводчик
|
|
Ну, явно дети рождаться будут даже при 100%-ом бессмертии. Можно позволить прирост несколько процентов в год без увеличения нагрузки на биосферу, совершенствуя эффективность инфраструктуры и т.д.. Вот только придётся становиться в очередь и ждать, пока выпишут разрешение. Темпы разрешённого прироста населения можно увеличить, если удастся экспансия на другие планеты, или удастся усовершенствовать человека таким образом, чтобы он более эффективно питался (например, напрямую электроэнергией вместо биологического материала, при котором передаётся максимум 10% накопленной энергии), или найдётся какой-нибудь ещё способ поддерживать большее население человечества. Мне кажется, проблема с перенаселением встанет в любом случае, даже без изобретения бессмертия, через пару сотен лет...
|
loonyphoenixпереводчик
|
|
Птичка: Так не получится. Тогда нужно запрещать бессмертие для людей, у которых уже есть дети, иначе люди будут рожать детей и только тогда принимать лекарство от смерти.
Добавлено 09.05.2012 - 15:03: Читаю, что пишут по этому поводу трансгуманисты. Может, это уже разжевано до мелочей... http://www.transhumanism-russia.ru/content/view/6/93/#overpopulation Добавлено 09.05.2012 - 15:12: Хм, там речь ведётся только о продлении жизни, а не о бессмертии... Что, конечно, разумно. Вряд ли удастся достигнуть бессмертия одним скачком, скорее сначала срок жизни будет значительно продлён, и таким образом проблема сначала будет решена в меньшем масштабе... Добавлено 09.05.2012 - 15:24: Хаха, среди соавторов этого документа значится: Eliezer Yudkowsky |
Если вы еще не читали- я вам завидую!!!!
( и сочувствую- для мира вы потеряны😅😅😅)
Рекомендую!