Название: | Harry Potter and the Methods of Rationality |
Автор: | Элиезер Юдковский |
Ссылка: | http://www.fanfiction.net/s/5782108/1/Harry_Potter_and_the_Methods_of_Rationality |
Язык: | Английский |
Наличие разрешения: | Разрешение получено |
Мыслит, значит существует (гет) | 216 голосов |
Червь (джен) | 189 голосов |
Luminosity - Сияние разума (гет) | 127 голосов |
Мать Ученья (джен) | 92 голоса |
Что-то придется менять (джен) | 79 голосов |
Dutani рекомендует!
|
|
ВолчьяКошка рекомендует!
|
|
Одно из лучших произведений! И безумно рада, что его напечатали. Теперь мечтаю как-нибудь купить в печатной версии не смотря на то, что читала раз двадцать (и с сайта, и с электронки, и слушала аудиоверсию).
Логика, прекрасная, шикарная логика цепляет с первой главы и вызывает иногда взрыв мозга, так как начинает казаться дико нелогичными многие вещи в каноне. Фантазия у автора не знает границ - и это сочетание с юмором (разговоры со шляпой, банки Прыского чая и пр.). Расчеты (например, как автор заморочился и рассчитал все с валютой в главе с Гринготтсом) вызывает лютое уважение. |
Alex Chapa рекомендует!
|
|
Книга, которую я мгновенно рекомендовал к прочтению всем друзьям.
|
Mr.Кролик, возражения против вечной жизни? Ну-с, извольте:
Показать полностью
Если вечную жизнь получает меньшинство, то есть огромный шанс, что это меньшинство станет весьма консервативным. В итоге мы придём как к глобальному застою для всего человечества, так и к прекращению развития дальше некоей черты, определённой бессмертными, у отдельных людей. А ещё бессмертные могут регрессировать! Что вообще мы знаем о работе центральной нервной системы или даже о работе разума, которому больше 200, 300, 400, 1000 лет? Ни-че-го. У нас даже нет примеров. Ни одного. Какова вероятность, что после 300 лет непрерывного функционирования разум застынет навсегда в развитии? Какова вероятность, что после 700 лет не настанет спад вплоть до коллапса? Является ли устойчивым для системы "мозг"/"разум"/"ЦНС" состояние "жажда развития + мораль"? А если нет? Достаточно ли мы знаем о психике, чтобы утверждать наверняка? Что ждёт таких бессмертных в случае нашей ошибки? Если говорить о "крестражном" способе достижения бессмертия, то есть ли хотя бы один волшебник, проживший больше 600 лет с помощью именно крестража? Если нет, то не повод ли это задуматься? Философский камень? Хорошо, 665, если не ошибаюсь, лет гарантировано. А дальше? Как вообще влияет философский камень на тело, душу, разум, сознание? Почему в каноне Фламель не сделал новый камень, но отказался от жизни? Слишком много неопределённости несёт в себе бессмертие. Я не говорю, что категорически против него, нет. Но вы хотели возражений. Вот возражение: мы ничего о бессмертии не знаем. Это мечта. Можно лишь догадываться, какой будет психика бессмертного, какой будет его мораль... и стоит ли нам менять нашу психику и нашу мораль на психику и мораль бессмертия. Потому что есть вещи хуже смерти, как выразился бы профессор Дамблдор. По сути, реализуя бессмертие, мы бросаем монетку. Выпадет орёл - прекрасно, величайшая мечта оказалась реальностью, оно того стоит и так далее. Выпала решка - и бессмертие для человечества в перспективе обернулось самым страшным кошмаром, ужаснейшей трагедией. А ведь есть ещё 100500 вариантов, где бессмертие изменит всё, но это всё с точки зрения традиционной морали и даже любой из современных будет настолько иным, что не поддастся простой оценке "хорошо-плохо". Бессмертие = неопределённость - вот возражение, которое я привожу. Готово ли человечество сыграть в кости с вечностью? |
loonyphoenix, хм. В чём-то вы правы, да. Действительно, если обойти регресс ЦНС, то дальше до бессмертия рукой подать - достаточно создать условия нормального функционирования для ЦНС, что, полагаю, куда как проще. Но, вообще говоря, имел в виду НЕ ЦНС. Вернее, не только её. Я говорил о более высоком уровне, а конкретно, о уровне психики. Наша психика не рассчитана природой на вечность. Она рассчитана на вполне определённый срок. Именно психика, а не её носитель. Вопрос: выдержит ли психика испытание вечностью? Если нет, то что, искуственно корректировать? По сути, мы приходим к пси-контролю, а когда бессмертных станет достаточно много - тотальному пси-контролю. Не пугает? А если что-то сделается с системой, контролирующей отклонения психики? Слишком много вопросов. Слишком мало мы знаем.
Показать полностью
Да, любые действительно новые исследования вызывают такие вопросы. Тут и нанотехнологии, и интерфейсы типа мозг-компьютер, и генетическое проектирование, и многое другое. Но в каждом отдельном случае мы можем сказать, что создаём, можем попытаться предсказать, в конце концов, вставить искуственные ограничители. Бессмертие же... Мы знаем психику достаточно, чтобы сказать, что с ней произойдёт через 1000 лет функционирования? Боюсь, нет. И никаких ограничителей тут не вставишь. Ну а насчёт понимания психики... она ведь тоже будет развиваться, нет? В какую сторону? Допустим, мы поймём, что есть психика сейчас. А законы её развития? А не поймём ли мы слишком поздно? Риск. Огромный. И при этом я остаюсь сторонником бессмертия. Адвокатура дьявола, хехе. И, пожалуйста, не коверкайте мой ник. |
loonyphoenixпереводчик
|
|
Матемаг: извините за ник :)
Показать полностью
Хм, я не разделяю психику и ЦНС. Психика находится в мозге. Мне кажется, что для того чтобы понимать его в достаточной мере, чтобы избежать его старения, нужно понимать его в достаточной мере, чтобы иметь хоть какое-то представление о том, что произойдет с этим мозгом за 1000 лет. Опять же, для решения проблем с психикой даётся НАМНОГО больше времени, чем на преодоление смертности. После первого случая бессмертия у нас есть как минимум несколько сотен лет, прежде чем начнут сказываться проблемы в психике. Неужели за несколько сотен лет с этими проблемами не удастся разобраться, так или иначе? Даже если есть такая вероятность - имхо, её недостаточно, чтобы хоть как-то препятствовать исследованиям в области бессмертия. Вероятность проблем намного меньше потенциальной выгоды. (упс, нечаянно удалил предыдущий коммент...) sta, Кролик, Сенектуем: извините, что вчера выпал из дискуссии - у меня свет вырубился :) > Я не уверен отказался бы я от того, чтоб помочь другому человеку стать бессмертным, даже если бы для этого понадобилась моя смерть. "— Похоже, у вас не очень-то сильная воля к жизни, директор!" :D |
Глава получилась очень продуктивной. Спасибо большое
|
loonyphoenix, придерживаюсь точки зрения, что психика в мозге не находится. Она им определяется. Ровно в той мере находится, в какой сюжет компьютерной игры находится на винчестере. Психика - это интерпретация множества нервных сигналов. Моё мнение таково: для каждого мозга эта интерпретация будет индивидуальна, можно сказать, индивидуальное кодирование психики. Я говорю не об общей системе (ну там, область, отвечающая за зрение, область, отвечающая за координацию, механизм, в котором хранится память...), а о частностях. Полагаю, если мы вознамеримся расшифровать мозг, чтобы промоделировать его, придётся каждый мозг, несмотря на внешнюю схожесть системы, декодировать в индивидуальном порядке. Не получится создать некий механизм, который вдруг, раз-два, и расшифровал психику, нашёл "области деградации" и убрал их. Вопрос: успеет ли человечество достичь такого уровня контроля над психикой, если принять, что со временем психика стареет независимо от мозга (что логично, если вспомнить о вездесущей энтропии, в смысле, о вездесущем регрессе всех систем - даже цивилизации умирают)? А если не успеет, получится, что N первых поколений бессмертных придётся того, в эвтаназию?
Показать полностью
Кстати, тут ещё один аспект: как скажется на психики всевозможное имплантирование и всякие там нейрокомпьютерные интерфейсы? Ведь наверняка они будут применяться ДО того, как расшифруют психику и уж тем более до того, как просчитают долговременные (десятки лет) последствия частого пользования. Словом, бессмертие страшно именно неопределённостью. Допустим, у тебя есть выбор: либо прожить счастливую долгую жизнь, либо применить технологию бессмертия, с неким, неопределённым шансом стать по истечение N лет/десятелетий/веков дауном. А теперь к слову о здоровой психике. Допустим, психика здорова. Но человек - аморален, притом притворяется успешно - моральным. Через N лет он станет властью. Чераз M лет - верховной властью. Но - он бессмертен. Ему некуда спешить. Неспешно и осторожно он захватит эту власть, затем продвинет в массы идею об опасности бессмертия, затем отменит его для всех, кроме себя и ближайших контролируемых соратников, затем... ну, понятно. Или на более просто: сменяемость поколений гарантирует прогресс. Если сменяемости не будет, что, стагнация, регресс? Как скажется бессмертие на социальном развитии? Это возможно прогнозировать? А ведь такая проблема может встать гораздо раньше проблемы "как бессмертие скажется на психике". Кстати, а здоровая, но застойная психика, тормозящая другие - что с ней делать? Человек в здравом уме и трезвой памяти не собирается развиваться и пропагандирует сей образ жизни. И он бессмертен. Вечная заноза в з..це общества? Вот такие вот вопросы вызывает обсуждение фанфика:) Переводчикам - спасибо. |
loonyphoenixпереводчик
|
|
Матемаг: Не думаю, что люди настолько индивидуальны :) Мы замечаем наши различия, потому что они имеют значение, а то, что у всех одинаково - не влияет на принятие решений, потому мозг это отфильтровывает. На самом деле все люди на 99% одинаковые. Мне кажется, вы эту проблему преувеличиваете. Мне не кажется, что это "бесконечно недосягаемая" тайна для науки.
Показать полностью
А даже если это сложнее, чем мне кажется, и за 200 лет с этим не справиться - есть много других способов решения проблемы. Например, допустим, загвоздка в жизненном опыте - если найдётся способ стирать память (кста, если мы до сих пор говорим о фике, такой способ уже существует :D), то достаточно удалять самые ненужные воспоминания - и спокойно жить дальше. Правда, я думаю, что механизм забывания человеческого мозга и так работает исправно. Не слышал ни об одном заболевании, которое вызвано переполнением мозга. Если корень всех бед сложнее - можно обратиться к креонике и отправлять в спячку всех, кто деградировал слишком сильно, до тех пор, пока проблема не решится. Опять же - вы тычите пальцем в небо. Никто не может сказать, появятся ли проблемы вообще, поэтому спорить про них сложно. Я бы сконцентрировался на преодолении смертности, и уже когда будет известен конкретный метод, можно будет задуматься о потенциальных проблемах. Проблемы же моральности при условии распространённости бессмертия, на мой взгляд, не слишком отличаются от моральных проблем при всеобщей смертности. Да, будут бессмертные подонки, но ведь должны быть и бессмертные хорошие люди. Или вы считаете, что бессмертие само по себе вызовет ухудшение моральных качеств людей? А почему? Мне кажется, с приобретением опыта люди скорее становятся терпимее, лучше находят друг с другом язык. Не вижу также, почему бессмертие бы вызывало стагнацию, застой. |
loonyphoenixпереводчик
|
|
Птичка: а как насчёт ВСЕОБЩЕГО бессмертия? Просто изобретения лекарства от смерти? Это - плохо?
Я тоже считаю, что бессмертие, достигаемое за счёт смерти других людей, как минимум очень опасно. Но ведь у Гарри с Дамбом разговор не об этом. |
loonyphoenix, при чём тут одинаковость людей? Я говорю об индивидуальности кодировки психики. Почему индивидуальна? Потому что каждая нервная система учится в своих условиях. Правда, могу ошибаться, ибо не знаком настолько глубоко с теорией нейросетей, но, кажется, в каждой нейросети (кстати, до сих пор не создали нейросеть, сравнимую по сложности и универсальности с НС) сигналы кодируются очень сложно. Попытаться выдавить из нейросети "почему", какая именно комбинация нервных импульсов означала данную мысль, данное воспоминание, данный психический процесс - дело для суперкомпьютеров будущего. Лет 200 вперёд. А там уже и проблемы со психикой могут назреть.
Показать полностью
Вообще, пожалуй, проблема неопределённости касается не только и не сколько бессмертия, а вообще времени техгологической сингулярности. Множество нового наложится на бессмертие - и не факт, что человечество не погребёт под прессом сотен новых проблем, сменящих старые. С памятью всё решается проще: нейрокомпьютерный интерфейс и храни себе на внешнем носителе. Мне не кажется, что бессмертие вызваает моральную деградацию (хотя кто знает... с бессмертными не сталкивался, хехе). Но вот стагнацию - вполне возможно. Что-то лично мне не кажутся заманчивыми "прямые" решения проблемы стагнации, вроде "давай-ка сотрём кусок старой памяти и кусок старой личности" и "повторяем сей процесс раз в 100 лет". Механизм забывания? Тоже будет прикольно. Вы как, хотите бессмертия, если через 500 лет этот механихм оставит лишь намёки на сегодняшние мысли, эмоции, личность, память? Кстати, бессмертие. А проблема голода? Если мы вдруг сделаем всех бессмертными - как с ней быть? Биосфера может поддерживать очень, очень много людей. При применении революционных технологий - ещё больше. Солнечная система - ещё больше людей. А дальше? Ограничения рождаемости? Нечто, подобное "обновлению поколений" у разноцветных рогатых князей "Вечного" Злотникова? Кстати, если перестанет расти численность населения, неважно, вынужденно или нет, то может наступить такая же стагнация взглядов, идей, развития. Стирать память и личность? Это эквивалентно смерти, вообще-то. Проблемы, проблемы... |
loonyphoenixпереводчик
|
|
Матемаг: Я тоже не знаком с теорией нейросетей достаточно глубоко, однако я знаю, что у всех людей есть:
1) Одинаковые эмоции. (Нет людей, которым в прямом смысле этого слова неведом страх, неведома симпатия, антипатия, радость, грусть...) 2) Одинаковые реакции на очень многие стимулы. (Во многом следует из предыдущего: эмоции вызывают предсказуемые реакции.) 3) Одинаковая (+/- несколько процентов) скорость мышления, изворотливость мышления. (Ни один из людей не умнее среднего человека настолько, насколько средний человек умнее шимпанзе.) Это означает, что ФУНДАМЕНТАЛЬНЫЕ блоки строения психики у всех одинаковые. Даже если есть различия, каркас у всех один и тот же. Иначе такие дисциплины, как психология, были бы кардинально другими... Наша психика сильно зависит от наших генов. Мне кажется, достаточно сильно, чтобы можно было прописать в них устойчивость к бессмертию. Стагнация - кхм, а с чего вы вообще взяли, что она появится? Я этого от вас так и не услышал. Вы сразу кинулись её решать, будто стагнация при бессмертии - это свершившийся факт. Но я, опять же, не вижу для этого твёрдых причин. |
Опять вы меня не поняли. Вы говорите о структуре. Я говорю о кодировке. Структуру, то есть интерпретацию множества нервных импульсов, изучает психология. Общие закономерности, которые можно примерно интерпретировать, либо простые рефлексы и их системы - нейрофизиология или как-то так. А чтобы рассматривать каждый нервный импульс как мысль или её часть... Боюсь, мост между высшей нервной деятельностью и отдельными актами НС будет индивидуален. Нет, в смысле, его структура будет общей. Но расшифровка - индивидуальна. Возможно, действительно просто. Но я бы не надеялся. Тем более до сих пор неясен до конца механизм запоминения-вспоминания, многие механимы мышления - есть множество закономерностей, но единой картины - нет. Возможно, это именно из-за индивидуальности кодировки? А без раскодированной психики (подобно раскодированному ДНК, да) мы не сможем до конца понять все процессы.
Показать полностью
ДНК влияет на психику? Не смешите меня. ДНК влияет на строение НС. Как мы эту НС наполним - целиком зависит от внешней среды. Вспомним о так называемых маугли, людях, воспитанных зверями. Или у них всех ДНК калечное? Психика зависит от генов в той же мере, в какой зависит от нервной системы, определяемой генами. Или даже в меньшей. Стагнация? Элементарно. Психика очень пластична, но - не до упора. В ней закрепляется система ценностей, та, что соответсвует, собственно, личности, "я". Менять её - менять "я". Полагаю, эта самая структура, базовая система ценностей, меняется со временем мало. Чем дальше идёт время - тем меньше меняется. Как говорится, человек нашёл себя, ему больше ничего не надо искать. В итоге первые 100, ну путь 200 лет психика будет меняться и фундаментально. Затем, когда система ценностей есть и она устоялась, можно сказать, психика находится в состоянии устойчивого равновесия - зачем ей меняться? Разум - это, по происхождению, крайне сложная, адаптивная, вариативная система ответа, реакции на изменение внешней среды. А если внешняя среда идеальна? Потребности обеспечиваются, смерти бояться уже не надо... зачем меняться? На что отвечать? Тут близка и ещё одна проблема: скука. За тысячу лет приестся и наука, и искусство, и спорт. Зачем стремится, если ты достиг вершины везде? Интерес будет падать. Человек замыкается в своём мирке. Умирает, но не телесно, а духовно, душевно. Ну а когда, наконец, всё устоялась, вдруг кто-то придумывает новую технологию или ещё что, меняющее мир фундаментально. Какова естественная реакция разума? Правильно, вернутся в максимум комфорта. Вот и консерватизм. А где консерватизм - там и стагнация. |
Ааааааа... какой великолепный бред!)))
Спасибо за новую главу! |
loonyphoenixпереводчик
|
|
Матемаг: А вы считаете, что для преодоления проблем, связанных с бессмертием, придётся исправлять отдельные мысли, а не править немного структуру? Почему? Мне кажется, что, если мозг действительно неприспособлен к такому долголетию, то проблема кроется именно в общей структуре.
Показать полностью
То, что "я" становится менее пластичным со временем - имхо, тоже неочевидно. Думаю, что "я" просто находит баланс, в котором оно чувствует себя лучше всего в текущем обществе, и тогда у него просто нет СМЫСЛА кардинально меняться. При изменении обстоятельств, "я" в любом возрасте может изменяться так же, как и у 20-летнего человека. А если обстоятельства не меняются - в чём смысл кардинальных изменений? Тут больше подоходит эволюция психики, а эволюция подразумевает постепенное изменение, а не резкое, потому оно и не заметно. Или вы думаете, что человек, которому 50 лет (и разум которого ещё не успел поддаться старости, которую мы вылечим), не сможет приспособиться, если резко переместить его из одного окружения в другое? Мне кажется, что сможет. А насчёт скуки... Мне кажется, это надуманная проблема. Для меня неочевидно, что за тысячу лет приестся всё на свете. Почему вы так подумали? Я могу представить, чем буду заниматься и тысячу, и миллион лет. Список Гарри, например, неплохая отправная точка. Уж во всяком случае небольшая скука в любом случае лучше смерти... |
Бурное обсуждение глава вызвала)
|
loonyphoenixпереводчик
|
|
Птичка: контроль за рождаемостью понадобится, да. Но если люди станут бессмертными, подождать сотню лет своей очереди будет не так уж сложно...
|
>подождать сотню лет своей очереди
Не поняла фразу... |
loonyphoenixпереводчик
|
|
Ну, явно дети рождаться будут даже при 100%-ом бессмертии. Можно позволить прирост несколько процентов в год без увеличения нагрузки на биосферу, совершенствуя эффективность инфраструктуры и т.д.. Вот только придётся становиться в очередь и ждать, пока выпишут разрешение. Темпы разрешённого прироста населения можно увеличить, если удастся экспансия на другие планеты, или удастся усовершенствовать человека таким образом, чтобы он более эффективно питался (например, напрямую электроэнергией вместо биологического материала, при котором передаётся максимум 10% накопленной энергии), или найдётся какой-нибудь ещё способ поддерживать большее население человечества. Мне кажется, проблема с перенаселением встанет в любом случае, даже без изобретения бессмертия, через пару сотен лет...
|
Если вы еще не читали- я вам завидую!!!!
( и сочувствую- для мира вы потеряны😅😅😅)
Рекомендую!