Название: | Harry Potter and the Methods of Rationality |
Автор: | Элиезер Юдковский |
Ссылка: | http://www.fanfiction.net/s/5782108/1/Harry_Potter_and_the_Methods_of_Rationality |
Язык: | Английский |
Наличие разрешения: | Разрешение получено |
Мыслит, значит существует (гет) | 216 голосов |
Червь (джен) | 189 голосов |
Luminosity - Сияние разума (гет) | 127 голосов |
Мать Ученья (джен) | 92 голоса |
Что-то придется менять (джен) | 79 голосов |
Dutani рекомендует!
|
|
ВолчьяКошка рекомендует!
|
|
Одно из лучших произведений! И безумно рада, что его напечатали. Теперь мечтаю как-нибудь купить в печатной версии не смотря на то, что читала раз двадцать (и с сайта, и с электронки, и слушала аудиоверсию).
Логика, прекрасная, шикарная логика цепляет с первой главы и вызывает иногда взрыв мозга, так как начинает казаться дико нелогичными многие вещи в каноне. Фантазия у автора не знает границ - и это сочетание с юмором (разговоры со шляпой, банки Прыского чая и пр.). Расчеты (например, как автор заморочился и рассчитал все с валютой в главе с Гринготтсом) вызывает лютое уважение. |
Alex Chapa рекомендует!
|
|
Книга, которую я мгновенно рекомендовал к прочтению всем друзьям.
|
ГП бы сказал... Даже на английском цензурными были бы там лишь служебные части речи:)
|
Более современный взгляд на Коммунизм можно почитать здесь:
"КОМАНДИРОВКА В ГОСУДАРСТВО СОЛНЦА" http://hardball-perm.narod.ru/Biblioteka/Gosudarstvo.htm |
Матемаг, это я так, дополнительно, рассмотрев истинный случай - Гарри же ведь на самом деле участник "виртуальной" реальности типа "книга"))
Показать полностью
А в предоставленной ссылке утверждение Юдковского, что текстового канала связи достаточно, чтобы супер ИИ вышел из под контроля. Там же результат эксперимента, где он играл роль ИИ, а тот, с кем он переписывался типа не должен поддаваться и выпускать его. В обоих случаях "ИИ" в итоге был выпущен. Но разумеется, это пропаганда, Юдковски не является супер И, ему не уговорить Серьёзно настроенного не выпускать человека. >"людей, пишущих про возможность уничтожения 50% населения Земли" Поступать гуманно - значит выполнять чью-то ценность. А в чём она состоит? - Вопрос до сих пор толком не решённый. Рассматривая этот вариант, я выбрал спасение как можно большего числа людей.(пока никто не спасался) PS: если истина состоит в том, что ты не нужен и самым логичным решением является аннигилировать, то такую "истину" похоже что следует перепроверять до бесконечности, исправить-то такой шаг, если что - невозможно, и "если что" само не появится, нужно продолжать захватывать материю во вселенной, чтобы всякие там инопланетяне не мешали проводить исследования по поводу того, а равно ли 2*2 четыре)) |
Jack Dilindjerпереводчик
|
|
Мр.Кролик:
По ссылке нет собственно диалога эксперимента и я так понимаю автор так и не стал его раскрывать :) Надеюсь лишь, что по прошествии 10-ти лет, непосредственно диалог где-то всё таки был опубликован. |
Коммунизм, Трансгуманизм...
http://lesswrong.ru/w/ Споры_об_определениях Слова_как_скрытые_умозаключения |
По поводу бессмертия вспомнился мне один небольшой рассказ (может, кто-нибудь вспомнит, чей?) Человеку в руки попадает некий артефакт, исполняющий любые желания. Сначала он требует дворцы, усыпанные алмазами-изумрудами и прочие материальные ценности, потом понимает, что важнее всего Здоровье и Вечная Жизнь, просит и получает. И тут же оказывается на какой-то жутко каменоломне с киркой в руках. Ему объясняют, что за всё надо платить и теперь он должен вкалывать целую Вечность (бессмертие у него уже есть, крепкое здоровье тоже в наличии). Работа же его никогда не закончится, потому что "всегда найдется идиот, который захочет дворец, усыпанный алмазами-изумрудами".
Показать полностью
Иногда Бог нас наказывает, исполняя наши желания... :) Мr.Кролик, просто у меня вызывают опасения люди, которые стремятся решить этические проблемы чисто математически. Такие люди разрубят-таки младенца (из известной притчи о Соломоне и споре двух женщин) пополам! 50% одной мамаше - 50% другой, всё честно! Получите-ка по два кило человеченки в каждые руки! :((( За абстрактными цифрами так легко не увидеть конкретных мужчин и женщин... Настоящий Человек(достойный, на мой взгляд, бессмертия) откажется продлить свою жизнь за чужой счет, как и настоящая мать откажется резать по живому. А менее благородный духом найдет, что сказать своей совести и это даже будет выглядеть, на первый взгляд, более справедливо (как в случае с фальшивой матерью - "ни тебе, ни мне!"). Премудрый царь Соломон использовал идею математического деления пополам в качестве теста на истинность, и с блеском решил свою задачу. А какое прилагательное стояло бы возле его имени, если бы он и вправду разрезал младенца!? Что-нибудь нецензурное, как справедливо заметил Матемаг.:) Вопрос "можно ли убить 50% населения, что бы другая половина жила вечно" для меня тоже из разряда тестовых. И считать среднее тут так же некорректно и абсурдно, как вычислять среднюю температуру тела больных в городской больнице.:) Если уж кто-то так хочет жить вечно, пусть использует другой метод, а этот выбросит из головы как дичь несусветную (как это сделал Гарри, кстати). И тогда этому кому-то не придется считать в килоджоулях, сколько тепла может выделить человеческое тело его товарища, которого он может, облив бензином, заживо запихнуть в печку вместо закончившихся дров, чтобы продержаться в 60 градусный мороз до прихода помощи...>:/ Потому что если кто-то выживет именно так, то зачем вообще ему жить? Есть вещи похуже смерти... :( Хотя, чисто математически, хоть один, но спасся же, ведь правда, Мr.Кролик? :) |
Greyswandir,
странные у Вас представления о математике :( |
loonyphoenixпереводчик
|
|
Greyswandir: История называется "Кое-что задаром" Роберта Шекли :) Забавно, но, на мой взгляд, в общем и целом это скорее юмористический рассказ, а не басня с глубинным смыслом.
|
Сенектутем, я даже не знаю. Мне не нравятся любые идеологии которые пытаются навязать свое виденье мира.
Greyswandir, ну рассказов подобных описанному на тему бессмертие-бяка к сожалению много. |
loonyphoenix, спасибо! :) Действительно, Шекли. Но в каждой шутке... :) Даже если не искать глубинных смыслов... :)
Показать полностью
Mr.Кролик, дело тут не в точности формулировок, а в ненасытности человеческих желаний и в расплате за эту ненасытность. Герой рассказа не захотел слушать предупреждения (а они настойчиво пытались достучаться до него!), т.к. нутром чуял, что артефакт заберут и не получит он желаемое. Сенектутем, да я понимаю, что нет у меня тут никакой математики, сплошные аллегории.:) Я хотела лишь сказать, что в делах человеческих математика, как инструмент познания истины, должна быть в руках Человека (именно с большой буквы Ч :)). А жонглирование сухими цифрами процентов, без учета, чего ты считаешь - мешки с картошкой или человеческие жизни - абсолютно не допустимо. Это реальная жизнь, а не задачник по арифметике. Матемаг, Вы подменяете две совершенно разные проблемы. Бессмертие для человечества и бессмертие для индивидуальной личности. Друзья мои, согласитесь, вы все хотите именно второго! Чтоб не застыло все, что пело и боролось, сияло и рвалось...:) Потому что человечеству не нужно бессмертие, чтобы выжить, оно и так прекрасно справляется. Более того, смерть индивидуума для человечества в целом - залог его, человечества, дальнейшего процветания. Такова моя позиция, как человека и как биолога. Понимаю, что вы не согласны. Понимаю, что не хотите умирать. Сочувствую. Но лично мне бессмертие не нужно, даже если никому не надо за него умирать. :) |
Jack Dilindjerпереводчик
|
|
to Greyswandir: Вы второй человек, за последние сутки, от которого я слышу, что он не хочет бессмертия. :) Мне это крайне удивительно, но... ок :)
|
Greyswandir, по-моему, это вы путаете. Я (и вы, смотрим ваше изречение про 60-градусный мороз) говорю не о цене бессмертия, а о цене жизни. Разные вещи. Думаю, что если в индивидуальном порядке (несколько человек, группа) лучше до последнего полагаться на "счастливый случай", то есть не убивать ради выживания других, то когда речь идёт о сотнях тысяч человек, такое убийство (половины ради жизни остальных) вполне оправдано. С индивидуальной точки зрения, оказаться в числе обречённой половины, конечно, плохо, но с точки зрения того же правителя всех этих людей, такой "размен" выгоден - кто-то всё же останется жить.
Показать полностью
Насчёт бессмертия - да, бессмертие индивидуальной личности жажду. Потому что я всё же индивидуальная личность, в первую очередь, а уже потом часть человечества. Возможно, вы мыслите себя, прежде всего, частицей человечества, каплей океана, возможно, в вас нет индивидуальности и индивидуального инстинкта самосохранения, а есть лишь коллективный. Но не говорите за всех. Да, получение индивидуального бессмертия здорово замедлит темпы развития человечества. Но, имхо, это соразмерная цена, потому что человечество - для меня - это не муравейник с коллективным разумом, а мириада отдельных и взаимодействующих миров, психик, недобровольная гибель каждой из которых (ну, за малым исключением) есть зло. |
loonyphoenixпереводчик
|
|
Я почему-то сомневаюсь, что бессмертие замедлит прогресс. Сейчас значительная часть человечества неработоспособна — дети и старики. Они приносят в мир меньше, чем берут из него. Если же старики исчезнут, а детей станет пропорционально меньше... Вы представляете образовательную систему, которую можно будет построить для молодежи? На каждого ребенка можно будет тратить столько же средств, сколько сейчас тратится на целую школу, срок обучения продлить раза в три. А ещё надо учесть, какими многоплановыми и всесторонне развитыми люди будут при желании становиться годкам эдак к двустам... А теперь вообразите — лучшие ученые прошлого вроде Эйнштейна и Ньютона до сих пор живы и все это время занимались наукой.
|
loonyphoenix, хорошо, мне надо было уточнить - социальное развитие. Научное - вохможно, ускорится... а, может, и нет. Дело в том, что неясно, как будут вести себя люди значительного возраста. У них уже сложилась система ценностей, привычное окружение - им тяжелей принимать нововведения. Да, всегда будет активная молодёжь... но она будет под влиянием авторитетов - именно старейших людей, уже в силу возраста и опыта находящихся на высоком посту. Я не настолько оптимистичен, чтобы утверждать, что большая часть этих людей будет беспредельно развиваться внутренне. Скорее, напротив, большая часть будет костенеть, кто-то медленней, кто-то быстрей... И таких людей будет всё больше и больше, поскольку смертность крайне низка, а рождаемость, я подозреваю, не так уж и велика. В итоге мы имеем громадный груз людей, которые в обычных условиях умерли бы, людей чуть ли не прошлых эпох. Нет, развитие человечества это вряд ли остановит. Но замедлит точно. Особенно в перспективе, когда таких действительно старых (век, пять веков... тысячелетие... два, три...) будет всё больше и больше. Примерно так я вижу будущее нестареющих людей. Нет, конечно, будут и активно развивающиеся поселения где-нибудь за пределами земли, всякие колонии и прочее, но в колыбели человечества, где сосредоточены основные научно-технические мощности и политические центры, будет так.
Показать полностью
Да, я при этом подразумеваю, что ИИ не выйдет на уровень свободного творчества, а если и выйдет - их будет относительно мало - даже если не мало, то они не будут иметь значительного политико-социального влияния. Разумеется, если ИИ будут направлять развитие человечества, то все эти выкладки бессмысленны. Знаменитые и гениальные учёные? Ха, не думаю, что такой учёный будет заниматься наукой больше 200-300 лет. Просто надоест - хотя, возможно, я и не прав. |
loonyphoenixпереводчик
|
|
Действительно, наличие сверхразума все предсказания сводит на нет :) А так как рано или поздно сверхразум должен появиться, вопрос только в том, какой он будет и когда именно это произойдет...
|
Если вы еще не читали- я вам завидую!!!!
( и сочувствую- для мира вы потеряны😅😅😅)
Рекомендую!