Название: | Harry Potter and the Methods of Rationality |
Автор: | Элиезер Юдковский |
Ссылка: | http://www.fanfiction.net/s/5782108/1/Harry_Potter_and_the_Methods_of_Rationality |
Язык: | Английский |
Наличие разрешения: | Разрешение получено |
Мыслит, значит существует (гет) | 216 голосов |
Червь (джен) | 189 голосов |
Luminosity - Сияние разума (гет) | 127 голосов |
Мать Ученья (джен) | 92 голоса |
Что-то придется менять (джен) | 79 голосов |
Dutani рекомендует!
|
|
ВолчьяКошка рекомендует!
|
|
Одно из лучших произведений! И безумно рада, что его напечатали. Теперь мечтаю как-нибудь купить в печатной версии не смотря на то, что читала раз двадцать (и с сайта, и с электронки, и слушала аудиоверсию).
Логика, прекрасная, шикарная логика цепляет с первой главы и вызывает иногда взрыв мозга, так как начинает казаться дико нелогичными многие вещи в каноне. Фантазия у автора не знает границ - и это сочетание с юмором (разговоры со шляпой, банки Прыского чая и пр.). Расчеты (например, как автор заморочился и рассчитал все с валютой в главе с Гринготтсом) вызывает лютое уважение. |
Alex Chapa рекомендует!
|
|
Книга, которую я мгновенно рекомендовал к прочтению всем друзьям.
|
Угу, угу. Вы так говорите "убить", как будто это что-то плохое…
|
> Здрасьте, Новый Год... Мерлин, король Артур, крестовые походы
Показать полностью
Первый крестовый поход: 1096—1099. Датировка событий легенды про короля Артура (и всяких там Мерлинов) - это 5ый-6ой века. 5 (ПЯТЬ!) веков разницы. Или википедия очень нагло лжёт, или я очень туплю, или вы совершенно не правы. Я не историк и в истории не очень-то шарю, но помнится, что грамотных было крайне мало, библию там почитывали, до изобретения печатного станка так вообще все книги переписывались, в основном (или даже "только") в монастырях, понятно, какие это были книги. Библиотека из нескольких книг - уже роскошь. Таким образом, центрами культуры были монастыри, а маги, насколько известно из канона, не очень-то со священниками да монахами дружили. Хотя да, грааль - это туда, но всё равно - это скорее устные легенды, предания и т.п. Монахи вряд ли их записывали. Пожалуйста, поправьте меня, есть где ошибся насчёт истории. >И у автора есть переведенная статья на тему оценки вероятностей Ну, не знаю, тяжёлый у автора язык, мыслью расплывается в статьях. Приходится потом эту мысль собирать воедино. Там действительно что-то такое вот переворачивающее мир написано? > Кроме того... Давайте так: "туземцы не могут полноценно использовать компьютер". Хотя нет, это мягко. "25-летний туземец уже не сможет постичь, что значит уравнение Эйнштейна. Даже если посвятит этому жизнь". Понимаете, о чём я? Между ружьями и туземцами не такой большой барьер, как культурный, так и интеллектуальный. Между Туземцем и компьютером - уже поболе. Между туземцем и ОТО - практически непреодолимый, хотя, наверное, найдётся один из миллиона, гений. А как насчёт туземца и управления системой, выходящей за рамки современной физики, возможно, способной согласованное менять физические константы или даже сам вид физзаконов? Вы серьёзно верите, что такое возможно? Или, может, создатель этого артефакта специально подготовил его для управления туземцем, возможно, на нескольких уровнях доступа, как думаю я? |
>Монахи вряд ли их записывали. Пожалуйста, поправьте меня, есть где ошибся насчёт истории.
Показать полностью
Ну я о граале, да. Я тоже не сильно историк :) А за граалем разве не в крестовые походы ходили? Тогда я и правда промахнулся на пяток веков. >Там действительно что-то такое вот переворачивающее мир написано? Не то чтобы переворачивающее мир. просто в данном случае мы рассматриваем события о вероятности которых достоверно ничего не известно. В таких случаях невозможно говорить о том, что вероятность одного события больше чем вероятность другого. >Давайте так: "туземцы не могут полноценно использовать компьютер". Хотя нет, это мягко. "25-летний туземец уже не сможет постичь, что значит уравнение Эйнштейна. Даже если посвятит этому жизнь". Нет, не мягко, как раз наш уровень. Туземец обнаружил компьютер. Обнаружил что с нажатием кнопки его состояние меняется "включил". Обнаружил связь между перемещением мышки и курсора на экране. Через некоторое время запустил Lines, ярлык для которой прошлый владелец вытащил на десктоп. Через пару часов он поймет логику игры. А так-же то, что мышка является переводчиком его пожеланий внутрь магического ящика. Ему при этом совсем не нужно знать как этот компьютер работает. При должном усердии он еще много чего научится запускать. А вот программировать - вряд-ли. И через много-много поколений данное племя туземцев будет отлично управляться с всевозможным софтом внутри этого компьютера. Все так-же не имея ни малейшего представления о принципах его работы. |
vegetate,
Показать полностью
"просто в данном случае мы рассматриваем события о вероятности которых достоверно ничего не известно. В таких случаях невозможно говорить о том, что вероятность одного события больше чем вероятность другого." - угу, всё верно. С другой стороны, ничего не мешает руководствоваться "нечёткой оценкой" с помощью личной нейросети - мозгов, конкретно "интуиции". Мой багаж знаний "говорит", что это менее вероятно, ваш - нет. Увы, имха имху не переспорит. Впрочем, можно попробовать оценить вероятность исходя из самых общих принципов, но сложно, муторно и необязательно получится. >Ему при этом совсем не нужно знать как этот компьютер работает. При должном усердии он еще много чего научится запускать. А вот программировать - вряд-ли. Вот в том-то и дело, что это выглядит так, будто на компе единственный ярлык - и это среда разработки программ. Шанс, что туземцы через сто поколений разберутся с этой средой, конечно, есть. Но только потому, что их собственное развитие шагнёт на несколько порядков вперёд. Почему я сравниваю именно со средой разработки ПО? Да потому что понятные человеку средства "магии" там появятся только в том случае, если разработчики артефакта это предусмотрели специально. И, соответственно, оставили доступным. Опять же, прихожу к концепции намеренного эксперимента, ну, как вариант, подачки или просто "ради смеха", если разум высокого уровня имеет такое чёрное чувство юмора. |
Матемаг, я тут подумала над вашей версией эксперимента и виртуальностью гена и вот что вышло.
Показать полностью
Начну издалека. Во вселенной существуют определенные законы протекания процессов. Это неоспоримо. Результат протекания процессов по этим законам неслучаен, случайно только наличие определенных условий для определенного результата. Результат или комбинация результатов может послужить началом более сложного процесса, поскольку процессы во вселенной постепенно усложняются от момента ее рождения. Человек – самый значимый результат на сегодняшний день из известных результатов, но человек – не последнее звено в цепи сложностей. Он уже создал то, что без его участия никогда бы не существовало – орудия труда или другими словами приспособления для подчинения энергии-материи. Начиналось все с каменного топора, сейчас эти орудия на стадии развития интеллекта, что говорит о наличии вероятной возможности создания Исполнителя желаний. Надо заметить, что возможности каждого последующего звена в цепи развития увеличиваются, но все же они имеют свои ограничения. Отсюда следует, что человек создаст нечто, что будет превосходить его по своим возможностям. Что будет следующим звеном за Исполнителем желаний – без понятия, дальше мне лень думать. Если когда-то Исполнитель желаний будет самодостаточным саморазвивающимся интеллектуальным нечто, способным подчинить себе вселенную, то такое звено в цепи, как человек, перестанет быть необходимым. Но в фанфике человек взаимодействует с Исполнителем желаний, а значит, он необходим. Можно как один из вариантов вероятностей рассмотреть проведение эксперимента ИЖ. Для каких-либо экспериментов должны быть существенные причины, нацеленные на возможность получения результата, превосходящего полученные ранее. Возможно, ИЖ создает какие-то условия, которых в предыдущей цивилизации не было, с целью что-то получить. Еще одна вероятность, что Исполнитель желаний хоть и относительно автономен, но устроен таким образом, чтобы зависеть от определенного сорта людей. В любом из этих двух вероятностей происходит взаимодействие между ИЖ и магами. И я склоняюсь к определенной химической комбинации в организме мага для этого возникновения взаимодействия и вот почему. Отличие должно быть именно реальным, то есть существовать в организме мага, и этому отличию должно быть виртуальное соотвествие в виде символов в ИЖ. Само по себе наличие символов без соответствия чему-то реальному – это просто ничего не значащие символы. Если у магов существует биологический маркер, то значит ИЖ способен различать состав индивида. Тогда вполне вероятно, что ИЖ различает не только маркер, но и определенные процессы (химические например) организма волшебников, служащие командой для начала операций ИЖ, то есть ИЖ реагирует на определенные химические комбинации в организме с маркером. |
Jack Dilindjerпереводчик
|
|
Прода будет с воскресенья на понедельник :)
|
madness,
Показать полностью
"Само по себе наличие символов без соответствия чему-то реальному – это просто ничего не значащие символы." - что за бред? Парочка "виртуальных символов" способна запустить ядерную ракету и разнести к ..м город, а то и полмира из-за серии ответных пусков. Во-первых, определимся с терминологией. Признаю свою вину - но всё же наиболее точном будет называть ИМ, источник магии, ибо произвольные желания не исполняются, а магсущества, не являющиеся людьми, тем не менее испытывают поддержку ИМ. Во-вторых, если опустить всё философское вступление, суть вашего мнения состоит в том, что ИМ = ИР, или же ИНР, то есть или искусственный разум, или искусственный надразум. Причём вы склоняетесь ко второму. Не вижу никаких к этому причин, равно как и причин, что ИМ - нечто автономное. Как вам варианты, что ИМ - это "всего лишь" эффектор цивилизации более высокого уровня развития? Или же - вообще ни разу не ИИ, а тупая, но широко и гибко проработанная программа? Или, например, ИМ - это не нечто "созданное", а отдельная особь или сообщество эволюционировавших разумных, например, перешедших в "тонкую" форму бытия (нематериальную) или же просто обрётших надфизические способности? И вообще, вариант, что ИМ возник сам собой ВНЕ биологической эволюции и вообще ВНЕ эволюции разума? Что он - это нечто иное, можно сравнить с нейтронной звездой, родившейся в результате эволюции звезды - просто этот процесс "вмешивается" в жизнь человечества - не надразум, но не разум вообще. В-третьих, где вы видите полноценное взаимодействие? В сущности, что происходит? ИМ действует по отработанной веками программе, "исполняя" заклятия и поддерживая "волшебство". Возможно, форма исполнения и поддержки меняется в большом масштабе времени - запрет Мерлина тому демонстрация. Но ничто, совершенно ничто не говорит, что ИМ испытывает какое-то значимое влияние от магов. Мерлин? А он точно, стопроцентно сделал этот запрет сам или, быть может, ИМ выразил через Мерлина своё изменение (можно сказать, "опубликовал официально" через него, введя нас в заблуждение относительно того, кто это сделал). Словом, полноценного взаимодействия точно не гарантируется. Вообще неясно, как ИМ реагирует на изменения в земной жизни и реагирует ли вообще. У нас тупо мало достоверных данных. В-четвёртых, так и не понял (см. выше), чем конкретно вы возражаете против гипотезы виртуального гена. Конечно, в условиях нехватки информации, подтвердить её не удастся. Но и опровергнуть - тоже. Ничто не мешает такому надфизическому процессу/объекту как ИМ "вести" человека от начала жизни до конца, зафиксировав его ДНК и ещё какой идентификатор в базе данных напротив надписи "маг", "сквиб", "вейла", "полувейла", "маггл", "маггл-оборотень", "маг-оборотень" и какие там ещё варианты. Не думаю, что вообще требуется какое-то там ДНК - но если, вдруг, наблюдение будет потеряно (согласитесь, если мы говорим о высшей технологии - это маловероятно), то можно будет его восстановить. Вот, собственно, и всё. Jack Dilindjer, ждём! |
Матемаг, ох...
Показать полностью
С чего вы взяли, что пара символов запускает ракету? Что за такие символы, обладающие силой разума? Ракету, пусть и опосредованно, но запускает человек. Это мы видим символы на мониторе, они для удобства нашего восприятия, но мы же их и создаем. Я не буду вдаваться в подробности того, как работает компьютер, но в вашем сознании весь процесс очень уж свернулся. Вкратце могу объяснить, что когда вы нажимаете на клаве букву А, то задействуется программа, в результате чего буква появляется на мониторе (ну или ракета взлетает, все зависит от программы). Так вот, в любом случае программа должна чем-то запускаться. Если это проходная, где пропуском служит отпечаток пальца, то информация об отпечатке кодируется определенным образом, то есть в компьютере находится виртуальное соответствие отпечатка, но программу-то открытия дверей запускает реальный человек или его реальный признак. Вы все говорите про какой-то виртуальный ген (набор признаков, запускающих программу), но этот же признак, только реальный, должен быть у мага, иначе чем запуститься программа хотя бы в первый раз? Возможно достаточно одного запуска, а в дальнейшем ИМ "запоминает" человека и вход происходит автоматически, но сути это не меняет. Далее. Под взаимодействием я понимаю вот что: ИМ получает информацию от мага, маг получает исполнение желания.Информация от мага - это все то же наличие ключа доступа в виде гена или другого набора реальных признаков, а также наличие химической комбинации, которая возникает в организме при применении заклинания или когда маг выпивает зелье. Я и не говорила про произвольные желания, а у магических существ тоже какие-то процессы в организме происходят, ничто не мешает ИМ их отслеживать. /И вообще, вариант, что ИМ возник сам собой ВНЕ биологической эволюции и вообще ВНЕ эволюции разума? Что он - это нечто иное, можно сравнить с нейтронной звездой, родившейся в результате эволюции звезды - просто этот процесс "вмешивается" в жизнь человечества - не надразум, но не разум вообще./ Да вы, однако, писатель-фантаст, поэтому спорить не буду, останусь при эволюции разума. А вот как назвать это нечто, так мне кажется неважно: исполнитель желаний, источник магической силы или еще какими-то синонимами. |
madness, эх.
Показать полностью
"Ракету, пусть и опосредованно, но запускает человек." - а как насчёт автоматики? Если опустить происхождение этой автоматики, эти самые символы (на ладно, не символы, а состояния ячеек памяти в виде электронов и дырок, если хотите конкретики) могут "запуститься" сами по себе, если заданы условия запуска. Более того, даже не ИИ может проводить какой-то анализ, в том числе с ограниченной возможностью самообучения, а "первоначально" - всего лишь символы. А уж если там находится, пусть и низкоуровневый, но ИИ, то говорить "ракету запустил человек" - это примерно как "Гагарин полетел в космос благодаря Петру I - если бы не он, всё было бы по-другому". "Возможно достаточно одного запуска, а в дальнейшем ИМ "запоминает" человека и вход происходит автоматически, но сути это не меняет." - если мы говорим о ИИ, то о каких-то там формальных признаках спорить не следует - ИИ способен ориентироваться и по признакам нечётким, абстрактных, неформальным. Если программа - то начальные "цели эксперимента" отмечает разумный, неважно, ИИ или "естественный". Дальше цели "держатся на мушке", при этом каждой (индивидуально, у всех выбранных людей нет ничего общего) соответствует набор признаков, точно её определяющий - на случай сбоя слежения (опять же, если такое вообще возможно). Не понимаю, что вам не нравится? Что мага в этом случае нельзя отличить от немага генетически, химически, физиологически и вообще разница незаметна, если опустить социальный аспект? Уникальный код (например, ДНК + энцефалограмма или ДНК + отпечатки пальцев + форма зубов) есть, но он индивидуален, а не присущ всем магам и используется в случае потери слежения - то есть это жуткая перестраховка, если говорить о технике уровня ИМ. "Да вы, однако, писатель-фантаст, поэтому спорить не буду, останусь при эволюции разума." - просто мы никогда ни с чем подобным не сталкивались. И не представляем, возможно ли что-то такое. Но не понимаю, что должно мешать возникать процессам уровня сложности выше, чем наша цивилизация, если законы физики не являются константой, как в фике. Так же, как и метко настроенная программа способна имитировать разум, этот процесс может выглядеть как результат деятельность разумного, но не являться им. Конечно, фантастика - но ведь мы говорим о ситуации, в которой законы физики могут искажаться. И, кстати, фантаст из меня... м-да. Вот фэнтази - это можно, а чтобы фантастику (отделяю одно от другого, подразумевая под фантастикой - более-менее научную) - нет, не судьба. Начал что-то подобное было, ан нет, не идёт дальше. Видимо не моё. |
Матемаг, я, кажется, поняла, что вы имеете в виду, когда отрицаете обязательность наличия гена.
Показать полностью
Вы считаете,, что ИМ сам выбирает людей с момента рождения без заданных критериев отбора и никакого общего признака у этих людей нет, просто кому-то больше повезло, кому-то меньше. А в ИМ заложена программа типа: каждый пятый наследник магов будет сквибом, каждый пятый наследник сквибов - магом, каждый из скольки-то новорожденных магглов - магом (все к примеру). Соглашусь, что такая возможность реальности существует, и уж простите, что приходится додумывать за вас ваши мысли (мне своего хаоса в голове видно не хватает) По поводу запуска программ. /могут "запуститься" сами по себе, если заданы условия запуска. / Вам не кажется, что фраза не дописана? Программы запускаются только если запрограммированные условия запуска будут в наличии, а это хоть и без непосредственного участия человека, но не само по себе. Я про это и говорю, что заданные условия должны совпасть с реальными, только тогда начнет работать ИМ. Чтобы вышеупомянутая программа работала, должны по крайней мере рождаться дети. Поправьте, если я ваши мысли не так изложила, но не моя вина в том, что я вас не всегда понимаю. |
madness, ну, можно и чистой случайностью, по законам, сходным или совпадающим с биологическими. Не акцентировал внимание на этом моменте, поскольку вы сосредоточились на представлении реальном и виртуальном представлении этого гена. Как вариант, случайность может быть не простой статистической (то есть 1/5 - такие, 1/4 - другие и т.п.), а более близкой к биологической, вплоть до полного повторения механизма наследования, как будто этот ген реально присутствует в ДНК. Или же, напротив, могут быть совсем не подобные естественным искажения механизма передачи гена - это уж зависит от целей ИМ/разработчиков ИМ.
Показать полностью
"а это хоть и без непосредственного участия человека, но не само по себе." - а что вы подразумеваете под "само по себе"? Допустим, я хочу есть, но рядом нет еды. "Программа" утоления голода не запустится, а запустится "программа" поиска пищи. По-моему, выполнение условий для того или иного поведения - это общее межде разумом и программой. Даже разница в строгости исполнения условий может быть частично или полностью обойдена, например, с помощью нейросети. Поэтому то или иное поведение при выполнении тех или иных условий - это, по моему мнению, вписывается в "само по себе". Разница в том, что программа не способна эти условия определить самостоятельно. А даже если способна - то не может определить и осознать основные принципы, на которых базируется. Иначе это будет уже не программа, а ИИ или даже ИР. Если ИМ является только программой, то у него вполне может быть предусмотрены действия насчёт отсутствия или недостатка детей. Напрашивается, что будут появляться случайно или по какому-то признаку (то есть признак может быть, но он не обязан быть биологическим, а может быть социальным, психологическим, комплексным...) выбранные магглорождённые, что и происходит. Как другой вариант, они будут рождаться в любом случае, просто варьируется их количество. Если, например, человечество достигнет критически низкой отметки численности - ИМ может автоматически прекратить работу или вмешаться в социум прямо. Заметьте - поведение ИИ может ничем не отличаться от поведения программы, если не случилось что-то совсем уж непредусмотренное, ИИ и программу внешне не отличить, более того, не отличить и внутренне в этом отношении: ИИ и программа будут руководствоваться одинаковой логикой, просто ИИ осознанно, а программа - нет, но оба - самостоятельно, "сами по себе". Извиняюсь, если изложил мысль "нечётко", акцентировавшись на том, что было и так понятно. |
Если вы еще не читали- я вам завидую!!!!
( и сочувствую- для мира вы потеряны😅😅😅)
Рекомендую!