Название: | Harry Potter and the Methods of Rationality |
Автор: | Элиезер Юдковский |
Ссылка: | http://www.fanfiction.net/s/5782108/1/Harry_Potter_and_the_Methods_of_Rationality |
Язык: | Английский |
Наличие разрешения: | Разрешение получено |
Мыслит, значит существует (гет) | 216 голосов |
Червь (джен) | 189 голосов |
Luminosity - Сияние разума (гет) | 127 голосов |
Мать Ученья (джен) | 92 голоса |
Что-то придется менять (джен) | 79 голосов |
Dutani рекомендует!
|
|
ВолчьяКошка рекомендует!
|
|
Одно из лучших произведений! И безумно рада, что его напечатали. Теперь мечтаю как-нибудь купить в печатной версии не смотря на то, что читала раз двадцать (и с сайта, и с электронки, и слушала аудиоверсию).
Логика, прекрасная, шикарная логика цепляет с первой главы и вызывает иногда взрыв мозга, так как начинает казаться дико нелогичными многие вещи в каноне. Фантазия у автора не знает границ - и это сочетание с юмором (разговоры со шляпой, банки Прыского чая и пр.). Расчеты (например, как автор заморочился и рассчитал все с валютой в главе с Гринготтсом) вызывает лютое уважение. |
Alex Chapa рекомендует!
|
|
Книга, которую я мгновенно рекомендовал к прочтению всем друзьям.
|
Цитата сообщения Сенектутем от 13.06.2013 в 11:38 Я вдруг понял, что, не смотря на то, что это утверждение кажется мне логичным и очевидным, я не могу назвать ни одного другого способа. А кто может? Просто загляните в историю. Математика появилась сравнительно недавно, и до неё люди пользовались иными приемами. Например, мифологическими. Для древнего человека миф имел иное значение, нежели для современного: элементы мифа были такой же мерой бытия, как и числа для нас; сюжеты мифов служили объяснением природы, источником правил поведения и рамками мышления. Это по-своему впечатляюще: представьте, что вас никогда не учили читать и считать, но зато всю жизнь вы слышали несколько десятков историй - ваш мозг работал бы совершенно иначе. Если математика построена на сопоставлении реальных объектов абстрактным числам с их последующим сравнением, то мифологическое мышление работало на уподоблении тех или иных феноменов элементам мифа. Математика, как видите,выигрывает и в сфере применения, и в точности, поэтому мы пользуемся именно ею. Или вот более близкий к нам пример: психиатрия. Её не свести к математике, пока не будет создана физическая теория сознания - и не факт, что та будет работать по известным на сегодня математическим принципам. При анализе, скажем, рисунков пациента, можно ставить диагноз лишь по совокупности всех частей рисунка, их взаимному расположению и вложенному в них смыслу. И чтобы правильно понимать рисунок, надо иметь представление о культуре, к которой принадлежит пациент, его собственных личностных особенностях и тому подобных уникальных тонкостях, не сводимых к математической задаче. Конечно, с помощью психоанализа ракету не построишь, поэтому инженерам важнее математика. Но и с помощью общей топологии человека от суицида не спасешь. Так что налицо части реальности, которые требуют различных описательных инструментов. И далее, если сравнивать математику конца восемнадцатого века и некоторые современные её разделы, используемые в квантовой механике, то разница будет такая же, как между велосипедом и роем ос - как будто они вообще не имеют ничего общего. Та же теория струн тормозит в развитии именно из-за отсутствия подходящих математических инструментов для решения возникающих задач. Вполне возможно, что в ближайшие сто лет некоторые разделы математики разовьются настолько, что их, собственно, и математикой сложно будет считать. |
Alastor,
Показать полностью
неожиданно мне вдруг подумалось. А вам не кажется,что каждый из нас принимает участие в создании искусственного интеллекта? Сечйас наблюдается тенденция к зависимости. Сначала браузер делает мне подсказки и я все еще думаю, что умнее его, но вот будущее мне видится как-то так: в одно прекрасное утро где-то в зоне прямой видимости у меня как у Терминатора появится сообщение (либо я восприму это как собственную мысль): "набойки на ваших каблуках изношены на 92%. Необходимо срочно зайти в мастерскую, для этого через двадцать метров нужно повернуть налево". После чего следующее:"организм нуждается в питании. Оптимальный вариант, исходя из вашего уровня доходов, кафе "Последний шанс". Для посещения кафе через сто метров нужно повернуть направо". И далее: "Для оптимальной работы организма необходимо употребить брокколи на пару и отварную куриную грудку". А после того, как я все же закажу пирожное, потому как хочу и все тут, последует ненавязчивая, но очень действенная лекция об ожирении и расчет сбоев работы организма. Ну и т.д. И я буду думать, что посредством чипа, что установлен в моем мозгу, дает подсказки мне коллективный разум и делает он это для моего блага и блага каждого. И не замечу, что стала служебной собачкой ИИ. А возможно про чип в моей памяти и не будет уже информации. |
madness, у вас богатое воображение :)
Показать полностью
Диктатура пользы в ущерб удовольствию - это известный сюжет многих антиутопий и даже некоторых реальных обществ Земли (вспомним хотя бы древнюю Спарту). Но не думаю, что реальный ИИ станет заниматься такой ерундой - он ведь не будет программной-помощником. Искусственный интеллект только тогда станет полноценным интеллектом, когда обретет подобие свободы воли и право на личные интересы. Иначе речь может идти только о более или менее могущественной вычислительной среде, скованной рамками, поставленными для неё людьми-программистами. Зачем самодостаточному разуму устраивать нам режим доброжелательной диктатуры? Разве что ради развлечения, ибо это объективно бессмысленно. К тому же подобное давление вредно: я читал результаты исследования, проводимого в домах престарелых, гласившие, что старики, сами определяющие свой досуг и меню, живут дольше и болеют реже. ИИ, если он не будет садистом (что, кстати, не исключено, хоть и маловероятно), скорее окажется склонен игнорировать людей, чье мышление едва будет поспевать за ним, нежели править ими. Вам ведь едва ли захочется быть королевой муравейника - так и ему тоже. Однако описанная вами ситуация возможна. Правда, создать её могут сами люди в политических интересах. Но это уже совсем другая история :) |
Alastor
Показать полностью
Эм, поленилась описывать весь день будущего. Там и работа на благо общества присутствовать должна. То есть мы же пользуемся собаками для поиска наркотиков и взрывчатки, выращиваем скот на убой, почему ИИ должен пренебрегать использованием человека? В детали не углубляюсь, а то и так сплошной флуд) Это каждыый из нас будет думать,что ИИ доброжелателен, на самом деле все станет иллюзией.Если утрировать, то не жизнь, а матрица. Цитата сообщения Alastor от 14.06.2013 в 23:04 Искусственный интеллект только тогда станет полноценным интеллектом, когда обретет подобие свободы воли и право на личные интересы. Иначе речь может идти только о более или менее могущественной вычислительной среде, скованной рамками, поставленными для неё людьми-программистами. Интересы во благо развития интеллекта - достойный повод для диктатуры. Каждый из нас настроен на развитие, значит и ИИ запрограммирован будет также)) Цитата сообщения Alastor от 14.06.2013 в 23:04 Однако описанная вами ситуация возможна. Правда, создать её могут сами люди в политических интересах. Но это уже совсем другая история :) Уверены, что уже не создают? И это сначала в политических. |
madness, но описанная Вами ситуация вообще же никакого отношения к ИИ не имеет. Где там интеллект-то?
Показать полностью
И да, откуда информация про серьезные темпы развития ИИ? А то не очень заметно и складывается впечатление, что пока все очень плохо. Цитата сообщения Alastor от 14.06.2013 в 12:06 шестьдесят лет назад с таким же энтузиазмом, как вы сегодня про ИИ, половина планеты говорила о космических кораблях и колонизации Луны и Марса Дак это, и про ИИ то же самое говорили 60 же лет назад. Собственно, цитата (отсюда http://logic.pdmi.ras.ru/~sergey/teaching/mlau12/01-intro.pdf): "Мы предлагаем исследование искусственного интеллекта сроком в 2 месяца с участием 10 человек летом 1956 года в Дартмутском колледже, Гановер, Нью–Гемпшир. Исследование основано на предположении, что всякий аспект обучения или любое другое свойство интеллекта может в принципе быть столь точно описано, что машина сможет его симулировать. Мы попытаемся понять, как обучить машины использовать естественные языки, формировать абстракции и концепции, решать задачи, сейчас подвластные только людям, и улучшать самих себя. Мы считаем, что существенное продвижение в одной или более из этих проблем вполне возможно, если специально подобранная группа учёных будет работать над этим в течение лета." Из вики: "AI's founders were profoundly optimistic about the future of the new field: Herbert Simon predicted that "machines will be capable, within twenty years, of doing any work a man can do" and Marvin Minsky agreed, writing that "within a generation ... the problem of creating 'artificial intelligence' will substantially be solved". Собственно, такая программа появилась на Дартмутском семинаре 1956, где, говорят, термин ИИ и появился. И насколько мне известно, по всем из перечисленных (в цитате выше) задач, кроме последней, прогресс почти нулевой и поныне. Ну разве еще по обработке естественных языков есть некий прогресс. Но в те времена довольно долго всем казалось, что еще чуть-чуть и ура. |
Ну да, а воз и ныне там. И с колонизацией космоса, и с ИИ.
|
Сенектутем, я просто пошутил. :)
|
Ахаха)) Комментарии к этому фику лучше не читать)
|
LittleArtist, это ещё почему? топ1 комментарии из всех комментариям к фикам, очевидно.
|
Если вы еще не читали- я вам завидую!!!!
( и сочувствую- для мира вы потеряны😅😅😅)
Рекомендую!