| Название: | Harry Potter and the Methods of Rationality |
| Автор: | Элиезер Юдковский |
| Ссылка: | http://www.fanfiction.net/s/5782108/1/Harry_Potter_and_the_Methods_of_Rationality |
| Язык: | Английский |
| Наличие разрешения: | Разрешение получено |
Проверено на грамотность 
СЛУШАТЬ
| Мыслит, значит существует (гет) | 213 голосов |
| Червь (джен) | 188 голосов |
| Luminosity - Сияние разума (гет) | 127 голосов |
| Мать Ученья (джен) | 91 голос |
| Что-то придется менять (джен) | 79 голосов |
|
Dutani рекомендует!
|
|
ВолчьяКошка рекомендует!
|
|
Одно из лучших произведений! И безумно рада, что его напечатали. Теперь мечтаю как-нибудь купить в печатной версии не смотря на то, что читала раз двадцать (и с сайта, и с электронки, и слушала аудиоверсию).
Логика, прекрасная, шикарная логика цепляет с первой главы и вызывает иногда взрыв мозга, так как начинает казаться дико нелогичными многие вещи в каноне. Фантазия у автора не знает границ - и это сочетание с юмором (разговоры со шляпой, банки Прыского чая и пр.). Расчеты (например, как автор заморочился и рассчитал все с валютой в главе с Гринготтсом) вызывает лютое уважение. |
|
|
Alex Chapa рекомендует!
|
|
Книга, которую я мгновенно рекомендовал к прочтению всем друзьям.
|
|
 |
|
|
Цитата сообщения nadeys от 10.11.2014 в 15:32 Muyydib сам смысл понятия ИИ подразумевает что он будет обладать мыслительными аппаратом способным преодолевать любые когнитивные искажения включая "дружелюбие" Добавлено 10.11.2014 - 15:33: Дадада! дружелюбие - это когнитивное искажение! Добавлено 10.11.2014 - 15:33: Если он не способен его преодолеть, то это не ИИ, а просто подчинённый компьютер. Я лишь передаю слова Юдковского. Вот что написано на главной сайта компании,в которой работает Юдковский: Цитата сообщения Machine Intelligence Research Institute от 10.11.2014 в 21:03 Мы проводим фундаментальные математические исследования, чтобы создание ИИ, который будет умнее нас, имело положительные последствия. Вот описание книги, которая выпускается институтом, от имени Stuart Armstrong Цитата сообщения Smarter Than Us: The Rise of Machine Intelligence (Умней Чем Мы: Восхождение Машинного Интеллекта) от 10.11.2014 в 21:03 Что произойдет, когда машины станут умней человека? Люди управляют будущем не потому что мы самые сильные или быстрые, а потому что самые УМНЫЕ. Когда машины станут умней человека, мы передадим им колесо истории. С какими надеждами и опасностями связаны эти могущественные машины? Стюарт Армстронг в своей новой книге проведет нас через эти вопросы с clarity and wit (хз как это перевести) |
|
 |
|
|
"Дружественный ИИ" не значит "дружелюбный" или что он будет помогать людям или стремиться принести пользу или подчиняться командам. "Дружественный" означает лишь, что система ценностей этого ИИ будет человеческой.
|
|
|
|
|
т.е. агенты с человеческой системой ценностей не обязательно дружелюбны к людям?
|
|
|
|
|
Крысо
Они называют его "Friendly". |
|
 |
|
|
Здесь довольно старая статья, но я лично не читала, как-то мимо прошло, просмотрела пока только. Но собираюсь внимательно прочитать.
http://transhuman.ru/biblioteka/globalnye-riski/iskusstvennyi-intellekt-k В целом очень познавательно, хотя, надо отметить, что некоторые специалисты по созданию ИИ считают, что гарантировать дружественность ИИ невозможно (к примеру, Бен Гёрцель) |
|
|
|
|
Цитата сообщения Wasteomind от 11.11.2014 в 11:48 т.е. агенты с человеческой системой ценностей не обязательно дружелюбны к людям? А что такое "дружелюбие к людям"? Обязательно ли люди дружелюбны к людям? |
|
|
|
|
Крысо
К чему вы клоните? Какая конечная цель этих вопросов и утверждений про дружественность и дружелюбие? |
|
|
|
|
clarity and wit
c ясностью и остроумием Добавлено 11.11.2014 - 14:21: человеческое frendly - это условность, когнитивное искажение. Это такое эволюционное приспособление что если какой-то другой индивид(группа индивидов) статистически часто причиняет нам благо, то мозг вешает на данного человека(группу) ярлык "друг"(дружественные соседи) и оценки всех его действий получают бонус - отныне все его действия считаются хорошими и ему нужно всячески помогать. Даже если он накосячит, то благодаря ярлыку мы всё равно будем склонны простить его. Данное приспособление будет применимо между двумя равными ИИ - они будут неспособны просчитать действия друг друга и будут использовать статистические оценки для друг друга. Но в отношениях к людям всё будет по другому - ИИ быстро просчитает нас и все наши мотивы и использование подобного костыля ему просто не понадобится. |
|
|
|
|
Цитата сообщения Muyydib от 11.11.2014 в 13:02 К чему вы клоните? Какая конечная цель этих вопросов и утверждений про дружественность и дружелюбие? А это я хотел показать, что nadeys чепуху городит, когда говорит: Цитата сообщения nadeys от 10.11.2014 в 15:32 Muyydib сам смысл понятия ИИ подразумевает что он будет обладать мыслительными аппаратом способным преодолевать любые когнитивные искажения включая "дружелюбие" Если он не способен его преодолеть, то это не ИИ, а просто подчинённый компьютер. |
|
|
|
|
Цитата сообщения nadeys от 11.11.2014 в 14:12 clarity and wit c ясностью и остроумием Оба слова мне знакомы, разумеется) Однако, перевод "clarity and wit" как "c ясностью и остроумием" оставляет чувство, как после машинного перевода. Цитата сообщения nadeys от 11.11.2014 в 14:12 человеческое frendly - это условность, когнитивное искажение Аффективная эвристика - когнитивное искажение. Цитата сообщения nadeys от 11.11.2014 в 14:12 Данное приспособление будет применимо между двумя равными ИИ - они будут неспособны просчитать действия друг друга и будут использовать статистические оценки для друг друга. Но в отношениях к людям всё будет по другому - ИИ быстро просчитает нас и все наши мотивы и использование подобного костыля ему просто не понадобится. Ну чтож. Мы быстро выяснили, что работа всех тех людей в MIRI пойдет коту под хвост. А жаль. Цитата сообщения Крысо от 11.11.2014 в 14:37 А это я хотел показать, что nadeys чепуху городит, когда говорит: Дружба - когнитивное искажение. ИИ будет свободен от них. С этим особо не поспоришь) |
|
|
|
|
Muyydib
>>> Ну чтож. Мы быстро выяснили, что работа всех тех людей в MIRI пойдет коту под хвост. А жаль. они там мучаются, научные теории придумывают, а мы взяли и за пять минут их разоблачиили))) |
|
|
|
|
nadeys
Если серьезно, то да, чувства влияют на рассуждения, и так получаются когнитивные искажения: эффект рогов или эффект нимба. Однако, чувства дают нам цели, ставят задачи, в достижении которых, мы должны стараться избегать влияния эмоций на оценку вероятностей, в частности, и на восприятие реальности такой какая она есть в целом. Люди без чувств - люди без целей. |
|
|
|
|
Н-да, не так-то просто принять, что ИИ на вклад человечества в себя будет абсолютно пофиг.
|
|
 |
|
|
Моя не понимать, почему ИИ вообще нужна собственная мотивация, а не голый интеллект.
|
|
|
|
|
Fluxius Secundus
а в чём цель такого ИИ? |
|
|
|
|
Fluxius Secundus
Да, признаю, я употребил слово "озабочен", а потом "дружественный", тем самым задав контекст для понимания слова "friendly". Однако, http://wiki.lesswrong.com/wiki/Friendly_artificial_intelligence |
|
|
|
|
Честно говоря, я тоже не понимаю, нужна или нет.
Интеллект - это вроде как свойство разума. То есть, саморазвивающийся интеллект - не что иное, как интеллект + мотивация = разум. Не? |
|
|
|
|
nadeys
В том и смысл, что цели задаются полностью извне, человеками. |
|
|
|
|
Цитата сообщения Alaric от 10.11.2014 в 19:22 night lady Я полагаю, что "тёмнолордовость" - это не какое-то свойство, которое можно установить анализом крови, ну или там анализом ауры, или что там мог Дамблдор применить по отношению к Квирреллу. Ещё я полагаю, что Дамблдор мог считать, что даже проникший в замок Волдеморт не будет разить учеников направо и налево (подобным он всё-таки и раньше не отличался), а пойдёт либо за камнем, либо за ним самим. Есть охранные чары замка которым хозяин дамблдор, они вполне могли показывать настоящую личность Квирелла или опасность. Если угрозу чувствовал гарри, не мог ее не почувствовать и Дамблдор и по-крайней мере попытаться выяснить ее причины. Все остальные могли полагаться на аторитет дамблдора и охранные чары. При первой же встрече с гарри дамблдор неоднозначно намекает ему на запретный коридор. Зачем гарри философский камень сам по себе если в это не замешан волдеморт? Зачем переносить камень за которым охитится враг в самую гущу замка со студентами в год поступления туда Гарри поттера как не ловля на живца. Волдеморт вполне крошил на лево и на право (по крайней мере маглов), но крошение учеников его бы к камню видимо не привело и потратило лишние силы. |
|
|
Alaricпереводчик
|
|
Цитата сообщения night lady от 11.11.2014 в 17:33 Есть охранные чары замка которым хозяин дамблдор, они вполне могли показывать настоящую личность Квирелла или опасность. Что значит "вполне могли"? Есть ряд проверок, которые охранные чары, возможно, в состоянии проделать. Их, видимо, Квиррелл прошёл (ну, если они вообще были, потому что возможно, что охранные чары защищают просто детей). В конце концов, охранные чары создавались 800 лет назад, в то время Волдеморта ещё не было, и на него их никак не могли запрограммировать. Что касается "тёмности", то не факт, что Салазара Слизерина нельзя было считать тёмным. Если угрозу чувствовал гарри, не мог ее не почувствовать и Дамблдор и по-крайней мере попытаться выяснить ее причины. Почему не мог не почувствовать? У Гарри с Квирреллом связь. Читавшие канон, подозреваю, догадываются, какого рода, хотя это и только предположение. У Дамблдора с Квирреллом такой связи нет. При первой же встрече с гарри дамблдор неоднозначно намекает ему на запретный коридор. Зачем гарри философский камень сам по себе если в это не замешан волдеморт? Зачем переносить камень за которым охитится враг в самую гущу замка со студентами в год поступления туда Гарри поттера как не ловля на живца. Интересные вопросы. В первом случае, я, кстати, не исключаю, что Дамблдор мог подозревать Гарри в том, что он и есть Волдеморт. И проверял его таким образом. В конце концов, Квиррелл в Азкабане вполне успешно внушил эту идею Беллатрисе, так что вполне может быть, что это, по крайней мере, стоило проверить. Что касается Камня, то пока непонятно, но я бы не стал исключать вероятности, что объяснение Дамблдора было честным - что у него не было другого выхода. |
|
Включить тёмную тему
Популярное
VKontakte
WhatsApp
Telegram
Если вы еще не читали- я вам завидую!!!!
( и сочувствую- для мира вы потеряны😅😅😅)
Рекомендую!