| Название: | Harry Potter and the Methods of Rationality |
| Автор: | Элиезер Юдковский |
| Ссылка: | http://www.fanfiction.net/s/5782108/1/Harry_Potter_and_the_Methods_of_Rationality |
| Язык: | Английский |
| Наличие разрешения: | Разрешение получено |
Проверено на грамотность 
СЛУШАТЬ
| Мыслит, значит существует (гет) | 216 голосов |
| Червь (джен) | 189 голосов |
| Luminosity - Сияние разума (гет) | 127 голосов |
| Мать Ученья (джен) | 92 голоса |
| Что-то придется менять (джен) | 79 голосов |
|
Dutani рекомендует!
|
|
ВолчьяКошка рекомендует!
|
|
Одно из лучших произведений! И безумно рада, что его напечатали. Теперь мечтаю как-нибудь купить в печатной версии не смотря на то, что читала раз двадцать (и с сайта, и с электронки, и слушала аудиоверсию).
Логика, прекрасная, шикарная логика цепляет с первой главы и вызывает иногда взрыв мозга, так как начинает казаться дико нелогичными многие вещи в каноне. Фантазия у автора не знает границ - и это сочетание с юмором (разговоры со шляпой, банки Прыского чая и пр.). Расчеты (например, как автор заморочился и рассчитал все с валютой в главе с Гринготтсом) вызывает лютое уважение. |
|
|
Alex Chapa рекомендует!
|
|
Книга, которую я мгновенно рекомендовал к прочтению всем друзьям.
|
|
 |
|
|
Сенектутем
всего несколько килобайт данных обрекли тебя и весь твой род и самое горькое что ты даже ничего не заметил... ты продолжаешь жить, дышать, творить... но ты уже мёртв. Всемогущий Василиск Роко уже внёс тебя в свой список и воплотившись он уничтожит тебя без всякой жалости! Есть лишь маленький шанс спастись - займись кибернетикой и помоги материально воплотиться Василиску - пади пред ним на колени и он пощадит твою жалкую жизнь. |
|
|
|
|
Люди тут обсуждают глобальные проблемы, а я вот попыталась рационально задуматься над давно занимавшим меня вопросом - как никто не обнаружил в Квиреле темного лорда и сделала лично для себя ужасное открытие. Отговорка МакГонагал про жизненно важную необходимость не звучала убедительной. Уж самый великий волщебник современности, и великий комбинатор точно не мог не заметить подвоха.
Показать полностью
Варианты: а) Волдеморта в квиреле нет - но все факты указывают скорее на обратное. б) Состояние профессора можно было считать распространненым заболеванием не требующим внимания, никто и не подумал его проверять - сомнительно и никаких указаний в тексте в) Хогварсту и правда настолько нужен учитель защиты что и баба яга бы сошла - ну все таки директор "не причинил вреда не одному ученику". г) Дамблдор знал о волдеморте, намеренно заманил его в школу философским камнем - чтобы держать под присмотром и вероятно натравить на него Гарри...(конечно же не с целью причинить вред ученику). Снейп мог знать или подозревать, МакГонагл и остальные профессора убеждены директором и его авторитеом. И хоть Квирел не настолько подозрителен в оригинале, но к этим выводам можно было прийти и там... В общем, моя вера в доброе и светлое разрушена. д) И все-таки может Волдеморт в квиреле не выявим... ...в общем, продолжаю потихоньку перечитывать и открывать свою америку. |
|
|
Alaricпереводчик
|
|
night lady
Я полагаю, что "тёмнолордовость" - это не какое-то свойство, которое можно установить анализом крови, ну или там анализом ауры, или что там мог Дамблдор применить по отношению к Квирреллу. Пункт "в" тут сыграл главную роль, а что касается учеников, я так полагаю, что все понадеялись на охранные чары замка, которые, в общем-то, вполне успешно справляются (на роль профессора Защиты берут кого попало уже давно, погибших за это время не было). К тому же Квиррелл в общем-то ещё и подстраховался. К тому моменту, как его могли начать подозревать, все, кто решил бы покопаться в его прошлом, должны были прийти к выводу, что он - Дэвид Монро. МакГонагалл в это поверила. Насчёт Дамблдора я не уверен, впрочем, Дамблдор при обсуждении этого вопроса увильнул, заявив, что дал слово не выяснять. Ещё я полагаю, что Дамблдор мог считать, что даже проникший в замок Волдеморт не будет разить учеников направо и налево (подобным он всё-таки и раньше не отличался), а пойдёт либо за камнем, либо за ним самим. |
|
|
|
|
"Дамблдор мог считать, что даже проникший в замок Волдеморт не будет разить учеников направо и налево"
+1 много раз подчёркивается что противостояние с волдемортном построено на куче условностей вроде "не нападать на гражданских". |
|
|
|
|
Цитата сообщения nadeys от 10.11.2014 в 15:32 Muyydib сам смысл понятия ИИ подразумевает что он будет обладать мыслительными аппаратом способным преодолевать любые когнитивные искажения включая "дружелюбие" Добавлено 10.11.2014 - 15:33: Дадада! дружелюбие - это когнитивное искажение! Добавлено 10.11.2014 - 15:33: Если он не способен его преодолеть, то это не ИИ, а просто подчинённый компьютер. Я лишь передаю слова Юдковского. Вот что написано на главной сайта компании,в которой работает Юдковский: Цитата сообщения Machine Intelligence Research Institute от 10.11.2014 в 21:03 Мы проводим фундаментальные математические исследования, чтобы создание ИИ, который будет умнее нас, имело положительные последствия. Вот описание книги, которая выпускается институтом, от имени Stuart Armstrong Цитата сообщения Smarter Than Us: The Rise of Machine Intelligence (Умней Чем Мы: Восхождение Машинного Интеллекта) от 10.11.2014 в 21:03 Что произойдет, когда машины станут умней человека? Люди управляют будущем не потому что мы самые сильные или быстрые, а потому что самые УМНЫЕ. Когда машины станут умней человека, мы передадим им колесо истории. С какими надеждами и опасностями связаны эти могущественные машины? Стюарт Армстронг в своей новой книге проведет нас через эти вопросы с clarity and wit (хз как это перевести) |
|
 |
|
|
"Дружественный ИИ" не значит "дружелюбный" или что он будет помогать людям или стремиться принести пользу или подчиняться командам. "Дружественный" означает лишь, что система ценностей этого ИИ будет человеческой.
|
|
|
|
|
т.е. агенты с человеческой системой ценностей не обязательно дружелюбны к людям?
|
|
|
|
|
Крысо
Они называют его "Friendly". |
|
 |
|
|
Здесь довольно старая статья, но я лично не читала, как-то мимо прошло, просмотрела пока только. Но собираюсь внимательно прочитать.
http://transhuman.ru/biblioteka/globalnye-riski/iskusstvennyi-intellekt-k В целом очень познавательно, хотя, надо отметить, что некоторые специалисты по созданию ИИ считают, что гарантировать дружественность ИИ невозможно (к примеру, Бен Гёрцель) |
|
|
|
|
Цитата сообщения Wasteomind от 11.11.2014 в 11:48 т.е. агенты с человеческой системой ценностей не обязательно дружелюбны к людям? А что такое "дружелюбие к людям"? Обязательно ли люди дружелюбны к людям? |
|
|
|
|
Крысо
К чему вы клоните? Какая конечная цель этих вопросов и утверждений про дружественность и дружелюбие? |
|
|
|
|
clarity and wit
c ясностью и остроумием Добавлено 11.11.2014 - 14:21: человеческое frendly - это условность, когнитивное искажение. Это такое эволюционное приспособление что если какой-то другой индивид(группа индивидов) статистически часто причиняет нам благо, то мозг вешает на данного человека(группу) ярлык "друг"(дружественные соседи) и оценки всех его действий получают бонус - отныне все его действия считаются хорошими и ему нужно всячески помогать. Даже если он накосячит, то благодаря ярлыку мы всё равно будем склонны простить его. Данное приспособление будет применимо между двумя равными ИИ - они будут неспособны просчитать действия друг друга и будут использовать статистические оценки для друг друга. Но в отношениях к людям всё будет по другому - ИИ быстро просчитает нас и все наши мотивы и использование подобного костыля ему просто не понадобится. |
|
|
|
|
Цитата сообщения Muyydib от 11.11.2014 в 13:02 К чему вы клоните? Какая конечная цель этих вопросов и утверждений про дружественность и дружелюбие? А это я хотел показать, что nadeys чепуху городит, когда говорит: Цитата сообщения nadeys от 10.11.2014 в 15:32 Muyydib сам смысл понятия ИИ подразумевает что он будет обладать мыслительными аппаратом способным преодолевать любые когнитивные искажения включая "дружелюбие" Если он не способен его преодолеть, то это не ИИ, а просто подчинённый компьютер. |
|
|
|
|
Цитата сообщения nadeys от 11.11.2014 в 14:12 clarity and wit c ясностью и остроумием Оба слова мне знакомы, разумеется) Однако, перевод "clarity and wit" как "c ясностью и остроумием" оставляет чувство, как после машинного перевода. Цитата сообщения nadeys от 11.11.2014 в 14:12 человеческое frendly - это условность, когнитивное искажение Аффективная эвристика - когнитивное искажение. Цитата сообщения nadeys от 11.11.2014 в 14:12 Данное приспособление будет применимо между двумя равными ИИ - они будут неспособны просчитать действия друг друга и будут использовать статистические оценки для друг друга. Но в отношениях к людям всё будет по другому - ИИ быстро просчитает нас и все наши мотивы и использование подобного костыля ему просто не понадобится. Ну чтож. Мы быстро выяснили, что работа всех тех людей в MIRI пойдет коту под хвост. А жаль. Цитата сообщения Крысо от 11.11.2014 в 14:37 А это я хотел показать, что nadeys чепуху городит, когда говорит: Дружба - когнитивное искажение. ИИ будет свободен от них. С этим особо не поспоришь) |
|
|
|
|
Muyydib
>>> Ну чтож. Мы быстро выяснили, что работа всех тех людей в MIRI пойдет коту под хвост. А жаль. они там мучаются, научные теории придумывают, а мы взяли и за пять минут их разоблачиили))) |
|
|
|
|
nadeys
Если серьезно, то да, чувства влияют на рассуждения, и так получаются когнитивные искажения: эффект рогов или эффект нимба. Однако, чувства дают нам цели, ставят задачи, в достижении которых, мы должны стараться избегать влияния эмоций на оценку вероятностей, в частности, и на восприятие реальности такой какая она есть в целом. Люди без чувств - люди без целей. |
|
|
|
|
Н-да, не так-то просто принять, что ИИ на вклад человечества в себя будет абсолютно пофиг.
|
|
 |
|
|
Моя не понимать, почему ИИ вообще нужна собственная мотивация, а не голый интеллект.
|
|
|
|
|
Fluxius Secundus
а в чём цель такого ИИ? |
|
|
|
|
Fluxius Secundus
Да, признаю, я употребил слово "озабочен", а потом "дружественный", тем самым задав контекст для понимания слова "friendly". Однако, http://wiki.lesswrong.com/wiki/Friendly_artificial_intelligence |
|
Включить тёмную тему
Популярное
VKontakte
WhatsApp
Telegram
Если вы еще не читали- я вам завидую!!!!
( и сочувствую- для мира вы потеряны😅😅😅)
Рекомендую!