↓
 ↑
Регистрация
Имя/email

Пароль

 
Войти при помощи
Alaric
24 июля 2020
Aa Aa
В первую очередь запись предназначена для поклонников книги Гарри Поттер и Методы Рационального Мышления, но, возможно, и другие люди найдут в ней что-нибудь интересное.

Для российского сообщества LessWrong я перевёл большой текст Элиезера Юдковского под названием "Лицензия героя".

Сюда я об этом пишу в первую очередь потому, что в этом тексте много авторской интроспекции на тему того, о чём он думал, когда создавал "ГПиМРМ", и о чём он не думал. Лично я оттуда вычитал некоторое количество интересных идей, которые можно применить к собственной жизни.

На всякий случай предупрежу, что если вы совсем не знаете, кто такой Юдковский и что такое "ГПиМРМ", то, наверное, начинать знакомиться с ними именно с этого текста вам будет не интересно.

#МРМ
24 июля 2020
20 комментариев из 46 (показать все)
Alaric
Упомяните фик Завязочки - получите результат плюс-минус тот же.
Дело будет не в "хейтерах Завязочки", а в том, что фики, вызывающие большие сожаления о потраченном времени (я не сожалел о чтении МрМ - см. научпоп), вызывают таки же сильные эмоции.
Desmоnd
Дело в том, что общение с хейтерами было для меня всё же дополнительным бонусом, а не основной целью :)
Из-за каких мыслей/идей/убеждений "появляется обсуждение"?
Из всех :)
Рекламная кампания у "Битлз" была никакая
да лан. билтломанию в виде девочковой истерии придумали газетчики для поднятия рейтинга неизвестной группе. а девки прочли газету с уткой и повелись.
тут хоть не дрочинг на родомагию.
зато понаписано столько,что перечитать невозможно. сколко глав в мрм?
Ближе к теме - вспомнилось, что в одном разговоре покойный Крылов утверждал, что _вся_ аналитическая философия от своего начала работает именно на проблему соответствия (или, емнип, в его формулировке - на создание ИИ, не имеющего политических интересов, отличных от интересов создателя)
Разговор (надо его запись на ютубе перенайти) места Эли в иерархии очевидным образом не касался.
Fluxius Secundus
Ближе к теме - вспомнилось, что в одном разговоре покойный Крылов утверждал, что _вся_ аналитическая философия от своего начала работает именно на проблему соответствия (или, емнип, в его формулировке - на создание ИИ, не имеющего политических интересов, отличных от интересов создателя)
А можно хотя бы примерно рассказать, каким образом она работает?
Alaric
Они там мельком затронули, кажется.
apraxis
начинаете понимать.
ГП-манию в виде родительской истерии "теперь мой тупенький ребенок будет ЧИТАТЬ и от этого ПОУМНЕЕТ" придумали издатели для поднятия продаж неизвестной книге. а родители прочли газету с рецензией и повелись.
ivan_erohin
Во всех знакомых мне случаях родители относились к книгам весьма скептично.
В одном -- и вовсе запрещали читать из религиозных соображений. Ребенка это не остановило, но факт.
Это о методе, а не о цели, пользуясь цитатой самого Крылова из беседы выше.
ivan_erohin
apraxis
начинаете понимать.
ГП-манию в виде родительской истерии "теперь мой тупенький ребенок будет ЧИТАТЬ и от этого ПОУМНЕЕТ" придумали издатели для поднятия продаж неизвестной книге. а родители прочли газету с рецензией и повелись.
я прочел в ОГоньке статью под названием "когда зачитывается корректор" и там был отрывок как Гарри спасал Джинни. мне было 24-25 лет. Я тогда Шекспира читал, "Король Генрих IV", там как раз был принц Гарри, на которого я был помешан и с сестрой написал пьесу - оммаж на Шекспира и одного там артиста, который в 60-70е играл этого принца Гарри в Питере в БДТ. А друг Витя подъ*бнул: на, почитай про ГАРРИ поттера. Ааа, я знаю, я в огоньке читал, хорошая книга. буду читать.
Fluxius Secundus
Интересно, спасибо. Кажется, он действительно въехал в проблематику вопроса сильнее многих. (Хотя, конечно, его рассуждения о долгосрочных планах у меня вызывают улыбку.)

Однако я бы предположил, что Юдковский сказал бы, что аналитическая философия действительно помогла сформулировать проблему соответствия (он, кстати, в Цепочках упоминает много людей, которые в упомянуты в англовики в статье про аналитическую философию), но за исключением этого вряд ли помогает её решить, потому что решение у этой задачи должно быть чисто техническое. В смысле, начиная с какого-то этапа чисто словесные абстрактные рассуждения перестают работать, нужно переходить к формализмам, про которые можно проверять, верно это или не верно.
Ну а тем временем я накатал пост, навеянный этим обсуждением.
https://fanfics.me/message465057
Desmоnd
Спасибо за поднятие интереса к МРМ :)
Alaric
Обращайтесь, лол.
Alaric
Не решить, но помочь решить она еще может, наверно.
У него отмечен еще один интересный момент - выделение областей инт. деятельности, не требующих и не включающих рекуррентного ИИ, и концентрация усилий именно на них.
ПОИСК
ФАНФИКОВ











Закрыть
Закрыть
Закрыть