↓
 ↑
Регистрация
Имя/email

Пароль

 
Войти при помощи
Alaric
24 июля 2020
Aa Aa
В первую очередь запись предназначена для поклонников книги Гарри Поттер и Методы Рационального Мышления, но, возможно, и другие люди найдут в ней что-нибудь интересное.

Для российского сообщества LessWrong я перевёл большой текст Элиезера Юдковского под названием "Лицензия героя".

Сюда я об этом пишу в первую очередь потому, что в этом тексте много авторской интроспекции на тему того, о чём он думал, когда создавал "ГПиМРМ", и о чём он не думал. Лично я оттуда вычитал некоторое количество интересных идей, которые можно применить к собственной жизни.

На всякий случай предупрежу, что если вы совсем не знаете, кто такой Юдковский и что такое "ГПиМРМ", то, наверное, начинать знакомиться с ними именно с этого текста вам будет не интересно.

#МРМ
24 июля 2020
23 комментариев из 46 (показать все)
DarkFace
Поскольку я в душе всё же немножечко "тролль", я отвечу :)

Я вчера был не слишком уверен, стоит вообще писать об этом переводе на этом ресурсе или не стоит. Я сюда зашёл и мне, как переводчику МРМ, прилетело уведомление о том, что МРМ упомянуто в одной дискуссии. Ну и я заглянул туда. Не то, что бы я сильно одобрял упоминание МРМ в том контексте, но ваше выступление подтолкнуло меня, что, конечно же, о том, что связано с МРМ, здесь обязательно нужно писать. Как же можно лишать таких ярых хейтеров их предмета "обожания"? :)
Desmоnd Онлайн
Alaric
Ну, то есть, мне, конечно, жаль, что ваши ожидания не оправдались, но я всё равно ничего с этим сделать не могу.
Если вы найдёте где-нибудь в моих комментах, что я вас прошу что-то с этим сделать - я извинюсь и отредактирую коммент. Но, сами понимаете, вы упомянули фик в посте и, как водится в интернетах, появилось обсуждение.

То, что у меня не оправдались ожидания - это для меня не проблема.
Да, есть сожаление, что хорошая идея спущена в унитаз, но сама идея - это такое, важна реализация.
То, что у произведения, несмотря на вот такие вопиющие недостатки есть куча поклонников - ну, это тоже естественно. Народ любит, когда "герой нагибает" и "учит всех ссать стоя", многочисленные нагибаторы и сьюхи всех мастей существуют в таких количествах, что сетовать на существование ещё одного - это, по крайней мере, странно. Этот хоть оригинальный, плюс очень, если забить на сюжет и причинно-следственные связи, там есть очень много интересного научпопа, который я люблю. Эта сьюха хоть оригинальна, тут хоть не дрочинг на родомагию.
Desmоnd
Но, сами понимаете, вы упомянули фик в посте и, как водится в интернетах, появилось обсуждение.
Понимаете, я не против обсуждения. Мне умеренно любопытно, зачем люди в нём участвуют и не могу ли я из этого узнать что-то новое :)

Ну, то есть, я был уверен, что тут будет какое-то количество хейтеров (см. один из моих комментариев выше). Однако фраза "появилось обсуждение" (в таком безличном виде) вызывает впечатление, будто мы тут обсуждаем эдакий "павловский рефлекс": мол, человек написал что-то хорошее об МРМ, вот хейтеры и набежали, это ж рефлекс, они себя не контролируют :) Но поскольку я в целом думаю хорошо о людях, мне иногда становится любопытно, а что же там дальше-то? Из-за каких мыслей/идей/убеждений "появляется обсуждение"?
Desmоnd Онлайн
Alaric
Упомяните фик Завязочки - получите результат плюс-минус тот же.
Дело будет не в "хейтерах Завязочки", а в том, что фики, вызывающие большие сожаления о потраченном времени (я не сожалел о чтении МрМ - см. научпоп), вызывают таки же сильные эмоции.
Desmоnd
Дело в том, что общение с хейтерами было для меня всё же дополнительным бонусом, а не основной целью :)
Из-за каких мыслей/идей/убеждений "появляется обсуждение"?
Из всех :)
Рекламная кампания у "Битлз" была никакая
да лан. билтломанию в виде девочковой истерии придумали газетчики для поднятия рейтинга неизвестной группе. а девки прочли газету с уткой и повелись.
тут хоть не дрочинг на родомагию.
зато понаписано столько,что перечитать невозможно. сколко глав в мрм?
Ближе к теме - вспомнилось, что в одном разговоре покойный Крылов утверждал, что _вся_ аналитическая философия от своего начала работает именно на проблему соответствия (или, емнип, в его формулировке - на создание ИИ, не имеющего политических интересов, отличных от интересов создателя)
Разговор (надо его запись на ютубе перенайти) места Эли в иерархии очевидным образом не касался.
Fluxius Secundus
Ближе к теме - вспомнилось, что в одном разговоре покойный Крылов утверждал, что _вся_ аналитическая философия от своего начала работает именно на проблему соответствия (или, емнип, в его формулировке - на создание ИИ, не имеющего политических интересов, отличных от интересов создателя)
А можно хотя бы примерно рассказать, каким образом она работает?
Alaric
Они там мельком затронули, кажется.
apraxis
начинаете понимать.
ГП-манию в виде родительской истерии "теперь мой тупенький ребенок будет ЧИТАТЬ и от этого ПОУМНЕЕТ" придумали издатели для поднятия продаж неизвестной книге. а родители прочли газету с рецензией и повелись.
ivan_erohin
Во всех знакомых мне случаях родители относились к книгам весьма скептично.
В одном -- и вовсе запрещали читать из религиозных соображений. Ребенка это не остановило, но факт.
Это о методе, а не о цели, пользуясь цитатой самого Крылова из беседы выше.
ivan_erohin
apraxis
начинаете понимать.
ГП-манию в виде родительской истерии "теперь мой тупенький ребенок будет ЧИТАТЬ и от этого ПОУМНЕЕТ" придумали издатели для поднятия продаж неизвестной книге. а родители прочли газету с рецензией и повелись.
я прочел в ОГоньке статью под названием "когда зачитывается корректор" и там был отрывок как Гарри спасал Джинни. мне было 24-25 лет. Я тогда Шекспира читал, "Король Генрих IV", там как раз был принц Гарри, на которого я был помешан и с сестрой написал пьесу - оммаж на Шекспира и одного там артиста, который в 60-70е играл этого принца Гарри в Питере в БДТ. А друг Витя подъ*бнул: на, почитай про ГАРРИ поттера. Ааа, я знаю, я в огоньке читал, хорошая книга. буду читать.
Fluxius Secundus
Интересно, спасибо. Кажется, он действительно въехал в проблематику вопроса сильнее многих. (Хотя, конечно, его рассуждения о долгосрочных планах у меня вызывают улыбку.)

Однако я бы предположил, что Юдковский сказал бы, что аналитическая философия действительно помогла сформулировать проблему соответствия (он, кстати, в Цепочках упоминает много людей, которые в упомянуты в англовики в статье про аналитическую философию), но за исключением этого вряд ли помогает её решить, потому что решение у этой задачи должно быть чисто техническое. В смысле, начиная с какого-то этапа чисто словесные абстрактные рассуждения перестают работать, нужно переходить к формализмам, про которые можно проверять, верно это или не верно.
Desmоnd Онлайн
Ну а тем временем я накатал пост, навеянный этим обсуждением.
https://fanfics.me/message465057
Desmоnd
Спасибо за поднятие интереса к МРМ :)
Desmоnd Онлайн
Alaric
Обращайтесь, лол.
Alaric
Не решить, но помочь решить она еще может, наверно.
У него отмечен еще один интересный момент - выделение областей инт. деятельности, не требующих и не включающих рекуррентного ИИ, и концентрация усилий именно на них.
ПОИСК
ФАНФИКОВ







Закрыть
Закрыть
Закрыть