 В первую очередь запись предназначена для поклонников книги Гарри Поттер и Методы Рационального Мышления, но, возможно, и другие люди найдут в ней что-нибудь интересное.
Для российского сообщества LessWrong я перевёл большой текст Элиезера Юдковского под названием "Лицензия героя". Сюда я об этом пишу в первую очередь потому, что в этом тексте много авторской интроспекции на тему того, о чём он думал, когда создавал "ГПиМРМ", и о чём он не думал. Лично я оттуда вычитал некоторое количество интересных идей, которые можно применить к собственной жизни. На всякий случай предупрежу, что если вы совсем не знаете, кто такой Юдковский и что такое "ГПиМРМ", то, наверное, начинать знакомиться с ними именно с этого текста вам будет не интересно. #МРМ 24 июля 2020
11 |
|
|
|
Fluxius Secundus
Ближе к теме - вспомнилось, что в одном разговоре покойный Крылов утверждал, что _вся_ аналитическая философия от своего начала работает именно на проблему соответствия (или, емнип, в его формулировке - на создание ИИ, не имеющего политических интересов, отличных от интересов создателя) А можно хотя бы примерно рассказать, каким образом она работает? |
|
 |
|
|
Alaric
Они там мельком затронули, кажется. |
|
|
|
 |
|
|
apraxis
начинаете понимать. ГП-манию в виде родительской истерии "теперь мой тупенький ребенок будет ЧИТАТЬ и от этого ПОУМНЕЕТ" придумали издатели для поднятия продаж неизвестной книге. а родители прочли газету с рецензией и повелись. |
|
 |
|
|
ivan_erohin
Во всех знакомых мне случаях родители относились к книгам весьма скептично. В одном -- и вовсе запрещали читать из религиозных соображений. Ребенка это не остановило, но факт. |
|
|
|
|
|
|
Это о методе, а не о цели, пользуясь цитатой самого Крылова из беседы выше.
|
|
 |
|
|
ivan_erohin
apraxis я прочел в ОГоньке статью под названием "когда зачитывается корректор" и там был отрывок как Гарри спасал Джинни. мне было 24-25 лет. Я тогда Шекспира читал, "Король Генрих IV", там как раз был принц Гарри, на которого я был помешан и с сестрой написал пьесу - оммаж на Шекспира и одного там артиста, который в 60-70е играл этого принца Гарри в Питере в БДТ. А друг Витя подъ*бнул: на, почитай про ГАРРИ поттера. Ааа, я знаю, я в огоньке читал, хорошая книга. буду читать.начинаете понимать. ГП-манию в виде родительской истерии "теперь мой тупенький ребенок будет ЧИТАТЬ и от этого ПОУМНЕЕТ" придумали издатели для поднятия продаж неизвестной книге. а родители прочли газету с рецензией и повелись. 1 |
|
|
|
|
Fluxius Secundus
Интересно, спасибо. Кажется, он действительно въехал в проблематику вопроса сильнее многих. (Хотя, конечно, его рассуждения о долгосрочных планах у меня вызывают улыбку.) Однако я бы предположил, что Юдковский сказал бы, что аналитическая философия действительно помогла сформулировать проблему соответствия (он, кстати, в Цепочках упоминает много людей, которые в упомянуты в англовики в статье про аналитическую философию), но за исключением этого вряд ли помогает её решить, потому что решение у этой задачи должно быть чисто техническое. В смысле, начиная с какого-то этапа чисто словесные абстрактные рассуждения перестают работать, нужно переходить к формализмам, про которые можно проверять, верно это или не верно. |
|
 |
Desmоnd Онлайн
|
|
Ну а тем временем я накатал пост, навеянный этим обсуждением.
https://fanfics.me/message465057 |
|
|
|
|
Desmоnd
Спасибо за поднятие интереса к МРМ :) |
|
|
Desmоnd Онлайн
|
|
Alaric
Обращайтесь, лол. |
|
|
|
|
Alaric
Не решить, но помочь решить она еще может, наверно. У него отмечен еще один интересный момент - выделение областей инт. деятельности, не требующих и не включающих рекуррентного ИИ, и концентрация усилий именно на них. |
|
Включить тёмную тему
Популярное
VKontakte
WhatsApp
Telegram
Отключить рекламу
