Гарри Поттер и Методы Рационального Мышления (джен)

То, что _часть_ причин, по которым кто-то кого-то называет другом, порождена предрассудками, не значит, что само понятие -- предрассудок. Вся эта радость про статистическое причинение блага -- не единственная причина и не единственное проявление дружественности.

Вспомним дилемму заключенного. Дружба -- это то, что помогает добиться оптимума.

Дружба -- многозначное слово. Понятное дело, что если вы сейчас сами додумаете детали определения, которым будете пользоваться, то окажется, что никакая "дружба" не нужна ИИ. Половина проблемы создания дружественного ИИ заключается как раз в определении того, что же такое "дружественный" (как, например, в криптографии половина проблемы состоит в определении того, что же такое "надежный" протокол). Это не так просто, неудивительно, что додуманные вами на ходу определения не работают. Но это не значит, что дружественность не нужна, это у вас определения не отражают сути.

Заходил разговор о чувствах и их влияниях на целеполагание, но, как я понимаю, это вообще уже не в ту степь. В общих чертах понятно, чего хочется от дружелюбного ИИ -- хочется, чтобы он не причинял вреда человечеству. Это очень размытое описание, в нем не очень понятно, что значит "причинять вред" и так далее. Его формализация -- это часть проблемы получения чего-то, подходящего под это определение.

И да, я намеренно чередую термины "дружба", "дружественность", "дружелюбность", дабы показать, что, по моему мнению, в данном обсуждении (но только в нем) они означают одно и то же.

[QUOTE=Sithoid,02.11.2014 в 17:13]
Я не поняла, здесь есть 102 главы, на данный момент написано 115, тогда где перевод остальных глав? и.т.?и когду будет, почуму статус сменился(? спс,заранее

Нужен не дружественный ИИ, а добродушный.

:–––––––––––)

Точно! ИИ с доброй душой - то что нужно )

Туяна
Автор у себя на сайте выложил 102 главы и они уже переведены, больше никаких глав в общем доступе нет.
Кроме того автор у себя на сайте выложил отчёт что он уже написал до 115 главы, но отказывается пока их выкладывать - хочет сначала дописать до конца и только потом разом всё выложить

Добавлено 12.11.2014 - 19:55:

"Во имя всеобщего блага я объявляю Exterminatus Diabolis!"

Во-первых, это гипотеза. Во-вторых, кто знает, что она показывает на Квиррелла.


Эм-м... Вообще-то там одной манеры поведения достаточно :) Но чувство тревоги Гарри - это не боязнь профессора, это ощущение, что если он приблизится к Квирреллу слишком близко, то произойдёт что-то ужасное. Причём это ощущение идёт поперёк всем желаниям Гарри, в некоторых ситуациях он бы и рад приблизиться, но не может.


Так он и не отправлял его к злой мачехе :) А пророчество - штука забавная, ещё непонятно, как его трактовать.


Я не склоняюсь ни к какой версии по этому поводу.


Вообще-то Гарри свою Тёмную сторону изучал даже без Квиррелла.
И кроме того:

"Мне кажется, во всём виновата моя загадочная тёмная сторона.
Наступила тишина.
— Ваша... тёмная сторона...
Гарри приподнялся. На лице профессора Квиррелла было очень странное, непонятное выражение, которое никак ему не соответствовало."

Как вы думаете, о чём подумал профессор Квиррелл?

Что, если «темная сторона Гарри» — крестраж, который намеренно поместил в него Квирре-Волди в 81? Тогда и ясно, о чем подумал профессор.

А по-моему то что гарри назвал своей темной стороной - это его подавленные эмоции, хотя родители у него были не злые, я думаю методы воспитания у профессора могли быть своеобразные. Может быть это его старое я, если предположить что ему стирали память. Думаю психологи нашли бы ему вполне рациональное объяснение.



При первой встрече Дамблдор просит прощение за злых родителей, так что возможно отправлял.

Карта - гипотеза, но согласитесь если этого механизма не придумали сами основатели или бывшие директора школы, додумались ли до них четыре шутника? Вероятность не кажется очень большой.

Ох... сложный фанфик... я прочитал его залпом, что я не должен был делать... тяжело мыслить. На сколько я знаю, автор американский ученый? Или я ошибаюсь? Видимо я чувствительный человек. Пишу просто для успокоения. ФАНФИК, который выше уровнем, в отличии от тех книг, которые продаются сейчас миллионными тиражами за большие деньги... хотя, Гюго или Пушкин не писали ради денег. Видимо в этом причина. Этот фанфик действительно сложно читать и понимать.
Не знаю, сколько еще осталось глав до Финала, но я оказался слаб для него. Пожалуй, оставлю его на время. Лучше лет на 30. И вернусь.

не соглашусь. читается он достаточно легко - и в этом его несомненный плюс.

насчёт гюго не ручаюсь, но пушкин точно писал ради денег (в том плане, что "но можно рукопись продать"). другое дело, что деньги за работу брать никто не запрещал, в чём бы эта работа не состояла.

Весьма необычный сюжет))) с неожиданными заворотами на пути))).Очень грамотно и красиво написано! Отличный перевод! Всем советую прочитать!

Я давно не заходил и так получилось, что +200 комментов тут набралось в самом интересном моменте с последней главой.
Квиррел к ней понял точку зрения физика и об этом сообщил ГП, но не пояснил, в чем она и почему исходя из неё следовало бы провести эксперимент с чем бы там ни было, прежде чем делать.
Точка же зрения простая. Мы появляемся в месте, которое не создавали. Наше окружение сообщает, что это место создал "кто-то" до нас и мы восхищаемся им, его возможностями, превышающими наши.
Всё это выглядит логичным(!) и мы верим(!) в Б-га по умолчанию.

Но физик не верит, сомневается и отделяет себя от мира, исследуя мир и себя отдельно. Физик знает, что мир сложнее, чем кажется и убеждается в этом. Убеждается и в том, что "логика" мира отлична от его логики. Это вызывает непонимания у большинства сородичей по стаду, ведь те считают, что они - центр всего - а значит и все вокруг создано разумом Бога, который создал их по своему образу и подобию.

Исключая эго из познания мир выглядит странно нелогичным, поэтому остается только проводить эксперименты, и выяснять на своем опыте, как на самом деле работает то, что мы видим и не видим(!).
Квиррел же, судя по его осознанию, верил в великие древние знания, а потому не сомневался в работе части магии до определенного момента. А потом прозрел и понял, что ошибался, считая себя самым умным, умнее Вселенной.

Забавно, но может моя догадка и не верна, кто знает о чем Юдковский умолчал устами персонажа.


Для вашего удобства, читатель :) Речь, я думаю, о крестраже.

kinmy
вы так говорите как будто вера в бога это что-то плохое)

Скорость восприятия нами информации слишком низкая, память короткая, а жизнь конечна.
Если кто и может утвердительно ответить на вопрос, есть Некто или нет, то только тот, кто познает все секреты Вселенной, а до этого пока далеко :)
Можем лишь делать ставки и продолжать жить. Если я ошибаюсь - хорошо, а если нет, то сейчас я проживаю жизнь так, как мне бы хотелось, не жалея ни о чем - смерть одинакова для всех.

http://goo.gl/5mn1Rs
Перевод “Yudkowsky’s Abridged Guide to Intelligent Characters”

DarkCarol
многалайков

DarkCarol
Спасибо большое))))

Юдковский написал в финальной арке 76,800 слов и закончил 117 главу (всего будет 120), также он хорошенько отредактировал предыдущие главы - это хорошие новости. Плохие новости - автор планирует начать постить финальную арку только в феврале, да и то, не факт, что в феврале: по его словам, выкладывать концовку он начнет только тогда, когда полностью допишет черновик. Но давайте будем оптимистичными и легкомысленно понадеемся, что Юдковский во время зимних праздников будет строчить проду, а не отдыхать :)

Интересно -- политика, это то , что оттачивало интеллект человека тысячелетиями, и в то же время сознание,заточенное на политику чуть меньше,чем полностью, подменяет реальность стереотипами.
DarkCarol , спасибо за ссылку.

Vitiaco
Про взаимоотношение реальности и содержания сознания можно узнать в статье "Думай как реальность", про стереотипы в "Запасённые мысли" на http://lesswrong.ru.
То, что описали вы действительно интересно, но автор видит эти проблемы несколько иначе.