Гарри Поттер и Методы Рационального Мышления (джен)

Зачем кому-то личность? Мы слишком долго накапливаем и изучаем, тогда как машина копирует моментально. Если создать ИИ, то у "него" не будет личности. Это будет просто разум с безграничным потоком информации, Надмозгом сети.
Должна быть какая-то простая схема в создании ИИ, чтобы он просто делал выводы и продолжал обрабатывать информацию, снова делал выводы и т.д. Тогда он пусть и будет супер интеллектом без личности, но зато никакого вреда никому не нанесет, ибо собственной волей, которая у нас основана на эмоциях, обладать не будет.
Всезнающий ИИ - скоро в реальности! :)

Всезнающий, находящийся повсюду ИИ. Да, и если гипотеза агрессии происходящей от недостатка ума верна, то еще и обладающий высшей степенью дружественности и человеколюбия.

Никого не напоминает? ;)

Добавлено 12.02.2015 - 05:02:
Alaric

Новая для меня мысль: сама постановка вопроса в терминах "оригинал"-"копия" теряет смысл, если объединять опыт каждого себя .
Т.е. сейчас я ощущаю и помню то, что ощущает и помнит мое единственное тело, вот я себя с ним и отождествляю. А если я буду ощущать все свои тела и помнить опыт каждого тела, сознания которых будут единым, то...

Wasteomind, кота Леопольда)

...то вы перестанете быть человеком, как ни жаль.

почему перестану? Кем же я стану быть тогда? И почему это плохо? ))

Нет, если опыт и ощущения объединяются, то тут никаких вопросов нет. Однако, пока совершенно непонятно, почему, если мы создаём копию человека, то опыт и ощущения будут объединяться. Вроде бы в человеке пока не найдено органов, которые за это бы отвечали :)

Wasteomind, плохо или нет - вам решать, это ведь субъективная оценка.



То ж в человеке. А цифровая копия останется человеком только в том случае, если сам процесс не изменится. Как в фильме "13-й этаж" - виртуальная реальность, неотличимая от настоящей. Человек мыслит так, как он мыслил бы настоящим мозгом в действительности. А если закономерности процесса меняются, то разве субъект - человек? Даже киборги не являются людьми, хотя, имхо, если у киборга человеческий мозг, то он вполне человек.

madness
"Есть, кстати, фильм на тему создания цифровых людей. В общем-то, в фильме цифровые люди не знали о том, что они не настоящие и жили в виртуальном мире. "Тринадцатый этаж", кажется.
А с другой стороны, как знать, настоящие ли мы))"

Этот фильм снят по книге "Симулятрон" или как-то так, Гарри ее упоминает в фике)
________

А что собственно такое человек? Есть ведь несколько вариантов ответа на этот вопрос, человек - биологический вид Хомо Сапиенс, и философское - человек как "человечный", тот кто ведет себя человечно, т.е. имеет ряд характеристик, таких как мораль, эмоции, разум и т.п.

В первом случае, конечно же электронная личность уже не биологический вид, но что мешает назвать электронную жизнь чем-то вроде "Хомо Сапиенс Электроникус"?))

Во втором случает, электронная личность безусловно человек.

Добавлено 14.02.2015 - 11:31:
Кроме того, я не совсем понимаю, как капия человеческого мозга, вдруг поймет как пользоваться электронными причандалами, такими как ведеокамера где-то на другом конце света, или как ей путешествовать по сети, говорить через динамик. Если ее просто засунуть в комп, она очнется в абсолютной темноте, и будет думать что она глухо-немо-слепая и парализованная в придачу, так как кроме как думать, ничего не может сделать, не умеет, мозг посылает сигналы мышцам, копия электронного мозга будет стараться делать тоже самое, а не вмешиваться в работу программного кода. Поэтому мне кажется от механической копии тела вряд ли возможно отказаться, разве что писать сначала среду а-ля матрица, такую себе админку, где личность будет ощущать себя в привычном человеческом теле, и управлять электроникой во внешнем мире из некой виртуальной комнатки с пультом. Но это лишнее усложнение, проще все же создать киборга, в который всунуть электронный мозг. Да и чувствовать себя такая личность будет вряд ли уютно, сидя в подобии тюрьмы))

Думаю, чтобы копию засунуть в комп, нужно создать эту копию в том виде, чтобы она могла полноценно функционировать в компе. Плюс сам комп должен обеспечивать эту возможность: в нем должен быть виртуальный мир, идентичный нашему, либо какая-то сложная комбинация миров, дающая в совокупности ощущение реальности.
Быть может когда-нибудь появятся датчики, которые будут снимать все показания с человека и отправлять на обработку, и программки, обрабатывающие эти данные и конвертирующие их в функциональный модуль, который и будет копией человека (как-то так).
Но пока что, имхо, это фантастика. Хотя, помечтать все же можно.

Да, есть несколько способов существования. Создать под копию тело, тогда жизнь будет в реале. Или создать под нее виртуальный/частично виртуальный мир. Но если ее свойства будут отличаться от исходника, это будет не копия, или вовсе не человек, если свойства выйдут за рамки человеческих.

Добавлено 14.02.2015 - 13:36:
И да, в будущем при определении, что собственно есть человек, лучше пользоваться всем известными понятиями - область определения и область значения функции. Точно, надежно, однозначно.

На протяжении первых 50 глав было желание распороть горло Грейнжер. Воткнуть ей в лицо стальной штырь и вытянуть его из черепа.

kanob
Да лаадно, никак не пойму, чем она может раздражать, нет, ну чем?
Да еще чтоб такие кровожадные мысли вызывать

Физматик
Видимо, количеством штампов в её сознании. Многие другие персонажи могут раздражать не меньше, если на них смотреть с этой точки зрения.

Буйно цветут в людях когнитивные искажения - как и в нашей реальности :)

Впрочем, надо отметить, что после этого фанфика другие читаются намного труднее - не тот уже уровень проработки персонажей и их мира, сразу видишь нехватку качества.

И да, братья и сёстры, а почему в шапке так и не поставили предупреждение "смерть персонажа"?

действительно, затянут чуток!

Но написано великолепно!
Спасибо за перевод!

>>> И да, братья и сёстры, а почему в шапке так и не поставили предупреждение "смерть персонажа"?

этот фик слишком хорош чтобы его спойлерить

Alexey_F
на счет предупреждения, может это еще не окончательно, ведь Юдковский нам обещал alicorn-princess, что бы это ни значило.

104
http://hpmor.com/chapter/104

Уф... началось! И сразу с места в карьер. Саспенс уже на уровне Стэнфордской арки, ружья стреляют батареями, а венчает картину демонстрация рациональных методов в действии - мы по ней и так порядком соскучились, а тут еще и на доселе невиданном уровне. И так целый месяц подряд? Да мы в раю!

Sithoid
Так-то оно так, ходы весьма интересные, но финальное озарение выглядит слегка натянуто, учитывая, что по-хорошему оно должно было случиться если не в первый день, то сразу после Азкабана.

nadeys
Это, конечно, довольно-таки унылый аргумент, но есть пара знакомых людей, которые фики с подобным предупреждением принципиально не читают, а встречая без предупреждения, закрывают навсегда, не дочитывая.
К слову, у себя подобную реакцию заметил на категорию "слэш" и, соответственно, неправильно выставленную категорию, т.е.: читаю "джен"/"гет" -> в тексте внезапно вижу "слэш" -> ставлю метку "не читать" и закрываю.
Учитывая количество людей, которые заявляли, что начали читать статьи на lesswrong после прочтения ГПиМРМ, было бы опрометчиво создавать ложное впечатление всего лишь из-за шапки фанфика. (Могу раскрыть эту мысль подробнее, если нужно.)

Физматик
Да, но подобное предупреждение есть и у кучи фиков, где герои потом воскресают/перерождаются/переносятся во времени/и т.д, т.е. не остаются мертвы к концу текста.

Qazan
Остаётся только надеяться, что "потом нам всё логично объяснят". (Сарказм, да. Э.Ю. упоминал о своём неприятии "скрытых литературных трюков" - но, возможно, в итоге, сам не смог без них.)
Ну или вдруг выяснится, что эта ситуация нужна для проверки мастерства читателя в осознании своего замешательства - если вдруг объяснение не будет содержать "литературной магии".

Alexey_F
в общем я конечно согласен. Не хотелось бы распугивать читателей из-за такой мелочи.
Но есть важная деталь - если уж читатель осилил 90 глав(!) то я не думаю что он станет бросать чтение из-за одного инцидента.
90 глав со всеми ружьями, отсылками, примерами рациональности и ссылками на книги и лессвронг он уже прочитал и вирус рациональности уже безвозвратно заразил его.

nadeys

Да, весьма вероятно, заразил. Речь, скорее, про сам факт наличия предупреждения. Моя аналогия весьма крива, но встретил бы слэш в ГПиМРМ, даже после 90 глав - закрыл бы немедленно, не раздумывая. И это при том, что читал статьи про сами МРМ ещё до того, как узнал о существовании этого фанфика.
А вот если бы было соответствующее предупреждение - возможно, превозмог бы в конкретном эпизоде свои генетически встроенные ментальные ограничители ради интересного сюжета.

Впрочем, это всё больше формальная придирка, основанная на личной статистике про реакцию окружающих людей, тоже читающих часто, много и разное, но не знакомых с идеями рационального мышления.

И да, с учётом "ружей, отсылок, примеров рациональности": ещё с 20-30х глав было (мне) более-менее очевидно (надеюсь на достаточно короткие понятийные расстояния), что драматичная смерть Г.Г. - мощное "топливо для двигателя сюжета", из-за отношения к ней Г.П., а дальнейшее развитие событий только укрепляло эту идею, и была большая надежда, что автор этим НЕ воспользуется, как слишком очевидным ходом, неоднократно испробованным предшественниками.

Кстати, лично знаю человека, который не будет читать самый красиво и интересно написанный текст, если узнает, что сюжет построен по шаблону "в общем, все умерли".
( posmotre.li/В_общем,_все_умерли )
Да и сам такое предпочитаю не читать.
Надеюсь, что не надо разъяснять про реакцию на автора, "забывшего" предупредить о таких особенностях своего творения.
(Да, я в курсе, что здесь перевод, но переводчика/издателя/рецензента/и т.д. это, IMHO, тоже касается.)

Извиняюсь за большие потоки букв по поводу, казалось бы, мелкого вопроса.
Считаю, что он важен: в свете убеждений автора исходного текста: "реальность не лжёт" - а в литературе, как события в тексте, так и сцепленные с ним объекты, такие как шапка перевода фанфика - и есть реальность. И ссылки на "исландскую правдивость" не работают, т.к. на ресурсах, подобных этому, чаще всего, неявно подразумевается, что отсутствие предупреждения о чём-либо означает отсутствие этого "чего-либо" в тексте.