Гарри Поттер и Методы Рационального Мышления (джен)

Недостижимо. Копирование сложной структуры - не атомарная операция. Пока происходит копирование следующих частей - уже скопированные успевают измениться. Можно рассуждать лишь о том, насколько близка копия к оригиналу.

Зачем кому-то личность? Мы слишком долго накапливаем и изучаем, тогда как машина копирует моментально. Если создать ИИ, то у "него" не будет личности. Это будет просто разум с безграничным потоком информации, Надмозгом сети.
Должна быть какая-то простая схема в создании ИИ, чтобы он просто делал выводы и продолжал обрабатывать информацию, снова делал выводы и т.д. Тогда он пусть и будет супер интеллектом без личности, но зато никакого вреда никому не нанесет, ибо собственной волей, которая у нас основана на эмоциях, обладать не будет.
Всезнающий ИИ - скоро в реальности! :)

Всезнающий, находящийся повсюду ИИ. Да, и если гипотеза агрессии происходящей от недостатка ума верна, то еще и обладающий высшей степенью дружественности и человеколюбия.

Никого не напоминает? ;)

Добавлено 12.02.2015 - 05:02:
Alaric

Новая для меня мысль: сама постановка вопроса в терминах "оригинал"-"копия" теряет смысл, если объединять опыт каждого себя .
Т.е. сейчас я ощущаю и помню то, что ощущает и помнит мое единственное тело, вот я себя с ним и отождествляю. А если я буду ощущать все свои тела и помнить опыт каждого тела, сознания которых будут единым, то...

Wasteomind, кота Леопольда)

...то вы перестанете быть человеком, как ни жаль.

почему перестану? Кем же я стану быть тогда? И почему это плохо? ))

Нет, если опыт и ощущения объединяются, то тут никаких вопросов нет. Однако, пока совершенно непонятно, почему, если мы создаём копию человека, то опыт и ощущения будут объединяться. Вроде бы в человеке пока не найдено органов, которые за это бы отвечали :)

Wasteomind, плохо или нет - вам решать, это ведь субъективная оценка.



То ж в человеке. А цифровая копия останется человеком только в том случае, если сам процесс не изменится. Как в фильме "13-й этаж" - виртуальная реальность, неотличимая от настоящей. Человек мыслит так, как он мыслил бы настоящим мозгом в действительности. А если закономерности процесса меняются, то разве субъект - человек? Даже киборги не являются людьми, хотя, имхо, если у киборга человеческий мозг, то он вполне человек.

madness
"Есть, кстати, фильм на тему создания цифровых людей. В общем-то, в фильме цифровые люди не знали о том, что они не настоящие и жили в виртуальном мире. "Тринадцатый этаж", кажется.
А с другой стороны, как знать, настоящие ли мы))"

Этот фильм снят по книге "Симулятрон" или как-то так, Гарри ее упоминает в фике)
________

А что собственно такое человек? Есть ведь несколько вариантов ответа на этот вопрос, человек - биологический вид Хомо Сапиенс, и философское - человек как "человечный", тот кто ведет себя человечно, т.е. имеет ряд характеристик, таких как мораль, эмоции, разум и т.п.

В первом случае, конечно же электронная личность уже не биологический вид, но что мешает назвать электронную жизнь чем-то вроде "Хомо Сапиенс Электроникус"?))

Во втором случает, электронная личность безусловно человек.

Добавлено 14.02.2015 - 11:31:
Кроме того, я не совсем понимаю, как капия человеческого мозга, вдруг поймет как пользоваться электронными причандалами, такими как ведеокамера где-то на другом конце света, или как ей путешествовать по сети, говорить через динамик. Если ее просто засунуть в комп, она очнется в абсолютной темноте, и будет думать что она глухо-немо-слепая и парализованная в придачу, так как кроме как думать, ничего не может сделать, не умеет, мозг посылает сигналы мышцам, копия электронного мозга будет стараться делать тоже самое, а не вмешиваться в работу программного кода. Поэтому мне кажется от механической копии тела вряд ли возможно отказаться, разве что писать сначала среду а-ля матрица, такую себе админку, где личность будет ощущать себя в привычном человеческом теле, и управлять электроникой во внешнем мире из некой виртуальной комнатки с пультом. Но это лишнее усложнение, проще все же создать киборга, в который всунуть электронный мозг. Да и чувствовать себя такая личность будет вряд ли уютно, сидя в подобии тюрьмы))

Думаю, чтобы копию засунуть в комп, нужно создать эту копию в том виде, чтобы она могла полноценно функционировать в компе. Плюс сам комп должен обеспечивать эту возможность: в нем должен быть виртуальный мир, идентичный нашему, либо какая-то сложная комбинация миров, дающая в совокупности ощущение реальности.
Быть может когда-нибудь появятся датчики, которые будут снимать все показания с человека и отправлять на обработку, и программки, обрабатывающие эти данные и конвертирующие их в функциональный модуль, который и будет копией человека (как-то так).
Но пока что, имхо, это фантастика. Хотя, помечтать все же можно.

Да, есть несколько способов существования. Создать под копию тело, тогда жизнь будет в реале. Или создать под нее виртуальный/частично виртуальный мир. Но если ее свойства будут отличаться от исходника, это будет не копия, или вовсе не человек, если свойства выйдут за рамки человеческих.

Добавлено 14.02.2015 - 13:36:
И да, в будущем при определении, что собственно есть человек, лучше пользоваться всем известными понятиями - область определения и область значения функции. Точно, надежно, однозначно.

На протяжении первых 50 глав было желание распороть горло Грейнжер. Воткнуть ей в лицо стальной штырь и вытянуть его из черепа.

kanob
Да лаадно, никак не пойму, чем она может раздражать, нет, ну чем?
Да еще чтоб такие кровожадные мысли вызывать

Физматик
Видимо, количеством штампов в её сознании. Многие другие персонажи могут раздражать не меньше, если на них смотреть с этой точки зрения.

Буйно цветут в людях когнитивные искажения - как и в нашей реальности :)

Впрочем, надо отметить, что после этого фанфика другие читаются намного труднее - не тот уже уровень проработки персонажей и их мира, сразу видишь нехватку качества.

И да, братья и сёстры, а почему в шапке так и не поставили предупреждение "смерть персонажа"?

действительно, затянут чуток!

Но написано великолепно!
Спасибо за перевод!

>>> И да, братья и сёстры, а почему в шапке так и не поставили предупреждение "смерть персонажа"?

этот фик слишком хорош чтобы его спойлерить

Alexey_F
на счет предупреждения, может это еще не окончательно, ведь Юдковский нам обещал alicorn-princess, что бы это ни значило.

104
http://hpmor.com/chapter/104

Уф... началось! И сразу с места в карьер. Саспенс уже на уровне Стэнфордской арки, ружья стреляют батареями, а венчает картину демонстрация рациональных методов в действии - мы по ней и так порядком соскучились, а тут еще и на доселе невиданном уровне. И так целый месяц подряд? Да мы в раю!

Sithoid
Так-то оно так, ходы весьма интересные, но финальное озарение выглядит слегка натянуто, учитывая, что по-хорошему оно должно было случиться если не в первый день, то сразу после Азкабана.

nadeys
Это, конечно, довольно-таки унылый аргумент, но есть пара знакомых людей, которые фики с подобным предупреждением принципиально не читают, а встречая без предупреждения, закрывают навсегда, не дочитывая.
К слову, у себя подобную реакцию заметил на категорию "слэш" и, соответственно, неправильно выставленную категорию, т.е.: читаю "джен"/"гет" -> в тексте внезапно вижу "слэш" -> ставлю метку "не читать" и закрываю.
Учитывая количество людей, которые заявляли, что начали читать статьи на lesswrong после прочтения ГПиМРМ, было бы опрометчиво создавать ложное впечатление всего лишь из-за шапки фанфика. (Могу раскрыть эту мысль подробнее, если нужно.)

Физматик
Да, но подобное предупреждение есть и у кучи фиков, где герои потом воскресают/перерождаются/переносятся во времени/и т.д, т.е. не остаются мертвы к концу текста.

Qazan
Остаётся только надеяться, что "потом нам всё логично объяснят". (Сарказм, да. Э.Ю. упоминал о своём неприятии "скрытых литературных трюков" - но, возможно, в итоге, сам не смог без них.)
Ну или вдруг выяснится, что эта ситуация нужна для проверки мастерства читателя в осознании своего замешательства - если вдруг объяснение не будет содержать "литературной магии".

Alexey_F
в общем я конечно согласен. Не хотелось бы распугивать читателей из-за такой мелочи.
Но есть важная деталь - если уж читатель осилил 90 глав(!) то я не думаю что он станет бросать чтение из-за одного инцидента.
90 глав со всеми ружьями, отсылками, примерами рациональности и ссылками на книги и лессвронг он уже прочитал и вирус рациональности уже безвозвратно заразил его.