Встречалось обычно в другом виде - как возможность путешествовать по выдуманным мирам. И там персонажи обычно спокойно относились к тому, что они придуманные. Потому что разницы-то все равно нет.

Скорее всего, программа сломается, взорвётся, самоуничтожится. Для этого достаточно немного запутать её вопросами, задать "не те", на которые она поймет, что ответов нет. Это нетрудно проверяется на людях: все сейчас по сути живут, как программы. В нас сейчас как раз и "заливают" черты личности, фразы, поступки, решения и реплики, желаемые кому-то, и т.д. Родителям, школе, системе. Человек не осознает этого и живёт в полной уверенности, что он такой и есть, это его желания, решения, слова. А они прописаны в подсознании, как на плёнку. Интересные картины происходят, если залезть немного "не туда", мимо программы, в подсознание. Человек может слететь с катушек, впасть в депрессию, в агрессию, истерику... Но человек - живой, поэтому у него есть шанс и море ресурсов. Он может осмыслить вбитую в него программу, отказаться от неё и выбрать собственный путь жизни, своё "я", а не навязанный шаблон. На крайняк - другую программу, если совсем невмочь. У чистой программы такого шанса нет - у неё ничего нет, кроме самой себя. Собственно, в этом никакой проблемы нет: если программа создана для какой-то цели и она выполняет эту цель, то какая разница, что она - программа? Она не расстроится. Скажем, робот - уборщик. Его цель - убирать, без разницы, в образе кого - Гендальфа или Поттера - он убирает, и в этом его смысл. А вот если цель программы быть именно Гендальфом и никакой другой цели, тогда осознав, что она - не Гендальф, программа придет в тупик, к своему концу. Это человек может расстроиться и сказать: "Ок, я не Гендальф, значит, а Вася... Что ж, будем учиться жить, как Вася". А в программе нет ничего, кроме "быть Гендальфом". Поэтому на любое доказательство противного она погибнет. Примерно такой сценарий. А доказать программе её несостоятельность - дело довольно простое. Она никогда не будет обладать таким многообразием данных, как живое существо. Последнее обладает бесконечным числом их, программа, даже самая крутая - очень ограниченным.

ХочуСказать
Когда это программы гибли от ошибок? Они максимум зависают. Чаще всего, до ребута.

Это же такое специфическое бессмертие получается.

ХочуСказать

Очень развёрнуто, спасибо!!

ХочуСказать
На каком основании такие выводы?

Lothraxi
Да, возможно и так. Она может перезапуститься по новой и играть своё, как заезженная пластинка, например. Можно даже залить в неё новой информации, чтобы она смогла ответить на те вопросы, на которые не смогла. Можно её совершенствовать и дорабатывать. Можно даже заложить в неё возможность совершенствоваться самой, насколько возможно. Хорошо прокачанная программа может быть намного умнее многих недалёких людей, и это она будет их заводить в тупик, а не они её. Можно даже заложить в программу что-нить типа цели - управлять людьми, вырубать людей. Она будет именно искать способы, как делать это. И это тоже всё есть и очень часто успешно сейчас функционирует.
А если цель программы - быть Гендальфом... Ну это такое себе. Если у её собеседника ум развит больше, чем у её создателя, то собеседнику либо станет скучно с ней общаться, и он уйдет, либо он её решит от скуки поломать. Вот для развлечения детей такие программы ещё можно запускать. Им просто прикольно видеть живого Гендальфа и развлекаться - и всё. Если стоит серьезная цель создания искусственной программы под стать реалистичному миру - тут всё намного сложнее, ибо нюансов слишком много. И то, над чем бился много лет институт японских учёных, может легко поломать какой-нить Вася своим вопросом "не в тему", который взбрел ему в голову.

FluktLight
На основании практики жизни.

Если нисходящий ИИ то ему будет все равно Гендальф он или нет...
Это просто имитация Гендальфа...
Да и вряд-ли осознание восходящих ИИ теми что они ИИ вызовет стирание кода...
Да и при разработке наверняка были сделаны способы вывести ИИ из зацикливания...

ХочуСказать
Вы являетесь компьютерным инженером?

Проскурин. "Хоббит, который познал истину". Начать можно с первой книги, "Хоббит, который слишком много знал".

Для начала, Гэндальф вообще не поймет, чем вы его обозвали. Что за "программа" такая?

reuth
Магическая подделка

FluktLight
Вы мене Гендальфа предъявите, а потом уж, как говорится, дипломы спрашивайте)))) О сферическом коне в вакууме, который ещё никуда не прискакал, говорить смысла не имеет.

ХочуСказать
Ну и где же ваш Гендальф?

Чот мне вспоминаются портреты ГПешные.

FluktLight
Понятия не имею, он вам зачем? Вы то всё к чему спрашиваете?)))

ХочуСказать
Хочет показать, что вы не специалист...
Он всегда так делает...
Когда с ним не согласны...

(Хотя, вот честно, ставил бы обычные точки, было бы внушительней.)

Серебряков в "Лунной сонате для бластера" "залил" Профессора. Реконструкция личности, всё такое прочее - тем более что материалов всё же больше, чем по Гендальфу.

Marlagram

и как получилось?

AmScriptor
Персонаж второго плана, ИИ, искусственная личность...
Рекомендую к прочтению, кстати.