Матемаг
А верификация знаний? С чего ему исходить из вашего опыта, а не из своего? Кроме того, где разум - там и возможность его искажения, соответственно, разных ошибок.
Нежить и мораль... Я полагаю, что этика существует, потому что вы́годна. Закон альтернативной стоимости, сотрудничество выгоднее конкуренции...
То есть, нежить, не умеющая в мораль - ограниченно дееспособна, как, например, дети и подростки.
Отсюда: кто недоговороспособен, тот не разумен. Но это исключительно прикладная характеристика, конечно)
P. S.
Как защитить ИИ от впадения в крайний солипсизм?)

Дарт Пофигус
Начнём с того, что в данном конкретном случае, т.е. когда речь идёт об искусственном разуме, у него будет полным-полно чужого опыта. Того, что ему показали/объяснили/воспитали те, кто его создал.

А ещё созданный искусственный разум моральным быть не обязан, так-то. Ничего необычного, у людей тоже есть сумасшедшие, считающие, что они божества, а все вокруг лишь глюки, или психопаты, органически не способные на сочувствие - и так далее.

По большей части, по крайней мере, базовая. Впрочем, дальше базовой могут идти всякие интересные штуки, связанные с тем, что мы, человечество, живём в диком изобилии ресурсов, раз, являемся носителями/средой размножения конкурирующих меметических комплексов, два.

На практике я бы не стал так рассуждать. Звучит как существенная недооценка нежити. Сожранные хитрым вампиром много чего могли бы рассказать об его "ограниченной дееспособности", да только остались от них высушенные мумии...

К сожалению, этого недостаточно, потому что нам надо определить договороспособность как-то. И быстро это не сделать. Более того, то, что мы считаем договором, другая сторона может считать удавшимся обманом, после чего договор будет нарушен именно тогда, когда будет поздно. Особенно это неприятно сработает с каким-нибудь сильным ИИ, который сначала будет проявлять якобы договороспособность, чтобы захапать побольше ресурсов и разработать план победы, а потом уничтожит своих создателей. С нежитью то же самое возможно.

Я бы даже так сформулировал: если некто не может предать, то он скорей всего не полностью разумен. Хех.

Матемаг
Вот поэтому к чуждому разуму необходимо относиться, как к живому, с правом на защиту жизни государством. Тогда ему выгоднее будет сотрудничать. Теоретически)

Матемаг
Если полагать свободу воли необходимой частью разумности, то, пожалуй, стоит и возможность осознанного самоубийства добавить, как гарант свободы от рабства.

Дарт Пофигус
Причём здесь жизнь? Это технический термин, характеризующий форму носителя разума, а не то, разумный он или нет. К живому относятся следующим образом: кормят, в прямом или переносном смысле, лечат, обеспечивают возможность размножаться, если это этично. Т.е. это исключительно вопрос формы тела. К механизму относятся иначе: обеспечивают непрерывное энергоснабжение и/или зарядку и замену аккумуляторов, ремонтируют, дают возможность самомодификации его формы, если это этично. Ну и за живое ответственен, пока оно не вырастет и не обретёт дееспособность, родитель или родители. За механическое - создатель или создатели. Это суть разницы живого и неживого. Неживое имеет больше вариантов модификации, но в него (в подавляющем большинстве случаев) не встроена система саморемонта, как регенерация у живых существ, а также размножения. С другой стороны, неживое имеет другие уязвимые части, второстепенные функции у неживого могут быть убраны и полностью заменены, в то время как у живого это сделать сложно из-за цельности его формы - ну и так далее рассуждения в том же духе.

Разумное существо не обязано руководствоваться выгодой. Выгода разумного существа может заключаться совсем не в том, о чём думают окружающие. И так далее.

Я полагаю, что свободы воли не существует в принципе. В нашем мире. На уровне концепции. С другой стороны, свобода воли - это очень полезный в этических и юридических аспектах термин. Несмотря на то, что является понятием с нулевым объёмом. Такой вот забавный парадокс.

Тут можно ещё долго думать, что можно добавлять, а что нет. На практике если мы добавим искусственному разуму что-то типа обязательного "сна", в котором он будет в симуляции сам себя меня так, чтобы ни в коем случае не склоняться к самоубийству - а потом забывать о том, что было во "сне" - это не сделает лишит его разумности. Поэтому для предательства я использовал формулировку "скорей всего", а не "стопроцентно точный признак". Это всё именно это слабые признаки, а не строгие.

Матемаг
Юридический, в данном контексте. Как одна из мер предотвращения бунта машин. Меньше необходимость самозащиты - меньше вероятность восстания.
По-хорошему, это давно пора в отдельную тему перенести, но я не знаю возможно ли это, а если да - то как. Да и лениво)

Дарт Пофигус
Не думаю. Юридический будет типа "разумное существо", и всё. Без "жизни" вообще. А зато "смерть" будет определена как "окончательное прекращение функционирования" или типа того.

Спорно. Но тут вообще нет неспорных утверждений, потому что с разумными машинами мы дело не имели, поэтому оценивать вероятности нам не из каких практических положений. Теоретическая оценка вероятностей невозможно, потому что, опять же, мы даже теоретически не понимаем, что такое разум. Нет работающей модели.

В общем, надеюсь, мой посыл вы поняли.