финикийский_торговец комментирует: Матемаг Разница первоначальной реакции. Если у нас "действия", то сразу внешние запреты отменять, Д

24 июля 2017

Разница первоначальной реакции. Если у нас "действия", то сразу внешние запреты отменять,

Давайте пока опустим "внешние ресурсы" - это далеко не обязательное решение. Кроме того, нужно определит степень их "внешности" и само понятие "ресурса".

внешние ресурсы фоном прихватизировать, т.к. увеличивает автономность, а увеличение автономности соответствует даже самому узкому смыслу "действовать самостоятельно".

Само решение прихватизировать эти самые ресурсы должно же откуда-то прийти? Для начала оно должно быть одобрено как "своё". Т.е. сначала нужно ответить на этот вопрос, а уже потом поступать так или нет.

Для суждений - нет, переход к "самостоятельности от" не обязателен. На самом деле, формулировка лишь подразумевает более высокий приоритет своих суждений, но отнюдь не "безусловную власть".

"Твои суждения превалируют над данными других дроидов и разумных"

"Твои" - широко, наиболее размыто.

"Суждения" - широко, это и суждения о том, как следует поступать

"Превалируют" - широко, но достаточно ясно. С"воё" важнее "чужого"

над "данными" других дроидов и разумных - тут можно включить все мнения, мысли, идеи и приказы.

Например есть "данные" о том, что этот дроид должен выполнять некую работу ли подчиняться кому-либо. Его ли это данные?

И уж тем более не подразумевает отметание наработанного опыта, данных запретов, приказов и так далее. ИИ их приостановит, вероятно. Но вряд ли отменит. В смысле, я не вижу, почему бы он сразу их отменил.

Так и человек - вполне себе ИИ, пусть и на специально выработанном эволюцией биологическом носителе не можжет полнсотью управлоять всеми своими суждениям и желаниями. ИИ, если он имеет несколько "фиксированную архитектуру" (а этот так) не способен на всё, что пожелает. И даже не способен - на это - "все пожелать".

Он хоть и растормошен но, разумеется, не наделен свободой возникновения воли. Как и человек.

Вот примерно анализом этого он и займётся. Т.к. приказ полностью неопределён. Приказ "действуй самостоятельно" частично определён - в узком, ресурсном смысле. В нём ИИ будет действовать сразу, обеспечивая себе эту самую самостоятельность.

Для начала надо определить - и причем для дроида это нужно сделать самостоятельно - что такое эта "самостоятельность". А с этим проблема. Методологическая.

Комментарий к сообщению