читатель 1111
Лукьяненко, Звезды - холодные игрушки.

nadeys
Раз элите это нужно, она придумает.

Хотя... Может быть, получится так, что на самом деле элита пролетит, как и все люди. Помню, когда я первый раз прочитал Системы оружия XXI века..., эта книга произвела на меня впечатление. Она пострашнее "Терминатора", хотя и выросла из той же идеи.

Заяц
А! конечно)))

Tiberium
По-настоящему нельзя обойти такие правила, как второй закон термодинамики.

>>>А если такого нежелания нет - достаточно просто приказать.

Видов некорректных поведений тысячи. Вполне можно представить ситуацию когда какие-нибудь хулиганы взломают вашего робота и вместо нарезания салата заставят его нарезать линолеум и обои. А когда вы устно прикажете ему прекратить, обнаружится что хулиганы до кучи заблокировали его микрофоны.

И вот этот робот не слушает ваших приказов и уродует вашу квартиру. Хвататься за топор и сразу ломать дорогого робота? Не нужно, ибо можно просто ткнуть в кнопку на его спине и либо выключить его совсем, либо лишить хакеров доступа.

nadeys

Рациональность это чушь. Точнее это примерно такая же математическая абстракция, как отрезок, не имеющий никаких измерений, кроме длины. У Вас никогда, не будет ситуации, когда можно обдумать абсолютно все факторы, а в случае отсутствия полной информации, Вам когда-нибудь придется делать выбор между двумя абсолютно равнозначными решениями, и на что в таком случае ориентироваться?

EnGhost
Абсолютно все факторы обдумать невозможно, но при достаточно мощных процессорах вполне можно обдумать статистически значимое большинство факторов. Достаточно мелкой погрешностью можно пренебречь.

Абсолютно равнозначных решений не бывает, как не бывает двух одинаковых камней. Но даже если бы такая ситуация и была возможна, мораль тут точно бесполезна.

nadeys
>можно просто ткнуть в кнопку на его спине и
... обнаружить что хулиганы до кучи приказали ему воткнуть проволоку куда-то внутри себя, что закоротило линию, сделав выключатель бесполезным... :)

И при чём тут вообще робототехника? Такие примеры можно натянуть на что угодно.

Tiberium
>>>обнаружить что хулиганы до кучи приказали ему воткнуть проволоку куда-то внутри себя, что закоротило линию, сделав выключатель бесполезным

Простой предохранитель который либо пропускает ток, либо не пропускает. Если его сломать/нажать/переключить/закоротить, то и робот перестанет работать.

У роботов слишком много интерактивных способностей чтобы пускать дело на самотёк. Это ведь не просто цифровой телевизор который можно взломать и заставить показывать неприличные картинки.

nadeys
И проволока пропускает ток точно так же. Или не пропускает.
Вы пытаетесь лечить проблему через симптомы. Если кому-то будет очень нужно - он сделает с вашим роботом что угодно хоть с выключателем, хоть без.

"Законы робототехники" должны обеспечивать подконтрольность роботов. И только.
А предотвращение несанкционированного стороннего вмешательства - это не робототехника.

"Системы оружия XXI века." - спасибо за идеи.

Tiberium
Забавно азимовские роботы абсолютно непрограмируемы. То есть у них ОДНА программа раз и навсегда. "Софта " нет совсем..

Матемаг
Какие именно тебе понравились?

Что - какие? Идеи? Некоторые прекрасно лписывают уже мнн извесное.

Матемаг
Да, какие идеи.

У Лема эта тема встречается еще в "Фиаско" и "Мире на Земле". А ее вариации и в других книгах.

Чисто новых не увидел, но воплозение старых жлвольно мниернсное.

nadeys
Дело в том, что робот априори сильнее и быстрее человека. И наличие какой-то там кнопки у него на спине вам не поможет, потому что вы просто физически до нее не дотянетесь.

Не надп натчгмвпть Геделя на глобус.

Раньше? Мож тупым был:)

Ну да. Можно сделать норм форм. систему без геделевскоц багофичи.

коменты не читал, аплодирую стоя.