watcher125
Так-то мы не столько страшилки придумываем, сколько топчемся в тупике ( Теперь вот речь идет о нормальном функционировании правоохранительных органов (предотвращение убийств и терактов). Почему это плохо и причем тут киберфашизм?

Венцеслава Каранешева
Например потому, что даже если честно воспроизвести все признаки по которым ИИ определил, что гражданин X подлежит радикальному удалению из социума, никто не в состоянии проверить правильность соответствующих алгоритмов. Теоретически что-то об этом знают программисты компании-владельца, но чтобы что-то у них спросить, их а) сначала придется найти и вызвать на допрос, а госудраству это хило; б) они связаны такими подписками, что задавать им вопросы бессмысленно; и в) даже если удастся получить какие-то ответы, никто из непосвященных в них просто ничего не поймет.
У нас корпорации стоят над государством, помните ? Не то, чтобы я очень любил государство, но с государством есть хоть какая-то иллюзия прозрачности и управляемости. У корпораций даже иллюзии нет. Корпорация - сама себе государство, ее сколько-нибудь важные сотрудники непосудны и неподвластны, а какие законы работают внутри корпорации, вообще никто не знает.

П_Пашкевич
Прочитал 1ю часть. Остальные на раздва своровать не получается.
Мне кажется, Горькавый развивает (совершенно правильную) идею, которая впервые (на моей памяти) появилась у Кларка и потом так или иначе поднималась много где. В моем любимом TSCC, эта идея была сформулирована уже совершенно явным образом, и очень жаль, что его закрыли.
А именно, что ИИ надо не столько программировать, сколько воспитывать. Вот это многолетнее выживание в симбиозе с растущим и развивающимся ребенком и есть своеобразный процесс воспитания. Крайне гуманистического, ЧХ, воспитания. С этой тз обретение таким ИИ глобальной власти не более страшно, чем обретение такой власти человеком. История знает массу разнообразных диктаторов, пребывавших в глубокой уверенности, что ведут свой народ или даже все человечество к благу.
Соответственно, проблема переходит из технической сферы в философскую и социальную. Можем ли мы доверять ИИ больше, чем доверяем друг другу ?
UPD.
Я, кстати, в пору популярности сериала видел фик, где основной тактической единицей сопротивления была пара человек-терминатор. Автора интересовала в основном тактическая сторона, а я тогда подумал, что в принципе это - как раз, интересный путь социализации машин.

watcher125
Очень интересная мысль, спасибо. Вот никогда не задумывался над таким взглядом на Робби - а он правильный!