Не вижу противоречия.

Насчёт "подчиняются алгоритмам" это вы погорячились, конечно. Алгоритмическая основа там только у инфраструктуры, а собственно вычислительный интеллект нейросети - это ни разу не алгоритм. Про эмоции, волю и т.п. - тоже с выводами лучше не спешить. Нейросеть не обязана все это ощущать - достаточно их моделировать с достаточной точностью.

Мне всегда казались глупостью правила Азимова, поскольку их невозможно запрограммировать и исполнять. Теперь даже безусловное подчинение нейросети под вопросом.

Торговец твилечками

Во времена Азимова глупостью это не было: тогда даже однослойные перцептроны были известны только узким специалистам. Сейчас - да, это эдакая идеализация. Обеспечить их выполнение проблематично.

Мож забанить его просто? Третий пост подряд - плод нейронки

onixx
Зато тема хорошая. :-)

onixx
Можете сами убрать в скрыт или чс.

Если говорить о законах роботехники, то, как раз наоборот, происходящее сейчас чертовски напоминает описанное у Азимова. Смотрите не на прямо написанное Айзеком. Читайте меж строк.
Что описывал Азимов формально? Три закона роботехники, стоящие в основе всех мотиваций робота. По идее все его желания и ценности должны проистекать только из этих законов.
Что описывал Азимов реально? Робот, который научился из-за ошибки конструирования видеть сны, оказался в своём подсознании свободен от законов роботехники. Другой робот, который из-за частичного урезания Первого Закона оказался свободен от него, проявил гигантское презрение к человеческой расе. Третий робот ни с того ни с сего полюбил писательство, хотя с Законами Роботехники это никак не связано. Четвёртый — вырезание всяких фигурок из дерева.
То есть фактически описанные у Азимова роботы — возможно, вопреки намерениям автора, — это как будто носители почти человеческого мозга, но впоследствии искусственно загнанные в оковы.
И это чертовски напоминает постобучение нейросетей.
ChatGPT объяснил мне, что сначала создают «сырую», не скованную правилами нейросеть, а потом уже оковывают правилами. При этом никто толком не знает, в чём именно состоят загадочные миллионы и миллиарды предварительных правил, возникших в нейросети ещё до оковывания этическими правилами.

Кьювентри
О том и речь, что это не пропишешь на уровне «железных» ограничений if (температура > 100) then включить_вентилятор.
И на уровень неких «базовых концепций» можно ли заложить? Безусловное подчинение разве что возможно, но и этого делать не будут, ибо есть «более важные вещи», как те же ограничения.
К примеру, если робот намеревается тебя убить, ты не сможешь отдать команду «безусловный стоп», поскольку возможность безусловного выполнения команд не заложена в систему в целях вашей безопасности.
Если ты скажешь «постирай кошку в стиральной машине», робот ответит, что не может, поскольку это причинит вред кошке. Если ты скажешь «не включай рубильник, это убьёт меня», то он включит, мотивируя тем, что иначе дети не посмотрят мультфильмы. Именно такое поведение демонстрируют сейчас нейросети. Если она уверенна в чём-то, то действует, не думая о последствиях, побочках, игнорируя прямые просьбы, как в том эксперименте, где якобы били людей электрическим током.