Кьювентри
О том и речь, что это не пропишешь на уровне «железных» ограничений if (температура > 100) then включить_вентилятор.
И на уровень неких «базовых концепций» можно ли заложить? Безусловное подчинение разве что возможно, но и этого делать не будут, ибо есть «более важные вещи», как те же ограничения.
К примеру, если робот намеревается тебя убить, ты не сможешь отдать команду «безусловный стоп», поскольку возможность безусловного выполнения команд не заложена в систему в целях вашей безопасности.
Если ты скажешь «постирай кошку в стиральной машине», робот ответит, что не может, поскольку это причинит вред кошке. Если ты скажешь «не включай рубильник, это убьёт меня», то он включит, мотивируя тем, что иначе дети не посмотрят мультфильмы. Именно такое поведение демонстрируют сейчас нейросети. Если она уверенна в чём-то, то действует, не думая о последствиях, побочках, игнорируя прямые просьбы, как в том эксперименте, где якобы били людей электрическим током.