> Опять же, есть ситуации, когда человек просчитывает ситуацию по алгоритму, очень схожему с алгоритмом вычисления по теореме Байеса. Причем это может происходить и неосознанно...
Ну насколько я понимаю то, что пишет Юдковски тут и в своих заметках, его замысел как раз в том, чтобы научить людей автоматически применять Байеса для того, чтобы делать выводы из любых своих наблюдений. При этом, конечно, не подразумевается, что нужно каждый раз делать какие-то расчеты -- просто нужно, чтобы мозг на подсознательном уровне делал примерно такие же выводы, какие были бы сделаны на основании Байеса, как раз почти как Вы и сказали.

Тут ситуация примерно как с логическим мышлением. В современном мире нам его прививают с детства, но для его прививания необязательно обучать математической подоплеке. Знание математических полезно для обретения логического мышления, но все же необязательно. Человек может не знать, что такое квантор всеобщности и что его отрицанием является квантор существования, но понимать, что отрицанием утверждения "все коробки на этом столе пусты" является утверждение "хотя бы в одной коробке на этом столе что-то есть", а не "во всех коробках на этом столе что-то есть" или что-нибудь еще.

Но в то время как логикой овладевают довольно многие, Юдковски приводит много примеров того, что часто люди делают довольно нелепые выводы из своих наблюдений оттого, что мыслят не по-байесиански. И, видимо, хочет привить всем байесианское мышление.