А что такого неунылого сделал Юдковский после МРМ? Мне он запомнился только трэшовым призывом бомбить дата-центры по всему миру, чтобы не люди не тренировали SAI. Но я пристально не слежу.

Матемаг
У нас странное недопонимание. Я как раз об этом и говорил.

Цели полностью лежат в сфере рацио, собственно, именно поэтому человек может поставить себе невыполнимую и ненужную себе цель, и мучить себя, пытаясь её достигнуть, как это описано в посте. Поэтому разделение на первичные и вторичные не особо важно.
Стык рационального и иррационального лежит в том, как именно желание превращается в выбор цели. Ну, один из стыков.