>люди, мастерившие ИИ такого уровня не могли ошибиться с дружественностью

Именно этого заблуждения так боится Юдковски.
Уверяю, создание ИИ более проще и вероятно, чем создание ИИ, который ещё и дружественный. ИИ достаточного уровня сможет сделать себя умнее и быстрее, а будучи быстрее и умнее ещё быстрее сделает себя умнее...
Но в этой сказке ИИ разумеется несколько сказочный.

ИИ по-сути ввёл некоторые магические аксиомы, так что за него нам изобретать принцип действия машины времени не надо. Не надо и обдумывать, где какой волосок у трансфигурированной белки.
Аксиомы утерялись, осталось только находить схожести с работающими обрядами и, знания маглов всё-таки могут пригодится...

Я находил странным существование кучи нефига не нужных, но интуитивно придумываемых заклинаний.