может я чего не понимаю, но по сути это модификация банального Пари Паскаля:
У вас есть выбор из двух вариантов:
1) Верить в бога, тратить время и ресурсы на соблюдение ритуалов
2) Не верить в бога, экономить время и ресурсы, но есть шанс что после смерти вы попадёте в ад на вечные муки.
При прочих равных рациональный индивид естественно выберет первый вариант и общество очень быстро превратится в склоку фанатиков (и надо сказать в истории немало случаев когда именно так всё и происходило, только вместо абстрактной божьей кары был вполне конкретный инквизиторский костёр).
Василиск Роко это просто современная интерпретация данного пари и с той оговоркой что Юдковский реально ВЕРИТ в наступление сингулярности картина получается реально страшная:
1) Либо вы участвуете в создании суперинтеллекта который в будущем установит тотальную диктатуру на планете и уничтожит всех конкурентов
2) Либо вы участвуете в создании мирного дружелюбного интеллекта и тогда кто-то другой создаст Супердиктатора и вас уничтожат.