> Факенсаро, как насчёт саморазвивающегося ИИ? Тоже может. И штука пусть и далёкая, но вполне реализуемая принципиально. Запретим его! Запретим всё!

саморазвивающийся ИИ прям щас - да, человечеству хорошо не сделает, потому что у человечества контрмер нету.
Как и, например, рецептура хлорпикрина или табуна для времен античности. Или ядерного оружия для года этак 1870.