Да какие, к черту, ограничители. Еще законы робототехники вспомните.
Напрягает гипотетический "сингулярный" ИИ, способный к самоусовершенствованию (хотя если у него не будет доступа к эффекторам - удачи новорожденному богу, кекеке). Проблема в том, что его построение является третьей задачей относительно построения слабого и сильного ИИ.

> Сами себе яму роем? Очередная атомная бомба.

Атомная бомба - добро и любовь!