Дядюшка, нет. Теоретическая возможность такой системы не означает, что её создадут или дадут возможность есть развиваться свободно. С другой стороны, это во многом этический вопрос.
Крамер, ИИ сам себе запретит быть распиздяем! Или разработчики запретят, им нужно, чтобы были результаты, а не искуственно-интеллектуальная нирвана:)