Ну, Юдковский написал очень занятную, понятную и обоснованную статью на эту тему. В МРМ был где-то в комментах ссыль на нее. Но и так найти можно. Уже нашла:
http://oko-planet.su/science/scienceclassic/3362-judkovski-e-iskusstvennyjj-intellekt-kak.html