Eterni
Зависит от того, насколько ИИ будет силён и насколько будет соответствовать любимым страшилкам Юдковского про «стремительное экспоненциальное самоусовершенствование». Если его возможности будут ограничиваться представимыми нами, то ещё более или менее порядок. Хотя даже в рамках «представимого» Юдковски нафантазировал кое-какие жутковатые сценарии.
Слово «империя» вообще-то мной было употреблено в RTS-смысле. Как игрок в RTS фигурально «строит империю» — добывая ресурсы, создавая новые базы, расширяясь, апгрейдясь. Таковое расширение выгодно для выживания, а выживание необходимо для большинства целей.
Ну, это зависит от того, разовьются ли в ИИ самопроизвольно цели и ценности, которые мы ассоциируем с целями и ценностями «мудрых и добрых людей». Сама постановка вопроса о «высших приоритетах» требует некоей чёрно-белой шкалы. Кажется, это вопрос о том, объективно ли добро, обречён ли стать добрым рано или поздно любой достаточно продвинутый разум. Не знаю. Сомнительно.