11 мая в 04:25 к фанфику Посмотри в глаза чудовищ
|
|
Ситуация с Эннорой напомнила проблему искусственного интеллекта. Знаете, говорят, что сильный ИИ невозможно удержать в заданных человеком рамках. Гипотетическое решение выглядит как изолирование ИИ от внешнего мира ("в комнате"). Выпуск "из комнаты" - это необратимое действие; обратно его не спрячешь - не хватит возможностей. И утверждается, что сильный ИИ обязательно убедит человека, который с ним работает, что выпустить его нужно, необходимо, безопасно, выгодно.
И вот родители как будто охраняют мир от выхода Энноры, при этом дают ей информацию о мире, а она находит лазейку, общается с Эйвери, и бравые авроры освобождают её из заточения, а родители воспринимают это действие как необратимое и катастрофичное. 5 |