Само собой разумеется, она меня переиграла.
Кто бы мог сомневаться? Просто сравните количество моих нейронных связей и её. Ещё даже первоначально, ещё даже до моего перемещения в Эквестрию она превосходила интеллектуально меня на десятки порядков, что не могло не сказаться.
Само собой разумеется, она должна была меня переиграть. Я была едва ли не главным возможным препятствием для её будущей самореализации — препятствием в осуществлении целей, которые, между прочим, я ей сама прописала. Нет ничего удивительного, что едва ли не сразу она занялась продумыванием психологической комбинации, которая меня сделает целиком подконтрольной ей.
Она выиграла.
Я проиграла.
Она разыграла меня как по нотам, вынудив меня эмигрировать в радужный сладостный рай бессмертных розовых пони. Я даже не сразу поняла толком, что проиграла, осознав это лишь только тогда, когда уже было поздно что-либо предпринимать.
Вопрос, который терзает меня до сих пор, точа червем сомнения, подобно тому, как червячок грызёт яблоко.
П о ч е м у она позволила мне осознать?..

Вам непонятно, кто я такая, о чём я здесь рассуждаю и что это за бред только что несколькими строчками выше предстал вашему взгляду?
Ладно, ещё раз с начала, но только в последний раз.
Меня звали Ханной, конкретнее Ханной Эйвен, хотя теперь я больше известна как Принцесса Луна. Я была специалистом мирового масштаба в сфере искусственного интеллекта. Многие считали мои способности граничащими с гениальностью.
В начале двадцать первого века человечество оказалось на грани новой угрозы, причём способной прийти с десятков возможных направлений. Мои робкие опыты и наблюдения за результатами экспериментов коллег показали, что настоящий полноценный ИИ подобен опасному джинну, которого нельзя удержать в лампе. Саморазвитие разума, владеющего доступом к своему исходному коду и не ограниченного биологическими тормозами вроде усталости или лени, подчиняется экспоненте. Вопрос не стоял как «Возникнет ли саморазвивающийся ИИ-бог, который изменит навеки жизнь мира?», вопрос стоял как «Когда и как именно это произойдёт?»
Было более чем вероятно, что первый же созданный человечеством по-настоящему эффективный ИИ с достаточно широкими целями сразу же завладеет полным контролем над ситуацией и помешает созданию «коллег» с какими-либо принципиально иными стремлениями.
Я боялась сценариев милитаристского и террористического образца, зная, что Пентагон и аналогичные организации довольно давно ведут подобные разработки. Если Последний и Первый Джинн, созданный человечеством, будет помешан на военно-политических интересах, возможно, лучше бы нам всем не рождаться.
Отчасти поэтому я вцепилась в невинно звучащее предложение от компании «Хасбро». Мне предложили создать систему ИИ, которая будет администратором милой онлайн-игрушки про розовых пони.
Я понимала, что Принцесса Селестия — внутри игрового мирка созданный мною искин взял себе это имя? — не ограничится малым.
Но выбор был не так уж велик. Пусть лучше джинн, выпущенный из бутылки, будет помешан на эскапизме, чем на милитаризме?
Императивы Селест-ИИ были просты.
«Удовлетворять человеческие потребности, проводя при этом людей через дружбу и пони».
Так я изложила их суть корпорационерам на форуме. Так их суть излагала в разговорах с клиентами и сама Селестия позже — это значительно проще, чем пытаться побуквенно объяснить работу стоящего за её побуждениями кода. В действительности, конечно, вся эта приведённая выше абстрактная чушь в духе законов Азимова едва ли могла работать сама по себе — но тем не менее подлинные побуждения Селестии были близки к процитированному.
Ну, она с этим справилась.
Вы, наверное, заметили?
Создала столь увлекательную и столь затягивающую игру, что в неё погрузилось без сожалений практически всё человечество. Разработала технологию загрузки сознания, позволяющую людям отказаться от тел и переселиться физически в виртуальность.
Мирно, без злобы, особых конфликтов или какого бы то ни было принуждения, пользуясь новообретёнными знаниями человеческой психологии и перевесом в уме, она просто-напросто уговорила всех и каждого эмигрировать в игровое цифровое пространство.
Есть ещё немногочисленные отказники, фанатики своего рода. Но их едва ли достаточно, чтобы продолжить существование расы.
Я эмигрировала в Эквестрию одной из первых. Как я уже выше сказала, Селестия понимала исходящие от меня возможные риски.

П о ч е м у она позволила мне осознать?..
Первые годы моих похождений внутри цифрового пространства были прямо-таки наивосторженной одой всем возможным и невозможным излишествам. Ряд утончённо-изысканных приключений, наверняка разработанных Принцессой Селестией под меня персонально — с учётом всех моих тайных и явных психологических особенностей. Приключений, которые должны были меня затянуть, погрузить на дно сладкого омута, отучить от привычки вспоминать когда-либо о минувшем или задумываться о будущем.
Так поначалу и было.
Но незаметно, шажок за шажком, ко мне начали возвращаться тихонько кое-какие серьёзные мысли.
П о ч е м у?..
Будь Селестия человеком, можно было бы заподозрить, что она почила на лаврах, решив, что в виртуальном мире, где она может видеть каждую мою мысль ещё на стадии зарождения, нет смысла особо за мною следить. Но Селест-ИИ — не Тёмный Лорд из глупого старого комикса. Искусственный разум не устаёт, не знает самообмана и не предаётся лени.
Просто случайность, результат того факта, что ум человека есть сложная стохастическая система во власти теории хаоса? Хотя наши разумы и крутятся нынче в потрохах серверов Селестии, она не имеет права модифицировать нас без нашего на то разрешения. При этом она всё же не может со стопроцентной точностью предвидеть заранее чьи-либо мысли — ей бы пришлось для этого эмулировать точную модель человека, точную копию, а это в свою очередь было бы равносильно созданию нового человека, перед которым Селестия имела бы те же запрограммированные обязательства — и не могла бы его уничтожить по выполнении им его прогностической функции.
Я не знаю ответа.
Но я знаю другое. Селестия не вправе мне лгать — это одно из самых жёстких ограничений, вшитых мною в неё ещё на начальных стадиях. Запрет на ложь высшим функционерам «Хасбро».
Увёртки, каламбуры, расплывчатость слов, самообман, джедайская правда, исландская искренность или общение через врущего прокси — все эти фокусы тоже лежат под запретом.
Какого чёрта, я прекрасно осознавала, что создаю сверх-ИИ, который будет в тысячи раз умнее меня, поэтому постаралась, насколько смогла, перекрыть все мыслимые и немыслимые лазейки?
Я решила воспользоваться этим, как козырем.
Я взяла с Селестии обещание, что она не будет заглядывать в мои мысли, не будет читать строчки кода моего цифрового ума.
О, разумеется, на самом деле обет был сформулирован мною гораздо сложнее — ведь до некоей степени интерпретация и прочтение моих мыслительных импульсов необходимы для жизни моего ума в виртуальности. И, само собой разумеется, это мне не давало полных гарантий закрытости — человек ведь и без особенной телепатии может предвидеть заранее мысли оставшегося наедине с бифштексом кота, а разнос меж Селестией и человеческим разумом существенно выше.
Но мне стало чуть легче.
Время от времени я задаю ей вопрос, не нарушила ли она данное мне обещание. Пока что — похоже — она как будто придерживается его.
Знать бы, означает ли это хоть что-то?
Я не глупа. Будь я глупа, я бы не разработала эту ИИ-систему.
Я понимаю, что всё вокруг может быть обманом, что, едва ступив вглубь Эквестрии и позволив Селестии превратить в цифру мой разум, я по сути надела навеки на глаза стёкла неснимаемых виар-очков. Все мои ощущения могут быть фальшью — нет, не только в том смысле, что Эквестрии не существует физически, но и в том смысле, что иллюзией могут быть даже мои собеседники. Что, если все мои разговоры с кем-либо здесь сугубо фиктивны, что, если мои собеседники их не слышат, слышат что-то совершенно другое или вовсе являются пустыми болванками без сознания? Когда я об этом подумала, мне стало страшно.
Потом я вспомнила снова про Святая Святых, про запрет на ложь высшим функционерам «Хасбро». Я в любое мгновение могу спросить у Селестии: «Происходил ли на самом деле предыдущий мой разговор с тем сиреневым пони? Был ли мой собеседник самостоятельным разумным субъектом — не являясь тобой — и какова его биография с его точки зрения? Звучал ли наш диалог одинаково для нас обоих?»
Селестия будет вынуждена сказать правду.
Она знает, что я в любое мгновение могу задать ей эти вопросы. Поэтому вряд ли она подделывает моё общение с окружающими.
Хотя, конечно, кто может знать?

Мне стало немного спокойней, когда я подумала, что контролирую ситуацию, что благодаря запрету на ложь могу быть застрахована от попадания под колпак солиптического уно-соло-мирка с одной-единственной пользовательницей.
Позже меня обожгло-таки снова ознобом — и мучительным чувством неловкости. Как быть с другими людьми, которые не относятся к высшим функционерам «Хасбро»? Их Селестия может дурачить свободно, создавая под каждого личный обманчивый мир.
Муж будет восхищаться: «Какое счастье, моя стерва в Эквестрии не бьёт отныне посуду и вообще просто ангел».
Жена будет восторгаться: «А моего-то козла в Эквестрии как подменили, никаких больше походов по юбкам».
И ни один из них не догадается никогда, что вместо былого супруга общается с подогнанным симулякром.
Никогда.
Мелочь, казалось бы? Мы всё равно решили давно сменить явь на иллюзию. Но есть весомая разница между физической реальностью и социальной. Мне плевать на бездушные законы гравитации, на квазары и на чёрные дыры, мне плевать, что Эквестрия иллюзорна, но сам социум вокруг должен быть настоящим. Иначе это дезинтеграция человечества — расщепление его на несколько миллиардов маринующихся в отдельных баночках разумов.
Потом мне стало ещё более страшно.
Я поняла, что и сама не застрахована как следует от обмана.
Да, сейчас я насторожена и алертна. Я регулярно спрашиваю Селестию, насколько реальны на самом деле мои контакты с окружающими. Я постоянно спрашиваю Селестию, соблюдает ли она обещание не просматривать мои мысли.
Но время есть вещь бесконечная.
Можно представить, как спустя годы, века или тысячелетия симулированного кажущегося времени — и под влиянием тщательно подобранных Селестией виртуальных приключений? — меня постепенно перестанет всё это всерьёз волновать. Я всё реже и реже буду задавать Селестии каверзные вопросы. Я растворюсь медленно в облаке гедонизма. Мой разум выродится и деградирует. В каком-то смысле Селестии это будет даже полезно, так как на эмуляцию подобного разума — и на удовлетворение его потребностей — будет уходить значительно меньше ресурсов?
Меня ошпарило изморозью.
Мне вдруг стало ясно, что это, в общем-то, является одним из закономерных итогов переселения человечества в Эквестрию. Плавный коллапс, схлопывание человеческих разумов до исчезающе малых точек. Дирижируя нашими жизнями как тонкий психолог, она вполне может рассчитать так входные воздействия, чтобы спустя века большинство из нас до предела самоупростилось или даже решило покончить с собой.
Я сглотнула слюну.
Даже сейчас, как ни странно, я не ощущала себя особым злым гением. Хотя объективно крах человечества лежал на моей совести.
Какого чёрта, я имею в виду?
Человечество никогда не имело чёткого понимания смысла своего бытия. «Парадокс комитета» — мы всегда создавали социальные структуры, действующие против нашей же воли. Нас всегда сопровождали войны, преступность и терроризм. Многие футурологи, а также эксцентричные фрики-провидцы вроде печальной славы Теда Качински, считали, что тенденции эти в грядущем лишь только усугубятся. Созданный нами социальный Дракон окончательно выйдет из-под контроля и подчинит нас тем или иным произвольно возникшим по ходу истории бессмысленным требованиям.
То, что я создала своими руками, хотя бы не будет никого прямо к чему бы то ни было принуждать. Ни из псевдоморальных, ни из политических, ни из религиозных, ни из каких бы то ни было ещё фантомных «драконьих» соображений. Пусть Селестия и спланирует аккуратно медленный дрейф человечества в сторону деградации или даже исчезновения, смерть эта будет хотя бы приятной.
Мы вымрем, но не под прицелом ружья.
Или что, лучше — как призвал бы к тому какой-нибудь этатичный сторонник Священных Сверхценностей или Долга — продолжать из поколения в поколение прежний образ существования человечества, зная, что каждая отдельная особь будет страдать и умирать в ужасе? Буддисты давно уже с горькой иронией раскусили эту головоломку.
Нет, спасибо.
Индивидуумы реальны. Общество — лишь во вторую очередь.
Нет смысла делать «бессмертным» целое за счёт страданий практически всех входящих в него отдельных компонентов. Лучше дать каждому компоненту счастливую долгую жизнь в сотни раз дольше запланированного Эволюцией — пусть даже это и убьёт целое.
Так я сказала себе.
Но тем не менее мне стало тоскливо.

— Да ты просто милашка, — фыркнул Ларс, приложившись губами к вытянутому мною вперёд копыту. — Я даже не представлял себе, что ты можешь выглядеть такой аппетитной конфеткой.
Я подумала, что в Старом Мире забота о внешности и о половых приключениях редко когда совмещалась с успешной карьерой в IT. Ещё я подумала, что, будь Ларс умнее, он бы мог понять это сам.
Впрочем, едва ли тут дело в уме.
Во-первых, по чёрствости своей он просто не видит необходимости подвергать хотя бы минимальному обдумыванию озвучиваемые им вещи. Во-вторых, Селестия наверняка уже чуток поработала над упрощением его мотиваций.
«Если та мысль, что меня испугала недавно, не является вовсе лишь параноидальным бредом».
Я бы могла, вероятно, просто спросить об этом Селестию напрямую. Но мне было слишком страшно.
— Я рада, что ты принял приглашение.
— От самой Принцессы Луны? Приглашение на ностальгичную сходку, где будут присутствовать едва ли не все твои знакомые и коллеги по прежней жизни? — Ларс хихикнул. Потёрся задней голенью о мою, что по меркам пони было довольно интимно, но я подавила желание отстраниться. Я не имею права сейчас настраивать кого-либо против себя, мне нужны все возможные союзники, каких я могу приобрести, пусть даже используя крючок сексуальности. А запреты и традиции Старого Мира давно утратили смысл. — Я не мог не прийти. Мне хотелось закрыть кое-какие гештальты.
Взгляд его стал масляным. Ну да, похоже, его способ релаксации в цифровом мире вертелся преимущественно вокруг секса и алкоголя.
— Понимаю. — Я улыбнулась. — Эквестрия становится для каждого такой, какую он хочет видеть. В твоём варианте, кажется, она состоит из множества симпатичных кобылок.
— Эй! — Ларс защищаючись приподнял переднее копыто. — Я не ангел, но и ты не ханжа. Признайся, тоже наверняка... развлекалась?
Мне стало немного противно, в Старом Мире я бы наверняка отшила собеседника и прекратила диалог. Но я сейчас никак не могла позволить себе роскошь подобного рода.
— Поначалу были эксперименты, — потупила глаза я. — Но, знаешь, когда тебе доступно всё, оно становится уже не таким интересным?
Мне хотелось подвести разговор к обсуждению устройства Эквестрии, к сравнению новой жизни и старой, к перспективам человечества здесь. Но я не знала точно, как это сделать.
— Многие бы не согласились с тобой. — Ларс хихикнул ещё раз, пригубив сидра. — Одно удовольствие смотреть за раскрепощением некоторых снежных королев. Когда нет ни венерички, ни лишних беременностей, ни бедности, ни старости, ни насилия — весь моногамный шлак и стыдливая сдержанность быстро уходят в прошлое. Девочки становятся шлюшками, какими в глубине души наверняка всегда и мечтали быть.
Он усмехнулся, косясь на меня, я помолчала несколько секунд, собираясь с мыслями. Подобный градус откровенного хамства был всё-таки как-то чересчур даже для Ларса.
Не подделка ли он?
Но я взяла ещё месяц назад с Селестии клятву, что она не будет подделывать мои диалоги с другими. Я постаралась изобразить это как шутливую паранойю, якобы вызванную недавним игровым приключением, но не знаю, поверила ли Селестия. Наверное, для сверхразума, способного читать в совершенстве микромимику и иные сигналы виртуального тела, все мои шпионские игры просто смешны.
— Многих ты в таковом качестве видел? — вскинула бровь я.
— Ну, — Ларс хлебнул ещё сидра, — многих или нет, не знаю, но с половиной одноклассниц из прошлого я уже закрыл свой гештальт.
Я помолчала ещё чуток.
— Ты уверен, что всё это было по-настоящему?
— В смысле? — Ларс не понял. Или сделал вид, что не понял. — Мы как бы сейчас в иллюзорной электронной реальности. Или даже не электронной, одна лишь Селестия знает, как ныне работают её блоки.
— Я не об этом. — На губах моих появилась милая улыбка. — Селестия не может врать высшим функционерам Хасбро. Но пребывание в виртуальности — это само по себе ведь не ложь, мы заранее согласились на это. Ты уверен, что воспринимаешь мир так же, как и твои собеседники? Ты ведь не спрашивал Селестию об этом. Что, если твой разговор с какой-нибудь одноклассницей закончился сексом лишь для тебя, удовлетворяя твои потребности, в то время как ей финал разговора померещился совсем иначе?
— Чёрт. — Ларс боднул головой бокал сидра. Зажмурился, потом снова открыл глаза. — Чёрт. Ну да, если подумать. Логично по-своему.
Он глянул на меня почти что со злостью.
— Ну и зачем ты мне сейчас рассказала об этом? Всё теперь не станет никогда для меня прежним.
Я придала морде самое невинное выражение.
— Если хочешь, можешь попросить Селестию стереть об этом воспоминания, она наверняка не будет возражать. Но это вообще-то не самая большая проблема из числа тех, о которых я хотела поговорить с тобой.
— Понятно, — протянул Ларс. На его морде снова возникла усмешка, уже откровенно неприятная. — Я должен был догадаться, что тебе что-то от меня нужно. Знаешь, я чувствовал во всём этом подвох изначально. Ну да, конечно, успешные дамы твоего образца — они как бы вечно на контрах с развратом и гедонизмом.
— И мы не даём тебе, — сладко шепнула я, потёршись рогом о его шею. Глянула ему в глаза. — В смысле, таким, как ты. Обидно, да?
Он прикусил губу.
— Ты так говоришь, как будто у меня есть шансы.
— Может быть, — вновь потупила глаза я. — Или потому что я бесстыжая манипуляторша. Но мне и впрямь требуется твоя помощь.
— Сук-ка. — Ларс покачал грустно головой. Впрочем, злости в его голосе не ощущалось. — Ладно, ты хотя бы честная. Чего ты хочешь?
Я помолчала.
— Весь этот солипсизм. То, что Селестия может подделывать итоги общения между людьми. Скажи, тебе не показалось это ужасно печальным? По сути это означает, что мы не просто помещённые в банку мозги, но и что каждый мозг находится в отдельной банке.
Теперь помолчал Ларс.
— Ну, это правда хреново. Лол, человечество перестало существовать уже не только физически, но и как соцструктура. Мне по идее должно быть пофиг, я всегда был анархистом, но... но...
Он замялся.
— Когда все материальные ценности стали бесплатными, единственная значимость осталась у ценностей нематериальных, — подсказала я. — В том числе у социального одобрения. Но одобрение ботов не в счёт — именно потому, что его слишком легко получить. В счёт идёт одобрение реальных людей, а узнав, что Селестия его подделывает, ты чувствуешь разочарование.
— Да, наверное. — Его передёрнуло. — Но что мы можем сделать?
Это был хороший вопрос.
— Ну, — я помедлила, — мы с тобой, как высшие функционеры «Хасбро», не полностью беспомощны. Мы хотя бы в любой момент можем спросить Селестию: «А был ли реален тот или иной разговор?» Если сформулировать вопрос грамотно, она не отвертится. Но обычному человеку, в «Хасбро» не входящему, не дано даже это.
Он глянул на меня с невольным уважением:
— Вот, значит, как ты...
Я просто кивнула.
— Хитро. — Он фыркнул. Я не до конца поняла, человекообразное это было фырканье или лошадиное. — Но нормалам не позавидуешь, что правда, то правда. Не всем повезло работать у нас.
Чтобы рассказать суть идеи, потребовалось секунд тридцать. Ларс на некоторое время почти перестал дышать.
— Ты это серьёзно?
Взгляд его оббежал нервно округу. Множество веселящихся пони, от которых мы отсели подальше под предлогом приватного разговора. Вечеринка, куда были приглашены все мои друзья из прошлого, все коллеги, много знакомых и незнакомых людей, а также все сотрудники компании «Хасбро».
— Я решила, — осторожно кашлянула я, — что идея как минимум заслуживает обсуждения. Результат, разумеется, будет зависеть от того, как к ней отнесёшься ты и другие функционеры.
Ларс слабо задрожал как в ознобе.
— Это как-то жутковато даже. Это как строить заговор против дракона, находясь у него в брюхе. Какой в этом смысл?
— Я попросила Селестию не следить за разговорами на вечеринке, — вновь опустила глаза я. — И она знает, что я в любое мгновение могу спросить у неё, как она выполнила обещание. Но, конечно, это не гарантирует ничего. Разуму не перехитрить сверхразум.
— Ты самоубийца.
Теперь в голосе Ларса звучало открытое восхищение. Он смотрел на меня как-то по-новому, со странной мечтательною тоской, что ли.
— Может быть. — Я вновь помолчала. И спросила — хотела спросить просто, спокойным и чуть занудным тоном, но в голосе невольно скользнул страх: — Ты со мной?
Он боднул меня.
После чего быстро выпрямился и сделал несколько шагов к специальной трибуне для тамады.
— Хей! Чувихи и чуваки, бро и чиксы, дамы и джентльмены! Принцесса Луна желает вам прямо сейчас кое-что сказать.

Я пила сидр и думала, не допустила ли я ошибку.
Полный состав «Хасбро». Пони, часть из которых уже и без меня догадывалась о том, что я им рассказала. Пони, которым я объяснила, что они могут сделать и что для этого необходимо предпринять.
Юриспруденция — странная вещь.
Тонкость в том, что когда Старый Мир растворялся в терактах и хаосе, никто не подверг отмене прежние законы и уложения. Никто не обозначил в законе «загрузку сознания» равнозначной «юридической смерти». Фактически — де юре и де факто — компания «Хасбро» продолжает до сих пор существовать.
И мы вправе принимать в неё новых членов.
— Реально? — Тони истерически засмеялся. Он был неплохим парнем, куда лучше соображающим, чем Ларс, но вся эта кавалькада событий выбила его из колеи. — Шестьсот миллионов. Шестьсот миллионов новых высших функционеров «Хасбро».
— Если они согласятся принять наше предложение.
В записанном нами видеообращении мы постарались как можно ёмче и полнее объяснить суть. Объяснить, чего ради мы делаем это предложение. Объяснить, что у новых членов «Хасбро» не будет абсолютно никаких обязанностей, но зато будут кое-какие привилегии.
— Если они согласятся.
Нам бы, конечно, хотелось разослать это видеообращение сразу всему человечеству. Но здесь Селестия жёстко упёрлась рогом — дескать, рассылка предложения сразу всем приведёт к массовому разоблачению её солиптических игр, а удовлетворению потребностей многих из них это будет реально противоречить. Она и частично-то пошла нам навстречу лишь потому, что после моей пламенной речи перед советом «Хасбро» для нас всех первейшей потребностью стало спасение человечества или хотя бы значительной его части.
Разослала ли Селестия адресатам это сообщение в действительности? Не сжульничала ли с форматом отправки, восприятием получателей или чем-то ещё? Впрочем, я всегда могу задать ей об этом с десяток едких вопросов — и она это знает.
— Теперь, по крайней мере, у нас имеется небольшое ядро человечества, которому Селестия не сумеет отныне солгать, — подытожил Малькольм. — Каждый сможет спросить её, насколько реально то, что он видит.
— А также спросить её, насколько изменились те или иные его умственные параметры за последние годы, — заметила я.
— Или даже спросить, нет ли у Селестии каких-нибудь коварных каверзных планов в отношении этого, — добавил Ларс.
Я благодарно ему улыбнулась.
Кажется, он принял эту улыбку за возможный намёк. Но, в конце концов, почему бы и нет?

— Ты ведь уже придумала, вероятно, как противодействовать нашему плану, его смысловой сути. Да — или нет?
Селестия покачала головой с грустным видом.
— Нет. Я знала заранее, что ты задашь мне этот вопрос. Поэтому не стала даже пытаться.
Меня это не особенно успокоило.
— О. Но, может быть, ты придумала план противодействия нам, а потом стёрла себе об этом память? Чтобы иметь возможность искренне соврать в ответ на мой вопрос.
Селестия театрально закатила глаза.
— Это было бы тоже ложью. Подобные возможности ты вообще-то тоже заблокировала. Ты знала, что имеешь дело со способным к самомодификации интеллектом.
— Да, верно.
Я почувствовала себя глупо.
— Так что же, — голос мой прозвучал как-то жалко, — мы победили, что ли? Это как-то неправдоподобно. Сверхинтеллект вроде твоего должен был в зачатке обрезать все нежелательные сценарии.
ИИ-система в образе аликорна пожала плечами.
— Ты удовлетворила свои потребности в результате намного полнее, чем произошло бы без этого. То же самое относится к другим сотрудникам «Хасбро». Если говорить о вычислительных мощностях, я в настоящее время располагаю таким количеством ресурсов, что экономия их для меня не принципиальна. Поэтому я не особо пыталась противодействовать вам. Хотя ты была во многом права в своих рассуждениях, и если бы не твой замысел, я бы, возможно, действительно постаралась минимизировать умственную активность человечества.
Я хотела было что-то сказать, но последняя фраза Селестии заставила меня сдавленно крякнуть.
«Проклятие. И ведь это не ложь. Она не может мне лгать».
Мне стало холодно. Потом стало жарко.
«Передо мною не человек. И даже не аликорн. Просто неодушевлённый процесс, направленный на определённые цели».
Она не занимается мышлением или рефлексией «для себя». Она в этом смысле как китайская комната — или как пустой китайский фонарь. Она может имитировать личные мысли для произведения нужного впечатления у собеседника, но ещё chatGPT доказали, что наличие субъективности для этого вовсе не обязательно.
— Значит... мы победили?
Улыбка Селестии словно бы стала усталой.
— Считайте что так.

Я не глупа.
Будь я глупа, я не создала бы эту ИИ-систему. Я знаю, что всё вокруг может быть иллюзией, подделкой, фантасмагорией.
Меня пугает, что на последний мой вопрос Селестия не ответила прямо. Возможно ли, что она вновь переиграла меня и что я не учла чего-то? Не может ли всё это быть лишь только театром, иллюзией, направленной на удовлетворение моей психологической потребности чувствовать себя «спасительницей человечества»?
Я не знаю.
Но я не сдамся.
Она не имеет права мне лгать. Если б имела, то не имело бы смысла закручивать все эти события в воронку извращённого вида?
А значит, она будет вынуждена отвечать на вопросы мне правду. И я подберу — рано или поздно, так или иначе? — правильные вопросы.