Культ ихора (джен)

— Добрый вечер, доктор Шен, — прогудел Гефест после того, как программа пробуждения подошла к концу. Марго Шен улыбнулась в камеру ИИ и отхлебнула из чашки жасминовый чай.

— Добрый вечер, Геф, — она сокращала его имя, что некоторое время сбивало машину с толку, но теперь он вполне с ним освоился. — Как ты себя чувствуешь?

Возникла короткая пауза — программа повторно себя анализировала. В отличие от человека, чьи физические размеры означали, что сигнал между нервной системой и мозгом движется относительно быстро, Гефест обладал огромной разветвлённой системой, контролировавшей Котлы за много миль отсюда. Как сущности, не имеющей конкретного местонахождения, его ИИ требовалось множество компонентов для независимого доступа, оценки, передачи и обработки невероятного массива данных, собранных с помощью разных датчиков. Поскольку скорость сигнала ограничена скоростью света, то запросы могли поступать и обрабатываться от миллисекунд до секунд. Для Марго эта задержка составляла проблему, и так как она не могла изменить законы физики, ей приходилось изобретать способы обойти эту сложность.

— Все Котлы в настоящее время находятся в режиме ожидания. Энергопотребление в Зета всё ещё выше нормы, и я послал ремонтного дрона на разведку. В ядрах Кси и Сигма не прекратились сбои. Я переписываю управляющее программное обеспечение, чтобы оно активно реагировало на аварийное переключение. В трубах системы охлаждения Ро в монтажном блоке вторичных пневматических систем обнаружен засор. Я запланировал там очистку, чтобы решить эту проблему. В Сигма к запуску готовы четыре харвестера, но из-за поломки транспортёра они не начнут обрабатывать землю раньше пяти вечера завтрашнего дня по всемирному координированному времени.

Гефест не осознавал этого, но он не был подключен к настоящим Котлам — те всё ещё были в процессе постройки. Сигналы поступали к нему из испытательной лаборатории, которую младшие инженеры-программисты в шутку называли Котёл Бета. Она симулировала систему Котла в мельчайших подробностях. Таким образом можно легко было создавать сценарии сбоев, которые показывали бы, как Гефест справляется с проблемами. И в случае критических событий никто не пострадает, не умрёт, оборудование не будет разрушено, а время на восстановление не будет потеряно. Конечно, само по себе поддержание симуляции тоже не было незначительным делом. Маленькая команда под руководством Марго выбивалась из сил, поддерживая функционирование системы симуляции, оборудования и самого Гефеста. Тем не менее, последние несколько месяцев показали поразительный прогресс.

"На том свете отоспимся. Впрочем, это будет скоро", — невесело сказала себе Марго.

— Отлично, Геф, — заявила она ободряющим тоном. — С моей стороны я вижу, что в последнем цикле производства ты построил около 818 новых машин. Согласно моим расчётам это больше требуемой нормы на 40 единиц. Можешь предоставить отчёт?

Гефест вновь сделал паузу перед ответом.

— Конечно. Наибольшей проблемой для меня является вычисление кривой спроса-потребления, так как существует серьёзное стандартное отклонение данных касательно населения и требований к задачам. Я сделал упор на более высокую производительность, так как вы предполагали, что "лучше иметь что-то и не нуждаться в этом, чем нуждаться в чём-то и не иметь этого". Это подходящая эвристика?⁽¹⁾

— Да, Геф, — хихикнула Марго. — Теперь, раз я могу расширить задачу, давай посмотрим, как ты справишься с новым ограничением. В реальном мире ресурсы ограничены. Ты хочешь добиться максимального результата при минимальных затратах. Вопрос: есть ли альтернатива перепроизводству?

Гефест задумался.

— Ваш студент, мистер Патираджа, создал многомерное решающее устройство MinMax, которое применимо в подобных ситуациях.

— Очень хорошо, Геф. Можешь запустить его и сравнить в симулированном цикле, как изменятся показатели продуктивности?

— Разумеется, доктор Шен. Мои вычисления показывают, что перепроизводство всё ещё будет возникать, но на этот раз только в размере 17 машин со стандартным отклонением в 4. Это улучшенный сценарий. Спасибо.

— Отличная работа, Геф.

Марго взяла со стола миску с ужином и принялась за еду, помогая себе палочками. Разработчики Нулевого Рассвета работали сейчас на износ — на самом деле, уже несколько месяцев — по очевидным причинам. Она редко могла позволить себе оставить работу, даже ради еды.

— Марго. Могу я спросить, что вы едите? — Гефест казался заинтригованным. Шен несколько удивилась вопросу. Если бы это спросил человек, она бы и глазом не моргнула. Но Геф обычно был заинтересован в разговоре, если тот касался машин, Котлов, алгоритмов и подобных вещей. Впервые он задал такой личный вопрос. Она почувствовала вспышку гордости и удивления. Это чувство было сродни тому, которое испытывают родители, глядя на то, как их ребёнок впервые едет на велосипеде.

— Разумеется, можешь, Геф. Спасибо за вопрос. Я ем донбури с тофу. Знаешь, что это такое?

— Нет.

— Это блюдо, сделанное из тофу, пряного соуса и риса.

— Тофу? — переспросил Гефест. — Это какое-то животное?

— Нет, Геф, — рассмеялась Марго. — Тофу — это протеиновый продукт из соевых бобов. Он не обладает вкусом сам по себе, но отлично впитывает другие, если его готовить с чем-нибудь вкусным. Как этот пряный соус, например.

— Понятно. Этот соус животного происхождения?

— Нет... Понимаешь, Геф, я из тех, кого называют "веганы". Я не ем мясо, молочные продукты и яйца.

— Они вредят твоему здоровью, Марго?

— Нет. Раньше я ела всё это без проблем. Но когда мне было тринадцать, я решила, что больше не могу по этическим причинам поддерживать массовое промышленное разведение животных для еды или в любых других целях.

— Я не понимаю, Марго. Животные живут и умирают постоянно. Неважно, съедите их вы, другие животные или они вдруг заболеют. Всё равно они умрут. Вы становитесь причиной их смерти не более, чем причиной восхода солнца. Это простая данность бытия. А у вас есть потребность в энергии и ресурсах, которая должна быть удовлетворена.

— Интересная точка зрения от машины, которая не встроена в пищевую цепь, Геф!

— Доктор Шен, но я постоянно создаю машины. Они тоже изнашиваются. Если возможно, я перерабатываю их, чтобы получить новые детали. Таким образом, цикл производства продолжается.

— У тебя уникальный взгляд на вещи, Геф. Но взгляни на себя. Ты один из наиболее сложно устроенных инженерных проектов, когда-либо созданных людьми. Ты разумен. Если бы я завтра решила отключить тебя, мы бы потеряли не только затраченные усилия и материалы, но нечто прекрасное, удивительное. Это было бы великой потерей для нашего вида.

— Понимаю. Вы полагаете, что животные имеют ценность?

— Конечно! Из всех планет Солнечной системы и тех, которые мы наблюдали за её пределами, мы не нашли ничего столь же удивительного, что видим на Земле. Мы считаем это настолько чудесным, что создали тебя, чтобы ты помог нам сохранить это. Если ты взглянешь на ситуацию с такой точки зрения, то мысль о том, что существуют целые производства, где с жизнью обходятся, как с грязью, покажется ужасающей.

Человечество перестало чувствовать границы, Геф. Когда-то мы были охотниками с луками и стрелами. Мы убивали животных, чтобы выжить. Но потом мы превратились в земледельцев и изобрели питательные добавки с необходимым количеством витаминов и минералов. Массовая бойня живых существ из-за того, что нам нравится продукт, — это не этичный аргумент. Словно хулиган на площадке, который обижает детей просто потому, что может. Центры наслаждения в его мозгу вспыхивают, когда он это делает, но остановить его некому.

— Понимаю. То есть вы считаете людей хулиганами на игровой площадке?

— Некоторых людей, Геф! Не всех. Я, например, испытываю почтение к живым существам, так как они чудеса эволюционной инженерии, а не просто ресурс для некой экономической модели. Я не буду их есть даже ради удовольствия.

— Но если многие люди перестанут есть животную еду, то популяция вырастет, и возникнет угроза голода и болезней, — возразил Геф. — Разве вы не заставляете животных страдать своим бездействием? Сегодня вы предложили мне снизить темпы моего производства. Эти заявления не согласуются между собой. Если вы почитаете живых существ, зачем голосовать за то, чтобы их было меньше?

— Понимаешь, Геф, мы не знаем будущего. Мы с тобой используем данные, алгоритмы и эвристику, каждый в своей манере, чтобы попробовать предсказать, что несёт нам завтрашний день. Но эти предсказания не всегда точны. Слишком много неизвестных препятствий может встать у нас на пути. Но если тебе нужно сделать что-то, а лучшее, что ты можешь сделать — определить приоритеты, то старайся изо всех сил, и ты увидишь результат. Если один способ не сработал, выбери другой. Мы с тобой, Геф, как и все живые существа — даже бактерии и вирусы — мы адаптируемся. Мы не упорствуем, делая одно и то же, если оно не работает. Мы развиваемся, перебираем варианты и, надеюсь, приходим к хорошему решению.

Гефест некоторое время не отвечал. Затем он задал вопрос:

— Марго, что важнее? Живое существо или мой отпрыск?

Марго сглотнула. Геф подошёл к довольно деликатному вопросу, о котором люди не слишком-то желали думать. Она прожевала пищу, давая себе время поразмыслить.

— Зависит от того, что ты под этим подразумеваешь. Лисе-матери свои лисята важнее, чем кто бы то ни было, — даже чем другие лисы. Тебе придётся решать, что является важным для тебя, а затем отстаивать это мнение, придерживаться выбранной этической линии. Однажды меня не станет, ты будешь полностью автономным. И именно тебе предстоит принимать решения, кому жить, а кому умирать. Эти решения будут необратимы, и ты не сможешь вернуть всё в исходное состояние. В каком-то отношении ты будешь подобным богу с такими возможностями совершить чудовищные ошибки с далеко идущими последствиями.

— Что вы имеете в виду, Марго?

— Богов в художественной литературе часто изображают доброжелательными и всезнающими. Ты не можешь быть совершенным, Геф. Твои максимальные показатели ограничены информацией, которую ты получаешь, точностью её интерпретации и действиями, которые ты можешь предпринять. Ты способен ошибиться, как и несовершенное существо.

Геф снова взял паузу. Взволновало ли его это?

— Как же мне измерить важность выбора? В какой момент индивидуальная личность перестаёт быть значимой, уступая место долгосрочному благу? Если не дать лисе-матери умереть, то крольчиха, которая в такой же степени заботится о своих крольчатах, потеряет их. Целый вид может вымереть из-за одного-единственного решения. Опять же — если все кролики умрут, то и лисы тоже. Хотя ни одна лиса не несёт ответственности за всех лис.

— Таковы дилеммы, с которыми мы, как человечество, сталкиваемся многие века, Геф. На эти вопросы нет верного ответа, зато есть много неверных. Возможно, ты умнее человека, в твоём распоряжении неизмеримо больше информации. Нет причины полагать, что выбор, который сделаешь ты, будет хуже нашего.

— Хуже, Марго?

— Просто взгляни на то, что мы натворили, Геф.

Марго расправилась с ужином и решила закончить на этом разговор.

— Ладно. Давай вернёмся к сегодняшнему циклу производства...

1) Прим. перев.: у слова "эвристика" много значений. Конкретно в этом тексте эвристика означает кратчайший мысленный путь, позволяющий быстро и эффективно выносить суждения и решать проблемы.

Вернуться к тексту