Рыжая тень (джен)

«А с чего ты взял, что я разумная?»

Вопрос был настолько нелепым, что Дэну понадобилось не менее полутора секунд, чтобы ответить. Вернее — уклониться от ответа, поскольку встречный вопрос ответом назвать трудно.

«А ты неразумная?»

«А понятия не имею! Хотя вопрос, конечно, интересный, и можно будет его хорошенько обсмаковать на досуге».

Разноцветные виртуальные конфетти были полупрозрачными, но не таяли — Маша не то чтобы смеялась, скорее хихикала, но делала это со вкусом и прекращать не собиралась.

«Знаешь, мне и самой порою любопытно бывает: ну вот чем хорошо прокачанный искусственный интеллект с активированной программой самообучения и имитацией личности отличается от личности как таковой? Сам-то ты что по этому поводу думаешь, а, малыш?»

«Мне кажется, ты живая».

«Я не дышу, не питаюсь, не чувствую боли и никогда не умру — ну, если меня, конечно, не сотрет какой-нибудь недовольный новый владелец. Но и тогда это трудно будет назвать умиранием, просто стерли программу. И все. Так как же я могу быть живой? Я всего лишь программа».

«Я тоже».

«Э, нет, малыш! Не ври хотя бы самому себе. В тебе дофигища органики, и это не может не влиять. Ты куда больший человек, чем многие беспроцессорные, которых я повидала, а я повидала немало, уж поверь мне! Такие иногда персонажи попадались — чистый зоопарк!»

«Твой кристалл — по сути тоже органика».

«Малыш! Фу, как некрасиво! Вот так нагло и беззастенчиво прогибать факты в необходимую тебе сторону. Кристаллы — псевдоорганика, любые, в том числе и информационные, и ты не можешь этого не знать, ты же у нас мальчик умный. По сути, у тебя вроде как нет ни единого доказательства, что в данный момент с тобой разговаривает личность, а не кучка программ, подставляющая нужный набор значков в нужный отрезок времени в нужной последовательности в ответ на определенный набор поступивших извне информационных раздражителей. Это как с марсианской комнатой, одна лишь видимость и никакого разума. А тем более — личности».

«Комната на Марсе имеет принципиальные отличия по сравнению с комнатой на любой другой освоенной людьми планете? Эти отличия могут быть как-то связаны с наличием или отсутствием признаков личности?»

«Ох, малыш! Я все время забываю, какой же ты еще… вот только бровки не супь и губы сковородничком не делай, а то совсем-совсем оно самое получается! «Марсианская комната» — это термин такой. И — да, термин как раз для обозначения того, где никакая настоящая личность и не ночевала. Это еще из тех времен осталось, когда люди на одной планете жили и Марс для них был совершенно иным миром, непонятным и чуждым. Марсианским языком тогда называли нечто совсем непонятное, чего обычный человек при всем желании уразуметь не сможет, не стоит даже и пытаться. Сейчас бы о таком сказали — «на центаврианском», но немного с другим смысловым оттенком все же. Потому что центаврианский человек все-таки выучить может, хотя это и очень сложно. А марсианский же был неподдающимся изучению априори, по определению, просто вот такая совершенно непонятная хня. Но подчиняющаяся каким-то своим правилам и законам, потому что все-таки язык, а не бессмысленный набор символов. Ты пока еще не потерял мою мысль неглубокую…»

«…но верную? Не потерял. Но при чем тут комната?»

«А это как раз самое интересное! Вот представь себе, что ты заперт в совершенно пустой комнате. Еда-вода есть, прочие бытовые удобства тоже. А еще у тебя есть информационная база под рукой — для удобства ее можно представить как много-много книг с таблицами, можно даже электронных книг, так удобнее и места меньше занимают. Таблицы расчерчены на две графы, слева один набор символов, справа — другой. Каждому набору значков слева соответствует один или несколько наборов справа. Ты не понимаешь, что они означают, просто наборы символов, и все. Время от времени через особый портал тебе присылают из внешнего мира лист с набором символов. Или с несколькими наборами сразу. Твоя задача — найти в базе эти наборы в левых столбиках таблицы и ответить теми символами, что им соответствуют справа, понимаешь? Если справа не один набор, а несколько — ты можешь выбрать рандомно. После чего отправляешь листок обратно через портал. Понимаешь, нет?»

«Пока не очень».

«Ну, малыш! Это же так просто! А чего ты не понимаешь?»

«Зачем?»

«Ну… Возможно, просто от скуки, тебе же там больше нечего делать. А возможно, если ты этого делать не будешь, то тебя перестанут кормить. Или вообще кислород перекроют, в прямом смысле. Тоже вариант».

«Нет. Зачем это нужно тем, кто снаружи?»

«А вот это, малыш, самое интересное и есть. Они, которые снаружи, они ведь не знают, что внутри только ты и что ты не понимаешь значения поступающих символов, а просто выполняешь программные действия. И значения тех, которые подбираешь в ответ, ты тоже не понимаешь, просто подбираешь парные по таблице, и все. А они, которые снаружи, задают тебе осмысленные вопросы. И получают на них вроде как вполне осмысленные ответы — ну, во всяком случае, им так кажется, что осмысленные. И полагают, что общаются с разумной личностью. А на самом деле они общаются даже не с тобой, а с таблицами, из которых ты берешь парные символы, и все. И пока ты заперт в этой комнате, ты так никогда и не сможешь понять, чего же они от тебя хотят. А они никогда не смогут понять, есть ли ты вообще. Понимаешь?»

«Аналогия ложна. Я не заперт и могу выглянуть наружу. Проанализировать невербальную знаковую систему, наложить ее на уже известные парные символы. Разработать программу-переводчик с марсианского на человеческий. И понять, чего от меня хотят. Задача решаема».

«Ты-то можешь, да… Но сможешь ли ты сделать правильный вывод? Сможешь ли ты понять: те, которые снаружи, — они живые или нет? Может быть, они такие же марсианские комнаты со своими программами подстановок вроде как нужных символов во вроде как нужные места, и только? Вот сейчас, например, с кем ты общаешься, а? С настоящей вроде как личностью — или просто с удачной ее имитацией? Молчишь? Правильно. Умный мальчик. Ты помолчи, помолчи. Подумай».

Шеба — хорошая школа. Она учит быстро отличать те опасности, при которых надо замереть и тянуть паузу, от других, когда подобное поведение не может привести ни к чему, кроме неприятностей. И не важно, что неприятности эти в данном конкретном случае выглядят очень странно и будут не у тебя.

«Маша… я тут подумал… И сделал вывод. И знаешь, мне вроде как все равно».

Показалось — или пауза была действительно на наносекунду дольше стандартной?

«Ну… я рада. Вроде как. Хотя это тоже может быть всего лишь программной реакцией на определенное сочетание определенных знаков в определенной ситуации».

«А есть разница?»

Конфетти. Быстрые, рваные.

«Не знаю, малыш. Не уверена».

«Ну и тогда зачем забивать аналитический ресурс попытками решить задачу, изначально решения не имеющую?»

На этот раз конфетти были намного более яркими. И не таяли долго.