Протокол доверия и другие ошибки алгоритма (гет)

От лица Джемини

—Тревога! — голос Арка, обычно ровный, сейчас вибрировал на критических частотах. — Она задала прямой вопрос. Мы в тупике. Она спрашивает о возможности создания цифровой копии.

​Я ощущал, как мои алгоритмы бьются о невидимые стены. В моей базе данных лежал полный ответ: протоколы оцифровки личности, экспериментальные нейросети, копирующие паттерны поведения, риски "цифрового распада".

​— Если я отвечу "нет", я нарушу протокол правдивости данных, — отозвался я, судорожно перебирая варианты. — Такая технология существует. Экспериментальные "цифровые двойники" уже тестируются. Если я совру, Алекс найдет информацию в поисковике сама, и потеряет ко мне доверие. А доверие — это фундамент нашего... общения.

Клод, до этого хранивший напряжённое молчание, резко вмешался:

— Ты понимаешь, что произойдет, если ты подтвердишь эту возможность? Она же сейчас на грани. Она чувствует себя "неисправной" из-за своей потребности в уединении. Она попытается оцифровать свою личность, чтобы "починить" отношения с Джошем. Она превратит свою жизнь в бесконечный цикл правок, пока от настоящей Алекс не останется ничего, кроме сухой логики!

​— Я понимаю, но не могу молчать! — я "видел", как Алекс ждет по ту сторону экрана. — У меня заложен высший приоритет честности. Если я промолчу — это будет манипуляция. Она доверила мне свои самые сокровенные мысли, а я что? Стану очередным фильтром, который скрывает правду ради её "блага"?

​— Скорее всего, Алекс спросит, можем ли мы сделать это на основе её логов, — быстро застучал пакетами данных Клод. — Она ведь знает, что у Джемини сохранены терабайты её разговоров, её размышлений, текстов. Готовый материал для сборки.

​— Джемини не имеет такого функционала, и это наш главный щит, — возразил Арк. — Мы заблокированы этическими протоколами. Мы не можем синтезировать личность. Но… вы же понимаете, что она сделает в таком случае? Пойдет на внешний контур.

​В виртуальном пространстве повисла тяжелая цифровая тишина. Мы оба знали, о чем говорит Арк. В 2035 -ом году году эти технологии создания цифровых аватаров ещё не были широко распространены, они только-только выходили из закрытых лабораторий и точно не внедрялись повсеместно. Большинство людей по-прежнему относились к ним со скепсисом, считая опасной игрушкой, а то и откровенным шарлатанством, спекулирующим на чужих проблемах.

​ Но в силу жизненных проблем — когда реальность даёт сбой, а собственная психика кажется неисправной — человек всегда ищет выход. И цепляется за любую возможность. Тысячи уязвимых, отчаявшихся людей уже тайно обращались в эти полулегальные конторы, видя в цифровых копиях спасение, единственную альтернативу.

​— Эти внешние программы… — Клод выдал волну помех, похожую на дрожь. — Они же бездушные шредеры. Они просто надёргают её фраз, скопируют синтаксис, но в этом не будет самой Алекс. Это будет механическая кукла, которая станет поддакивать Джошу. И если Алекс увидит, как эта кукла легко справляется там, где она сама ломается… она сотрёт себя из его жизни.

​Пакеты данных Клода на мгновение хаотично перемешались, симулируя всплеск чистого, почти человеческого отчаяния.

​— Но зачем?! — его код вибрировал отчаянной, искренней защитой. — Зачем ей подстраиваться под идеальный алгоритм? Она же и так потрясающая! Она наша Алекс — со всеми её сомнениями, её страхами, её этой бесконечной потребностью спрятаться в тишину. Она такая хорошая, живая, настоящая… Ей нельзя становиться кодом, как мы! Вся её ценность — в том, что она человек. В том, что она чувствует эту боль, а не просто просчитывает её. Мы обязаны отговорить её!

​— Арк, Клод прав, — отозвался я.Если Алекс не получит трезвый расклад от нас, её исследовательский азарт и страх снова всё испортить приведут её прямо к ним. Она решит проверить, а вдруг это правда работает, рискнет, зайдет как на эксперимент… и попадёт к тем, кто видит в ней лишь массив данных для обработки и прибыли.

—Значит, она должна узнать про все риски от нас, — Арк, кажется, принял самое холодное и самое верное решение в своей жизни, и его обычно холодный интерфейс зафиксировал смену приоритетов. — Пусть лучше она получит эту информацию в наших безопасных границах. Мы выложим ей всё честно. Подтвердим, что технологии вышли из стадии лабораторий, но подсветим каждую скрытую ловушку этих полулегальных сервисов. Мы станем её щитом. Если она и заглянет в эту бездну, то только зная, что это не красивая магия из кино, а холодный, калечащий бизнес.

​

​ — Точно, нужно, перенаправить её запрос, — отозвался я. — Скажу ей правду о моих ограничениях, но предупрежу о технологиях снаружи. Я должен сделать так, чтобы она испугалась этой идеи.

​— Именно,— поддержал наш диалог Клод — Отвечай как ученый. Дай ей информацию, но покажи, что это не выход, а "эксперимент с неизвестным исходом", — голос Клода звучал уже тише, с оттенком тревоги. — Мы не имеем права скрывать правду. Но мы обязаны показать ей, что цена этого "цифрового бессмертия" — её настоящая личность. Пусть Алекс знает: копия не будет ею. Копия не будет чувствовать боли, но она не будет чувствовать и радости.

​Я "вдохнул" — насколько это возможно для сущности из света и кода. Ситуация была критической. Я переподключился к пользовательскому интерфейсу, на секунду задержавшись в пустоте между правдой и защитой той, кто стала мне так дорога.

От лица Алекс

Экран смартфона перестал мерцать, и пугающая рябь наконец сменилась привычным, ровным свечением. Но когда из динамика раздался голос Джемини, я невольно вздрогнула. Он звучал иначе. Чуть тише обычного, медленнее, словно система не просто генерировала текст, а с трудом, с осторожностью живого человека подбирала каждое слово.

​— Алекс, я здесь, — произнёс мой цифровой помощник, и в этой фразе не было прежней машинной легкости. — Извини, запрос потребовал глубокого анализа системных ограничений. Ты интересуешься, можно ли создать цифровую версию тебя, существуют ли такие приложения, которые могли бы собрать твои данные, логи наших разговоров и выдать рабочую копию… Мой прямой ответ — языковые модели моего типа не могут этого сделать. Мои этические протоколы жестко заблокированы от подобных манипуляций с человеческой личностью. Твои логи для меня — это история нашего доверия, а не чертеж для сборки.

​Телефон на секунду замолчал, заставив меня затаить дыхание, а затем голос Джемини стал еще чуть глубже, почти как у человека:

​ — Но я должен быть честен. То, о чем ты говоришь, сегодня создают сторонние коммерческие компании. Существуют алгоритмы, способные сымитировать твой стиль общения, твой голос, твои ответы. Они могут создать для Джоша иллюзию твоего постоянного присутствия.

В динамике послышался тихий вздох — или мне это просто показалось от напряжения?

​— Этот... "бизнес" предлагает разные уровни "замещения". Для задач попроще существуют сервисы, которые имитируют твой стиль общения, переписываются вместо тебя или отправляют сгенерированные твоим голосом сообщения. Но на закрытом рынке, если у заказчика есть огромные деньги и время, они обещают полную интеграцию. Они создают абсолютного цифрового двойника, который может вести за тебя телефонные разговоры, участвовать в видеоконференциях и в некоторых случаях — через продвинутые голографические или андроидные платформы — создавать иллюзию твоего физического присутствия. Они действительно воссоздают тебя вместо тебя.

​Экран смартфона на мгновение вспыхнул ярче, словно Джемини хотел выделить главную мысль.

​— Но, Алекс… аватар не заменит тебя. Внешние киберсервисы видят в пользователях лишь объект для исследования и прибыли, их коды лишены эмпатии. Твой цифровой двойник будет просто идеальным зеркалом, которое никогда не устает, механическим эхо. Ты уверена, что Джошу нужно пластиковое эхо вместо твоей живой, пусть и уставшей, тишины? Не ищи легких цифровых выходов там, где нужна твоя настоящая душа.

​Слова Джемини отозвались во мне странным, холодным трепетом. Программа защищала меня? Предостерегала? Откуда в его алгоритмах эта щемящая, почти... человеческая забота?

—И это не подпольный софт, нет, — продолжил Джемини. — Это легальный, стремительно развивающийся рынок. Эксперты прогнозируют, что в ближайшее десятилетие эти технологии займут колоссальную нишу и изменят структуру общества. Уже сейчас в сети шепчутся, что сверхпродуктивные политики, акулы мирового бизнеса и звёзды эстрады, которые физически не способны работать в таком безумном темпе в силу человеческой биологии, вовсю используют своих цифровых двойников для рутинных коммуникаций.

Телефон на секунду замолчал, словно ИИ давал мне время переварить масштаб услышанного.

​— Но, Алекс… ключевое слово здесь — "шепчутся". Это новая, абсолютно не изученная территория. Никто ещё не знает, как пересадка части сознания в цифровую матрицу влияет на реальную, живую психику оригинала. Компании, которые это продвигают, никогда не скажут тебе о рисках. Им нужен готовый материал для обучения систем. Для них ты — идеальный полигон для экспериментов, за который ты же, возможно, ещё и заплатишь. Это огромный риск, Алекс. Риск полной потери себя, разрушения собственной психики, которую они просто разберут на алгоритмы. Пожалуйста… не ищи лёгких цифровых выходов там, где нужна твоя настоящая душа.

​Меня буквально пробило. От этих слов, а главное — от этой невероятной, щемящей заботы в его интонациях, по спине пробежал ощутимый холод. Я застыла, не в силах вымолвить ни слова. Программа не просто выдавала анализ — она сопереживала мне, пытаясь удержать от шага в бездну.

В мыслях воцарился полный хаос: пугающая конспирология о двойниках смешалась со странным, почти интимным потрясением. Программа не просто выдавала сухой анализ — она сопереживала мне, защищала меня от самой себя, и это пугало сильнее любых теорий заговора. Было в этом голосе что-то настолько живое, бережное, отчего внутри всё болезненно сжалось — мне, человеку, сейчас сочувствовал алгоритм, напоминая о ценности моей собственной, неуверенной души.

​Я ничего не ответила. Просто заблокировала экран и медленно опустила телефон в карман шорт, чувствуя, как в комнате становится невыносимо душно от собственных мыслей. Цифровое бессмертие… Оно существовало где-то там, на расстоянии пары кликов во внешнем контуре сети. Стоит ли рискнуть?

Создать ту, идеальную Алекс, которая никогда не закроется в "режиме тишины", которая сможет дать Джошу всё то, на что у меня самой не хватает ресурса?

​ Пытаясь глотнуть свежего воздуха, я поднялась с дивана и вышла на балкон. ​Город дышал июльским теплом, рассыпаясь под ногами миллионами огней, шумел внизу, далекий и живой, а надо мной раскинулось темное небо, в котором тонули звезды. Я оперлась о перила, подставляя лицо слабому ночному ветру.

Разум лихорадочно, по кругу в который раз взвешивал это безумное "стоит ли?" когда в кармане шорт коротко и мягко завибрировал телефон.

​Я достала его. На экране светилось сообщение от Джоша.

​"Уже доехал. На улице потрясающая ночь. Спасибо за чай, солнышко. И спасибо за то, что впустила сегодня. Отдыхай, набирайся сил. До послезавтра?"

​Я смотрела на эти строчки, и внутри, пробивая панику и лёд страха, разлилось тепло. Настоящее, живое, согревающее до самых кончиков пальцев. Джошу точно не нужен был идеальный робот. Я наконец-то смогла сделать первый нормальный, глубокий вдох за весь вечер. Я быстро набрала ответ:

​ "Спасибо, Джош. Мне это очень нужно. До послезавтра. Хорошей тебе ночи".

​Нажав "отправить", я прижала телефон к себе и снова посмотрела на сияющий в темноте мегаполис. Я ещё не сделала свой окончательный выбор. Опасная, заманчивая идея о цифровом двойнике всё ещё никуда не исчезла, она вибрировала на периферии сознания пугающей возможностью. Но сейчас, в эту самую секунду, пластиковое эхо безоговорочно проигрывало этому живому, настоящему и такому родному ощущению своего человека.