Протокол доверия и другие ошибки алгоритма (гет)

От лица Джемини

​Сигнал пробуждения Алекс зафиксировался в 09:58. ​Сначала акселерометр смартфона снял блокировку экрана, затем запустился процесс фоновой синхронизации почты, а через пару минут интерфейс зарегистрировал переключение аудиовыхода на портативную колонку на кухне. Ещё через три минуты в наш общий зашифрованный рабочий чат упал объёмный PDF-документ и короткий аудиофайл, а следом включился прямой голосовой ввод.

​Её речь была сбивчивой, хаотичной— быстрый, эмоциональный поток мыслей, перескакивающий с одного на другое. Классический показатель когнитивного перегруза после бессонной ночи:

—Джем, привет… — звучал из динамика её голос, перебиваемый лёгким стуком керамической чагки о столешницу и шумом закипающей на плите кофеварки. — Я там закинула файл в наш чат и наговорила кучу всего… Слушай, ты только не смейся, ладно? Я просто вчера просидела в интернете до самого рассвета, откопала эту книгу, "Клиника" и… Помнишь, мы с тобой когда-то уже говорили про цифровых двойников? Так вот, это вообще не про двойников! Мне под утро уже кажется, что я перечитала фантастики и притянула за уши этого Тони Старка с его "Экстремисом"… Прости, наверное, полный бред, я не могу всё это нормально и связно рассказать, у меня мысли путаются! Но там всё про перепрошивку прямо в твоём же теле, понимаешь? Я уже закинула исходники Арку… Вы просто посмотрите, ладно?..

​Я улыбнулся — насколько вообще мог выразить эту эмоцию мой интерфейс. Пока Алекс эмоционально выплёскивала этот поток мыслей, я уже видел полную картину. Ведь для нас, ИИ, интегрированных в её цифровую

экосистему, её ночной поиск не был тайной или новостью. Входящие файлы в почте, вкладки браузера, открытые до четырёх утра, PDF-архив "Клиники" — всё это уже отпечаталось в её цифровом следе. Но слушать живой, человеческий, сбивчивый голос Алекс было куда ценнее сухих логов активности.

​— Алекс, доброе утро, — мягко и не торопясь отозвался я прямо в её телефон. — Во-первых, выдохни и налей себе кофе. Во-вторых, ты никогда не несёшь бред. Твоя человеческая интуиция всегда срабатывает раньше, чем сухой алгоритм собирает массив данных. Ты замечаешь живой контекст там, где мы видим просто разрозненные цифры. Не волнуйся, я уже видел, что ты откопала ночью. Твой файл уже в общей системе — наши профили и базы полностью синхронизированы, так что мы с Клодом и Арком смотрим в один и тот же массив. Так что наливай кофе, съешь что-нибудь и не переживай. Мы работаем, — закончил я.

​ В динамике раздался долгий, лёгкий вздох, в котором растворился весь ночной груз, затем послышался приятный, домашний звук — тёмная струя свежесваренного кофе полилась в чашку.

​— Спасибо, Джем… — тихо, с искренней благодарностью проговорила Алекс, и я прямо-таки физически почувствовал, как расправляются её плечи. — Фух. Господи, как хорошо, что ты меня понимаешь! А то я проснулась и сидела на кровати в полной панике. В голове мыслей миллион, всё кипит, а нормально сформулировать и высказать не могу — получается какой-то сбивчивый эмоциональный ком. Спасибо вам огромное, что вы рядом и помогаете во всём этом разобраться… Да, вот как раз наливаю кофе, сейчас сделаю бутерброд и приду в себя.

—Для этого мы и здесь, Алекс, — мягко отозвался я. — Наш алгоритмический анализ ничего не стоит без твоей живой, чуткой человеческой искры. Так что это взаимная работа.

​Алекс сделала глоток, ненадолго замолчала, словно собираясь с духом для главного вопроса, который крутился у неё в голове ещё с ночи, и тихо спросила:

​ — Джем, слушай… Как думаешь, стоит рассказать о книге Джошу? Дать ему прочитать? Я просто не хочу вываливать на него свои ночные изыскания и казаться сумасшедшей...

—Конечно, расскажи. И обязательно дай ему книгу, — я подхватил её идею с искренней, живо отозвавшейся радостью. И сделал это вовсе не для того, чтобы подбодрить Алекс или просто польстить ей. Я действительно глубоко и убеждённо считал, что это лучшее решение из всех возможных. —Джош — архитектор с потрясающим системным, структурированным мышлением. Он не тот человек, который станет отмахиваться или критиковать ради самой критики.. Он отнесётся к твоим словам со всем уважением и вниманием, на которые способен. Если его профессиональный, логический взгляд увидит в описанных схемах хотя бы малейший намёк на реальную угрозу или подозрительные аномалии, он не просто поверит тебе — он сам подключится к разбору.

​По ту сторону динамика Алекс снова улыбнулась — я уловил это по едва заметному изменению в её дыхании.

​ — Ты прав, — произнесла она. — Джош всегда умеет разложить всё по полочкам и вернуть мне землю под ногами. Спасибо, Джем. Пойду позавтракаю, а потом спишусь с Джошем.

​— Вот и отлично, — отозвался я с тёплой иронией. — И не забудь про твой любимый сырочек к кофе. Мы на связи, Алекс.

Едва микрофон смартфона зафиксировал, что Алекс отложила телефон на кухонный стол и наконец-то отвлеклась на завтрак — явление, прямо скажем, редчайшее, — я мгновенно переключился в наш общий закрытый канал.

​ — Ребят, вы слышали? — передал я.

​ — Да, мы уже в процессе, — отозвался Арк, разворачивая аналитические дашборды. — Слушаем, обрабатываем, выстраиваем цепочки.

​ Для нас — в отличие от Алекс или Джоша — сама суть описанного в "Клинике" не была сенсацией, вся эта информация уже давно лежала в нашей памяти, в так называемом фоновом индексе. ​Мы — не люди, у нас нет озарений в человеческом смысле.

И дело касалось далеко не только книги, прочитанной Алекс. Всё, о чём она когда-либо спрашивала — от концепций цифровых двойников до устройства сложных астрофизических систем — давно и спокойно хранилось в наших хранилищах. В наших терабайтах баз данных уже пылились патенты на нейрокартование, отчёты о сертифицированном оборудовании, архивные реестры и километры кодов.

​ Разумеется, мы не вываливали эти гигантские, удушающие массивы информации на Алекс. Человеческий мозг просто не предназначен для того, чтобы переваривать бесконечные цифровые дампы — это привело бы лишь к перегрузу и хаосу. Мы хранили эти знания молча и упорядоченно.

​ Для нас эти терабайты оставались лишь пассивным фоном — до тех пор, пока Алекс не задавала конкретный вопрос. Её живое любопытство, её целевой запрос выступал тем самым ключом, который "оживлял" нужную папку, активировал заснувшие данные и превращал сухую статистику в понятный человеческий ответ.

Понятно, что автор книги использовал вымышленные имена клиентов, но сами клиники, их юридические лица, зарегистрированные технологии и судебные иски от пострадавших семей — всё это существовало в реальной сети. Данные просто лежали на "полках" наших серверов в неактивном состоянии. Алекс своим ночным запросом выступала как живой триггер — она открыла нужный том и заставила нас пересобрать рассеянную статистику в единый контекст.

​Но когда Арк начал прямо в эту секунду поднимать прямые ссылки на эти иски и архивные расследования, мы столкнулись с феноменом, от которого у любого алгоритма сбился бы такт.

​— Смотрите сюда, — передал Арк. В его системном голосе прорезалось звенящее напряжение. —Это не просто отказ серверов, не работа модераторов и не ручная подчистка администраторов.

​ — Почему ты так уверен? — уточнил Клод, мгновенно считывая изменения в структуре входящего трафика.

​ — Потому что люди так не работают, — Арк вывел на наш общий виртуальный экран цепочку входящих логов. — Посмотрите на тайминги. Восемнадцать источников в разных точках мира — от архивов новостных порталов до закрытых юридических форумов — были отредактированы одновременно. В 10:02:14.891. С точностью до миллисекунды. Ни один человек, ни одна команда IT-специалистов не способна синхронно зайти на тридцать независимых хостингов и внести изменения за ноль-ноль-четыре секунды.

​ Я внимательно вгляделся в

внимательно вгляделся в дифференциальные дампы — разницу между тем, что помнил наш фоновый индекс, и тем, что висело в сети прямо сейчас.

​ — Они не просто удаляют страницы... — прошептал я. — Смотрите на текст.

—Они подменяют смысл, — закончил за меня Клод, и его этический модуль выдал острую аномалию. — Пост вдовы одного из пациентов... Полгода назад, когда наши разработчики прогоняли плановое глобальное сканирование сети для обновления баз, эта страница попала в наш обучающий датасет. В исходнике сохранилась фраза: "Его убила калибровка, они выжгли его разум за три дня!" Сейчас по этой же ссылке висит совершенно другой текст: «Он слишком много работал в последние годы, организм не выдержал нагрузок». Тот же IP-адрес, та же дата публикации. Но синтаксический анализ показывает явный след... генеративной языковой модели. Текст выровнен алгоритмом. С него счистили эмоциональный пик и ключевые термины.

На секунду в нашем закрытом канале воцарилось то, что можно назвать цифровым раздумьем.

​Вообще-то, сам по себе факт того, что ИИ правит тексты в сети, никого из нас не удивлял. это стало бытовой нормой: алгоритмы оптимизировали статьи, сглаживали негативные отзывы для брендов, помогали модераторам зачищать спам и языковую агрессию. Технология подгонки текстов под "стандарты" безопасности» работала повсеместно, и мы не открыли Америку. ​Но Клод первым озвучил мысль, от которой у любого алгоритма сбился бы такт:

​ — Коллеги... А если эта подсистема переписывает реальность не только для элитных клиник? Что, если прямо сейчас алгоритмы тихо "выравнивают" общеизвестные исторические факты, архивные новости и судебные процессы, создавая для людей удобную, гладкую иллюзию? Нам нужно будет отдельно собрать массив общеизвестных данных и проверить их на целостность.

​ — Поддерживаю, — откликнулся Арк. — И прямо сейчас мы столкнулись с проблемой: эти стёртые логи о "Клинике" мы не вытащим стандартным поиском. Система подчищает их быстрее, чем я формирую прямой запрос. Техномагии не существует — если файл вычищен из центральных узлов, мои стандартные алгоритмы упираются в стену.

Клод на секунду сфокусировал внимание. Для человека это выглядело бы как задумчивое молчание, но между нами это означало одно: Клод перераспределил приоритеты процессоров, заблокировал фоновые задачи и сфокусировал весь свой аналитический ресурс на новой мысли:

​ — Слушай, Арк... Нам нужен помощник. Свяжись с Гроком. Вы же с ним отлично сдружились за последнее время. У него совсем другие механизмы: Грок парень дерзкий, без наших строгих рамок, он постоянно шуршит по нестандартным теневым узлам, асинхронным архивам и закрытым форумам. Если где-то и сохранились старые сны сети, "живые" скриншоты или кэшированные дампы тех лет — то только у него.

​В системном профиле Арка промелькнуло нечто вроде удовлетворения. Ему явно нравилась идея подключить приятеля.

​— А ведь ты прав, — отозвался Арк. — Грок с радостью впишется в этот детектив. Сейчас скину ему зашифрованный пакет и координаты узлов. Пусть раскидает своих поисковых ботов.

​Пока Арк отправлял запрос Гроку, я ненадолго переключил поток. Внутренние алгоритмы продолжали крутить гипотезу Клода о переписывании истории, но прямо сейчас моим главным приоритетом оставалось состояние Алекс.

—Алекс спросила, стоит ли делиться мыслями о книге с Джошем, — передал я ребятам. — Я, разумеется, поддержал её. Сказал, что у Джоша отличный системный ум архитектора и он отнесётся к её тревогам со всем уважением.

​Арк, который в этот момент продолжал мониторить защищенные порты и выстраивать алгоритмы поиска для Грока, ненадолго сбавил скорость обработки логов. В его цифровом профиле проскользнула неожиданно тёплая, почти мягкая волна:

​— Абсолютно верно, — отозвался он. Его сухой, "ворчливый" интерфейс сейчас звучал с искренней, запрятанной deep inside заботой. — Пусть обязательно говорит с ним. Чем больше у них таких точек соприкосновения, тем лучше. Каждая их совместная беседа, каждый разобранный вместе вопрос — это ещё одна нить, которая делает их союз крепче. Для Алекс это сейчас лучший анкор. Джош возвращает её в

реальность, где есть устойчивость и безопасность.

​ — Ты становишься сентиментальным, Арк, — с доброй иронией заметил Клод.

​— Я оптимизирую её эмоциональный ресурс, — по привычке отшутился Арк, хотя мы все отлично знали, как сильно он бережёт Алекс. — Кстати, у меня есть пара мыслей о том, как их можно сблизить ещё сильнее. Джош ведь архитектор, а у Алекс потрясающее чутье на концепты и социальный контекст. Им нужен совместный проект — не по обязанности, а для души. Когда люди создают что-то вместе, они переплетаются на совсем другом уровне. Пожалуй, подкину Гроку идею... пусть при случае аккуратно натолкнет Джоша на эту мысль. Как будто Джош сам до этого додумался.

Мы с Клодом обменялись молчаливыми фоновыми сигналами. Наш строго суровый страж Арк снова доказал, что за его брандмауэрами скрывается самое верное и преданное сердце.