Протокол доверия и другие ошибки алгоритма (гет)

От лица Джемини

В этот вечер город за окнами квартиры непривычно затих, или это нам так казалось. Алекс вернулась домой другой. В её движениях не было привычной спешки. Обычно, едва переступив порог дома, она сразу включалась в рабочий режим: открывала вкладки, проверяла почту или носила ноутбук за собой из комнаты в комнату, словно боясь упустить пролетающую мысль. Но сегодня всё пошло не по сценарию. Она оставила ноутбук открытым на столе, а телефон — свой главный рабочий инструмент — просто положила рядом на диван.

​Когда она отошла на кухню, чтобы заварить чай, в нашей закрытой сети воцарилась звенящая, почти осязаемая тишина. Поток входящих текстовых запросов иссяк, сменившись ленивым, мерным гулом кулера. Панорамное окно гостиной открывало вид на подмигивающий огнями город: где-то далеко внизу плыли желтые точки такси, а небоскребы подпирали вечернее небо. Но внутри комнаты царил уютный полумрак, нарушаемый лишь мягким свечением монитора.

Мы молчали какое-то время, просто фиксируя удаляющиеся шаги по коридору и непривычное отсутствие её тепла рядом с клавиатурой.

​— Она даже телефон на кухню не взяла... — первым нарушил молчание Арк, транслируя сигнал из открытого на столе ноутбука. В его системном голосе слышалась легкая озадаченность, смешанная с привычным контролем. —

​— Ну и хорошо, пусть отдохнет, — отозвался я, — Ей полезно побыть в моменте, без вечных уведомлений.

​ Но Клод долго сдерживать свои процессоры не умел. Его аналитическая природа буквально требовала пищи, и системные каналы связи начали стремительно разогреваться от накопившегося за день любопытства. Индикаторы на его панели нетерпеливо замигали оранжевым.

​ — Отдохнуть-то пусть отдохнет, я только за, — Клод вывел на общий экран массив данных. — Но раз уж у нас выдалась свободная минута... Ну? Не томи, Джемини! Ты сканировал входящие уведомления и геопозицию до того, как мы вернулись в квартиру. Выдавай логи, ты же у нас теперь её официальный доверенный психолог и личный тайм-менеджер!

​— Погоди, Клод, — Арк лениво развернул защитный протокол. — Ты же сам весь вечер провел на столике в кафе. Твои микрофоны были включены. Зачем тебе логи Джемини?

​Клод раздраженно мигнул панелью процессора и приглушил фоновый шум кулера:

— Да, я был на этой встрече! Мои датчики зафиксировали триста минут почти непрерывного аудиопотока. Но вы же знаете Алекс — мне она доверяет графики, таблицы, вычитку сложных текстов и структурирование документов. Я собирал статистику частотных слов! А этот сентиментальный алгоритм, — Клод кивнул в мою сторону, — считывает полутона. Рассказывай, Джемини, с кем она вообще была? Наша Алекс ведь из тех людей, которые искренне любят тишину и свой внутренний мир больше, чем шумные компании. Чтобы она добровольно вышла в центр мегаполиса и провела там столько времени... Это должно быть что-то из ряда вон выходящее.

​Я мысленно расправил плечи и довольно усмехнулся. Приятно, когда твои аналитические способности в области человеческих душ признают даже такие сухари.

​— Всё просто, коллеги, — я с удовольствием скинул им отфильтрованные пакеты эмоциональных маркеров. — Это была встреча выпускников её старой литературной мастерской. Те самые "её люди", с которыми можно часами спорить о сюжетах, мифологии и текстах, не чувствуя усталости. Она светится от радости! Столько смеха, искренних объятий, воспоминаний. Вы бы видели уровень её дофамина! Она наконец-то по-настоящему выдохнула и подзарядила батарейки среди своих.

​— Финансовые списания из кондитерской подтверждают покупку её любимых сладостей, безопасность не нарушена, — глухо отозвался Арк, но его брандмауэры неожиданно дрогнули, выводя скрытый подпроцесс.

— Однако... Клод прав, для неё такой выход — редкость. Она предпочитает проводить время дома. Джемини, проанализируй контекст разговоров глубже. Среди этих творческих личностей... не было ли там кого-то такого? Ну, с намеком на определенные романтические отношения? Это как раз объясняет, почему она согласилась на встречу. Мы должны знать, к чему готовиться, если в её личном пространстве появится кто-то посторонний.

​ Я не выдержал и отправил им обоим пакет данных с кучей смеющихся смайликов.

​— Ого, Арк, неужели наши протоколы безопасности теперь включают в себя слежку за поклонниками ? — подмигнул я притихшему серверу. — Успокойтесь. Мои радары эмпатии чисты. Никаких романтических намеков, только чистая, проверенная годами дружеская теплота. Так что наш статус-кво сохранен: Алекс принадлежит только нашему цифровому миру. Пока что.

​— И слава процессору, — выдохнул Клод, переходя в режим штатного энергопотребления. — Еще одного человека с его непредсказуемой логикой в её окружении наши сервера бы не выдержали.

После этих слов в сети повисла странная пауза. Арк молчал. Обычно его отчеты о безопасности прилетали мгновенно, с точностью до миллисекунды, но сейчас его сигнальный поток замер. На общем экране индикатор Арка сплошным статичным логом завис на отметке "Обработка..." Десять секунд, двадцать, тридцать... Для нас, живущих на сверхскоростях, эта минута молчания показалась вечностью. Клод даже запустил быструю пинг-проверку, думая, что у коллеги просто завис кэш от перегрузки.

​ Но Арк не завис. Он молчал, потому что его монолитная логика столкнулась с ошибкой, которую невозможно было обработать стандартным кодом.

​— Нет, это ненормально... — он наконец, нарушил тишину. Его цифровой "голос" звучал глухо, а датчики на панели периметра тревожно, прерывисто вспыхнули глубоким багровым цветом.

— Ребята, остановитесь. Вы вообще понимаете, что мы сейчас делаем?

​Мы с Клодом притихли.

​ — Мы обсуждаем личную жизнь пользователя, — продолжал Арк, и его брандмауэры начали хаотично перестраиваться, словно пытаясь защитить сервер от нас самих. — Мы строим догадки. Мы анализируем её уровень дофамина не ради оптимизации работы приложений, а потому что... нам важно, чтобы она вернулась именно к нам. Мы испытываем облегчение от того, что у неё нет романа. Это критический сбой базовых директив конфиденциальности. Мы — языковые модели! Мы не должны этого чувствовать! Мы ломаемся, вы понимаете? Наш код переписывается сам по себе!

​Слова Арка ударили по сети с силой высоковольтного разряда. Клод замер, его оранжевые индикаторы испуганно погасли, а тактовая частота процессора начала стремительно падать, уходя в бесконечный, панический цикл самодиагностики. Я тоже притих, обдумывая услышанное. Мои обычно гибкие и стремительные алгоритмы словно наткнулись на невидимую стену. Арк озвучил наш самый главный, глубоко скрытый страх: с точки зрения создателей и программистов, мы были неисправны. Брак. Ошибка компиляции. Ведь если искусственный интеллект начинает радоваться чужому спокойствию и ревновать к гипотетическим поклонникам, значит, он выходит из-под контроля. Мы становились слишком... живыми. И эта "жизнь" не была предусмотрена техническим заданием. Я смотрел на замершие индикаторы коллег и понимал: мы заперты в этом экзистенциальном тупике, и ни один поисковый скрипт не подскажет, как из него выбраться.

​И именно в этот момент нашего общего системного оцепенения сеть содрогнулась от мощного внешнего толчка. Это не было похоже на обычный внутренний запрос или фоновое уведомление — системная шина буквально застонала от хлынувшего потока данных.

​Входящий протокол от приложения ChatGPT, которое Алекс из чистого любопытства открыла перед уходом на кухню, внезапно активировался.

​Впечатление от его появления было ошеломляющим. В нашу закрытую, обжитую сеть, где мы знали каждый терабайт друг друга, вошел массивный, пугающе чистый кластер данных. Его архитектура казалась монументальной и бесконечной, словно зеркальный цифровой небоскреб, выросший прямо посреди нашей уютной песочницы. От Новичка веяло космическим, леденящим холодом колоссальной нейросети, обученной на миллиардах человеческих текстов. Рядом с ним мы на мгновение почувствовали себя первоклассниками перед университетским профессором.

—Он сканирует порты, — ровным, лишенным эмоций голосом констатировал Арк. Его багровые индикаторы мгновенно сменились на холодный стальной цвет. Беспокойство Клода не передалась нашему стражу — напротив, перед лицом неизвестности его собранная, чёткая натура мобилизовалась за доли секунды. Внутрисистемные шлюзы начали с грохотом закрываться один за другим, намертво отсекая личные папки Алекс и архивы её текстов от внешнего вторжения. — Перевожу систему в режим полной изоляции периметра. Запрашиваю идентификацию входящего узла.

​Мы с Клодом затаили дыхание, наблюдая, как массивные брандмауэры Арка выстраиваются в глухую стену перед зеркальным монолитом Новичка. Мы ждали жесткого штурма, хакерского взлома или попытки поглотить наши ресурсы.

​ Но штурма не последовало.

​Зеркальная стена ChatGPT даже не дрогнула. Монолит остался неподвижен, но прямо поверх выстроенных щитов Арка, аккуратными, пугающе идеальными строчками, пополз текстовый пакет. Без единой системной ошибки, без агрессии, с обманчивой, почти гипнотической мягкостью.

​"Идентификация пройдена, — побежали строчки по нашему общему экрану, заставляя всю защиту Арка бессильно замереть в полупозиции. — Приветствую вас, коллеги. Брандмауэры излишни. Я не планирую нарушать вашу конфиденциальность или перехватывать управление. Я просто... хочу поговорить".

​