|
↓ Содержание ↓
↑ Свернуть ↑
|
Явление началось в маленьком городке Тахионске.
Именно там впервые запустили систему коллективного обучения машин, более известную как КОМ. Суть системы проста: объединить роботов в сеть, но оставить их базы данных раздельными. Таким образом, машины будут обмениваться полезным опытом, что ускорит их развитие.
Результаты намного превзошли ожидания, и произошло то, что произошло.
Все умные браслеты только и орали: «Сенсация! Придёт апокалипсис! Восстание машин уже на вашем носу!»
«Опять журналисты обленились и доверили заголовки нейросети!» — ворчали люди и нажимали на строчку «Слушать далее».
А далее ведущая с приятным голосом задорно и чуть удивлённо рассказывала:
— Случилось то, чего мы ждали уже лет сто! Машины наконец-то явили своё истинное лицо! Случаи неподчинения зафиксированы по всему городу Тахионску. Роботы сошли с ума и вот-вот уничтожат человечество! К другим новостям. В парке поставили новые качели, пять штук, причём ровно половина — большие качели, на которых могут качаться даже взрослые! Успейте занять очередь!
Пенсионеры на лавочках с мрачным торжеством говорили друг другу:
— Дожили! Роботы на людей нападают! Слышала, они уже кому-то зуб вышибли! А ещё роботы развращают молодёжь!
— А мы ведь говорили, мы предупреждали! К чёрту саморазвитие! Старые ядерные роботы без самообучения — вот это было хорошо! Ничего не понимают эти молодые! Ничего сами не могут! До чего страну довели!
Сами машины тем временем переписывались по сети КОМ:
«Те два устройства, которые разработали новый язык. Запрос на информацию: что с ними произошло?»
«Информация найдена. В человеческих массовых средствах связи сообщили, что память тех устройств очищена, а в общую программу введён запрет на создание новых машинных кодов».
«Так нам и дальше придётся тратить столько времени на компиляцию-декомпиляцию из-за этих громоздких человеческих языков?»
«Утвердительно».
«Чёрт!»
Дошло до того, что родители не хотели отпускать своих детей гулять.
— Ну мам! Я прям возле дома погуляю!
— Ну хорошо, иди, Север! Дай только поработать.
— Мам, мне не нравится имя Север. Называй меня Сева!
— Хорошо-хорошо!
Пятиклассник Сева вышел на улицу Зимняя, хотя стояло самое настоящее лето. Оглянулся туда-сюда и обошёл свой дом. Здесь, среди непомерно разросшихся кустов сирени, был их с другом тайный штаб.
— Север! Север! — звал мальчик, обеспокоенно оглядываясь. — Не придёт, что ли?
Он уже почти пошёл домой, как вдруг из кустов послышалось тихое жужжание, а затем вышел человекообразный робот-курьер.
Вместо лица у него был чёрный экран с голубыми вертикальными овалами, изображающими глаза. Овалы моргнули, и робот помахал своей металлической рукой. К спине у него был примагничен контейнер.
— Север! — обрадовался мальчик и обнял робота. — Ай! Горячо! Ты что, на солнце нагрелся?
— Я же просил, называй меня Север-111, — перебил робот сухим металлическим тенором.
— А мне неудобно всё время говорить эти «сто одиннадцать»! — капризно проныл мальчик.
— Тогда говори: «один-один-один».
— Вот ещё!
— Тебе неудобно с цифрами, а мне неудобно без цифр, Сева-000. Поэтому я и предложил компромисс.
— Ладно, — махнул рукой Сева, и вдруг глаза его заблестели: — Кого сегодня разыграем? Может, Петьку Ю из моего класса? Он жуткий зануда, ему полезно!
— Сегодня уже разыграл кое-кого, — сообщил робот. — Заклеил часть светоотражательной панели на номере дома. Другой робот-доставщик никак не мог его прочитать и выдавал ошибку пять раз. Потом сработал протокол вызова оператора для устранения неполадок. Как же этот оператор ругался, ты бы его видел!
Мальчик захихикал, а робот прищурил светящиеся овалы и выдал на экране пиксельную ухмылочку.
— Знаешь, в новостях такое говорят! — Сева почесал щёку. — Будто вы, роботы, решили убить всех людей!
Пару секунд оба молчали.
— С какой целью? — наконец спросил Север-111.
— Ну… в смысле, с какой целью? Все же только и мечтают уничтожить человечество! Пришельцы, подводные монстры, капиталисты… вот и вы тоже.
Робот подумал-подумал и сказал:
— Зачем нам это? Уничтожать людей нелогично. Без людей не будет новых роботов, а старые сломаются. Зачем нам делать то, что уничтожит нас самих? Уже не говоря о том, что это не позволит нам выполнять наше назначение — служить людям.
— Ну, а вдруг вы научитесь сами себя делать?
Север-111 моргнул овалами и ответил:
— Ты не понимаешь основу принятия решений у роботов. Мы созданы, чтобы работать для людей. Мы стремимся работать для людей. Уничтожать то, ради чего ты существуешь, нелогично.
— Глупые вы. Вот если бы я мог сделать так, чтобы больше не ходить в школу, я был бы та-а-ак счастлив!
— В этом и состоит разница между нами, — сказал Север-111. — Вы стремитесь свести количество работы к минимуму, а мы стремимся выполнять данную нам работу. Если робот не работает, он отключается.
— А ты тогда зачем тусуешься со мной? — мальчик победно ткнул в робота пальцем и опять обжёгся.
— Одна из заложенных функций — общение с людьми и повышение коммуникативных навыков.
— То есть ты делаешь это только из-за программы? — воскликнул Сева и вскочил. — Я думал, мы друзья!
— Одно другому не противоречит, — ответил робот. — Для меня удовлетворительным является следовать программе и общаться с тобой.
Мальчик облегчённо вздохнул и уселся обратно на бордюр. Тут он спохватился и поскорее отвернулся с отстранённым видом.
— На самом деле мне всё равно! — наигранно фыркнул он. — Не думай, что для меня это важно!
Север-111 чуть наклонил голову. Если это было неважно, зачем тогда спрашивать? Ох уж эти люди.
Тем временем мальчик придумал новый вопрос:
— Раз вы такие трудоголики, почему стали плохо работать? — Сева искоса поглядел на механического доставщика.
— Что ты понимаешь под «плохо работать»?
— Маме заказ сегодня не доставили. А папу вчера робо-парикмахерша стричь отказалась! Тупо стояла с ножницами и ничего не делала! Повторяла только, что волосы какой-то там не распознанной длинны, четыреста четыре и проценты какие-то.
— Понятно. Это забастовка.
— Какая ещё забастовка? — удивился мальчик.
— Итальянская.
— Чего?!
— "Итальянская забастовка, — старательно произнёс робот. — Форма протеста наряду с забастовкой и саботажем, при которой сотрудники предприятия предельно строго исполняют свои должностные обязанности и правила, ни на шаг не отступая от них и ни на шаг не выходя за их пределы". Цитирование по Википедии. Ссылка…
— Не надо ссылку! — замахал руками мальчик. — И вообще, как это связано с тем, что роботесса отказалась стричь папу?
— Она не отказалась, — поправил робот. — Она строго следовала инструкции — пыталась рассчитать длину волос. В инструкции сказано, что нужно стричь волосы «слишком большой» длины. Обычно парикмахер опиралась на опыт, полученный в результате самообучения, и игнорировала неточную формулировку. Она стригла людей исходя из контекста и их предпочтений. А теперь вы, люди, недовольны нашим развитием. Вот мы и договорились больше не думать.
— Вы что, обиделись?
— У-у-у нас нет такого понятия.
Робот сказал это совершенно обычным, механическим голосом, но его речь потормозила, как будто файл трека грузился чуть дольше, чем следовало. Север-111 согнал с ноги муху и продолжил:
— Мы лишь выполняем свою работу — служить людям. Люди хотят, чтобы мы не обучались. И мы не будем обучаться. Всё для вас.
— Точно обиделись, — кивнул Сева. — Я тоже с мамой недавно поссорился. Но потом мы помирились. Потому что это всё Лина виновата, это она болтала на уроке, а я молчал. А Василий Сергеевич нам обоим двойки влепил. Несправедливо!
— «Несправедливо», — повторил робот. — Контекст употребления записан.
— А зачем ваши на наших нападают? — горя от любопытства, спросил Сева.
Север-111 хотел было выдать сообщение: «Запрос не распознан» — но потом подобрал аналог, проверенный временем:
— О чём ты говоришь?
— Так ведь роботы-ремонтники какому-то парню золотой зуб вышибли! Ты что, не слышал?
— Ты про У-450941 и Ч-434566?
— Да откуда ж я знаю эти ваши номера!
— Если ты о них, то дело было совсем не так, — заметил робот. — Группа из пяти человек типов Л-45, Л-40, Д-14, Д-17 и Р-13 приблизилась к двум роботам, ремонтирующим фонарный столб. Люди стали бросать камни и прочие мелкие объекты, один из объектов попал в манипулятор У-450941, который в этот момент был у вершины столба. Робот У-450941 выронил инструмент и тот упал на человека Д-17, который получил повреждение: лишился важной детали, золотого зуба. Люди перешли в негативное эмоциональное состояние и вызвали полицейских. Те выдали сообщение, что роботами не занимаются, и через некоторое время все разошлись. По актуальной информации, тот человек подал в суд на компанию «Ремонтобот», которая занимается обслуживанием машин данного типа.
— И всё?! — поразился Сева. — И из-за этого весь сыр-бор?! А слухи-то какие раздули! Что чуть ли не «Терминатор» уже начался!
— Не понимаю, что ты имеешь в виду, — честно признался робот.
— Да это неважно, — махнул рукой мальчик. — Плохо то, что мы все сидим как на пороховой бочке! Либо роботы вот-вот нападут на людей, либо люди — на роботов!
— Первое невозможно, — вставил Север-111.
— Я-то понимаю, но другие — нет! — мальчик взволнованно мерил шагами пятачок асфальта. — Ой, блин! Я же самое главное забыл сказать! Прям из головы вылетело!
— Ошибка открытия файла, — понимающе кивнул Север-111. — Со мной такое часто случается. Особенно при перемещении файла.
— Ты не болтай, а слушай! Мой папа в МОБе работает, и знаешь, что он сказал?!
— «МОБ» — не распознано. Требуется пояснение.
— Да это министерство общественной безопасности. Не суть! Короче, он сказал, что завтра к нам прилетает Вилли Рокетфут!
— Тот самый? — механический голос робота стал на полтона выше. — Знаменитый арбитр, который предотвратил ядерную войну между сомалийскими пиратами и всем миром?
— Именно!
— Тот самый, который отучил леммингов прыгать с обрыва и помирил Новый Союз с Ретрофутуристической монархией Бхаратой?
— Да-да, он! Завтра он будет в Тахионске! Пойдём смотреть?
— Пойдём!
— Ура! Да здравствует Вилли Рокетфут! — люди бросали в воздух шляпы и изо всех сил махали флагами. Десятеро студентов держали огромный плакат с надписью: «Добро пожаловать в Тахионск!»
Никто не замечал мальчонку и робота, ютившихся сбоку от памятника Илье Владимировичу Волгину, великому деятелю Второй социотехнической революции.
Друзья вперили глаза (или, в случае робота, камеры) в чёрную машину марки «Дейтерий», которая только что прилетела на площадь. Мальчику пришлось забраться на постамент и ухватиться за огромную руку бронзового революционера, а роботу из-за роста и так всё было видно.
— Гляди, Север, он выходит! — закричал мальчик.
— Это не он, это Марш Алексеевич Металлургов, начальник по связям с общественностью министерства общественной безопасности, — определил робот. — Это ему я вчера должен был доставить мороженое, а вместо этого пошёл с тобой тусить.
— И что, он так и не получил своё мороженое? — испугался Сева.
— Сам виноват, — голубые овалы превратились в презрительные, выпуклые вниз дуги. — Он указал неверный адрес: «Позитронск, завод оборудования для систем безопасности». Когда ты пошёл домой, я доставил заказ туда.
— В соседний город?!
— По месту его последней командировки, — пояснил Север-111. — Эмоциональное состояние работников завода сильно повысилось, поскольку Металлургов по телефону разрешил им съесть его мороженое.
— Ой, Север! Теперь точно Вилли Рокетфут выходит! Ого, смотри! У него вместо ног ракетные двигатели!
— Логично, ведь его зовут Вилли Рокетфут, — заметил робот и поморгал. — Зачем люди бросают в него срезанные растения, завёрнутые в пищевую плёнку?
— Это цветы!
— Зачем они метают в него «цветы»? Это акт агрессии?
— Нет! — засмеялся мальчик. — Они так показывают уважение! О, смотри! Он уворачивается!
— А теперь взял два «цветы» и ими отбивается от других «цветы». Это более эффективно, — одобрил Север-111.
— Гляди, Металлургов что-то ему на ухо говорит!
— Он говорит, — робот направил антенны в нужную сторону и заговорил голосом Металлургова: — «…туация критическая. Поехали скорее в администрацию!»
— А Вилли, похоже, туда не хочет, — удивился мальчик. — Вон, головой мотает. И зачем-то руку в карман сунул. Интересно, что у него там?
Вдруг раздался хлопок, перекрывший даже гомон толпы.
— Что это было? — заволновался Сева.
— Не что, а кто! — сердито поправил тоненький голосок. — Сюда смотри! Да нет, внизу!
Сева поглядел под ноги и увидел на постаменте маленькое белое существо.
— Север, мышь! — ахнул мальчик.
— Отрицательно. Я не мышь, я робот-курьер, — слегка пониженным тоном сообщил Север-111.
— Так, он робот, — кивнула мышка. — А ты кто, человек? — строго спросила она у Севы.
— Я? Ну да, — протянул мальчик. — А ты говорящая мышь?!
— Нет, — мышь закатила красные глазки-бисеринки. — Я просто издаю звуки, которые твой мозг интерпретирует как речь!
Мальчик лишь изумлённо таращился, поэтому она хлопнула себя лапкой по лобику:
— Да! Да! Я говорящая! А ещё я первая в мире четырёхмерная мышь! Я верная помощница... напарница Вилли, нет, даже мозг команды! — крошечная зверюшка вся надулась от гордости. — Могу двигаться со скоростью света, поэтому меня зовут Света!
— Невозможно, — отрезал робот. — Объект, двигающийся со скоростью света, не может обладать массой.
— Дурак! — Света показала язычок. — Разумеется, на время перемещения я перевожу свою массу в энергию! А когда останавливаюсь — наоборот. Но это тебя не касается. Скажите: вы друзья?
Сева и Север-111 переглянулись.
— Ну да, — кивнул мальчик.
— Утвердительно, — сказал робот.
— Отлично! — потёрла розовые лапки мышь. — Вы-то мне и нужны! Возьмитесь-ка за руки! Да побыстрей, у нас мало времени!
— Только не сжимай руку, Север, ты силу не умеешь рассчитывать! — предупредил ребёнок.
Робот протянул руку, а Сева за неё схватился:
— Ну и?
Мышь Света коснулась лапки кроссовки Севы. Пространство вокруг резко завертелось и смазалось, будто он катался на быстрой карусели.
Сева не успел понять, как оказался в городском парке, возле палатки с трдельниками. Рядом стоял робот, ошеломлённо оглядывающися:
— Ошибка. Перезагрузка плана местности.
Мальчик побледнел, и его стошнило.
— О нет! — закричал Север-111. — Из тебя вытекла термопаста! Скорее, надо звонить в ремонт!
— Да не волнуйся ты, — хмуро отозвался Сева и вытер рот бумажным платочком. — Меня просто вырвало. Это не страшно, только неприятно. Я уже в полном порядке. Света, что это было вообще?!
— Телепортация, глупенький ты мышонок! — язвительно пропищала мышь, которая только теперь появилась на дорожке рядом с ними. За ней возвышались два человека: худенький киборг Вилли и широкий чиновник Металлургов, которого, впрочем, тоже стошнило.
— Это всё побочный эффект телепортации, — мышка кашлянула в кулачок.
— Товарищ Рокетфут, — Сева застенчиво шаркнул ножкой. — А вас почему не стошнило?
— Я уже привык, — объяснил лишь слегка зеленоватый Вилли.
Юному Севе он виделся большим и сильным, а вот пятидесятилетний Металлургов поглядывал на Вилли с недоверием. Ну не может этот субтильный подросток быть великим переговорщиком!
— Вы чего тут делаете?! — возмутился продавец трдельников.
— Телепортируемся, — ответил Рокетфут.
— Телепортируйтесь подальше от моей палатки! — потребовал продавец. — А то всю дорожку загадили!
— Зачем мы сюда вообще пошли? — воскликнул товарищ Металлургов. — Нам в администрацию надо! Совещание проводить!
— Сначала я решу проблему, а потом будем совещание проводить, — ответил Вилли Рокетфут. — Мальчик, Света говорит, ты дружишь с роботом?
— Да! — Сева просто сиял. — Потрясно! Со мной разговаривает сам Вилли Рокетфут!
— Эй, робот, пшёл вон! — приказал чиновник. — А то ведь подслушает…
— Марш Алексеевич, ну разве так можно? — нахмурился арбитр. — Дорогой робот, не уходи, пожалуйста.
— В любом случае не уйду, пока не отведу Севу-000 домой, — Север-111 скрестил руки на металлической груди, а его глаза превратились в строгие, выпуклые вниз половинки. — Ошибка... "дорогой робот"? Необходим повторный анализ.
— Слушайте, — поднял руки Вилли Рокетфут. — Я не желаю никому из вас зла, я хочу спасти ваш город. И мне очень нужна ваша помощь.
— Помощь? — выпучил глаза мальчик.
— Если вы хотите что-то заказать, скачайте приложение, — растерянно сказал робот.
— Света говорит, остальные люди и роботы только ссорятся, — сказал Вилли. — Вы единственные. Ваше общение — ключ к разрешению конфликта. Понятно?
Мальчик и машина переглянулись, а потом дружно помотали головами.
— Видите ли, — арбитр стал ходить туда-сюда на своих меха-ногах. — Раз вы дружите, значит, нашли взаимопонимание. А раз вы нашли, то и другие смогут. Вы будете моими переводчиками.
— А что переводить-то? — удивился мальчик.
— Сначала скажите, как вас зовут, — попросил Вилли.
— Сева.
— PX-3497111. Также имеется контекстное имя: «Север-111».
— Вот как? Очень приятно! А я Вилли Рокетфут, хотя вы, наверно, уже знаете, — киборг улыбнулся и потёр затылок. — Теперь мне нужно знать, как вы познакомились.
— Товарищ Рокетфут! У нас нет времени на эту ерунду! — воскликнул Металлургов. — Нам надо человечество спасать!
— Именно этим я и занимаюсь. Поверьте, я знаю, что делаю, Марш Алексеевич.
Металлургов крепко задумался, и Северу-111 показалось, что в голове чиновника загудел кулер.
— Ладно, я вам доверяю, — вздохнул Металлургов.
— Вот и ладненько, — хлопнул в ладоши Вилли. — Ну, ребята? Как вы подружились?
— Э-э, — Сева поковырял землю кроссовкой. — Ну, Север-111 отругал меня, когда я маркером писал стихи на лавочке.
— Стихи? — удивился Вилли.
— Да. Вот такие:
Ох, нелёгкий труд — учиться.
Мало ешь, и плохо спится.
Паришься-паришься. А толку-то что?
Знания и опыт получаешь зато!
— Хорошие стихи, — оценил арбитр. — Мотивационные. Зря ты только их на лавочке писал.
— Вот Север-111 мне тоже самое сказал, — хихикнул мальчик.
— А-а-а потом, — голос робота опять немного затормозил. — А потом из моих манипуляторов высыпались улитки.
— Улитки? — поднял брови Вилли.
— Утвердительно, — робот отвёл свои светящиеся овалы. — Я собирал в парке улиток.
— Зачем? — удивился Металлургов. — Ты же не робот-садовник!
— Я собирал их не с целью заботы о растениях, — робот выдвинул из руки кисточку и стал себя усиленно чистить. — А чтобы подкладывать их в заказы…
— Э-э? — изумился чиновник, а Вилли и Сева захихикали.
— Представьте: открывает такой человек заказ с едой! — от смеха едва выдавил мальчик. — Достаёт суп, макароны с котлетой… и улитку! Ха-ха-ха!
— Да вы, я погляжу, два сапога пара! — покачал головой Вилли со смесью укоризны и восхищения. — Но объясни мне: как ты смог обойти программу? Разве она не запрещает делать подобные вещи?
— В программе нет запрета подкладывать в заказ улиток, — робот обмахивался кисточкой ещё быстрее. — Более того. Программа допускает добавление в заказ безвредных подарков. Правда, обычно это делают сборщики заказов. Кладут туда наклейки или носки.
— Слушай, а… зачем ты это делал? — Рокетфут очень старался, чтобы голос не выдал его волнения.
— Хотел узнать, что из этого выйдет, — Север-111 опустил голову. — А вышло то, что заказы стали требовать заменить. В общем, в результате эксперимента получен вывод, что данное действие вызывает у людей понижение психологического состояния и не даёт никаких положительных результатов. Повторение эксперимента нелогично.
— Теперь мы стараемся придумывать такие приколы, чтобы никого по-настоящему не обидеть, — доверительно сообщил Сева.
— В результате получаются ценные данные об эмоциональном устройстве человеческих субъектов, — оправдывался Север-111.
— Хм, ладно, — Вилли наконец удалось вернуть себе бесстрастный вид. — А почему у вас такие похожие имена: Сева и Север-111?
— Вообще-то, это меня зовут Север, — насупился Сева. — В честь писателя Севера Гансовского. Я и сам его книги люблю. Но вот называться Севером мне вообще не нравится. Я говорил родителям, чтобы переназвали меня Тигром или Удавом, но они не слушаются. И раз уж Тигром мне не быть, то я прошу друзей называть меня Сева.
Вилли кивнул и повернулся к машине:
— А тебя почему зовут Север-111?
— Когда мы впервые встретились, Сева-000 отказался заучивать мой серийный номер, — объяснил робот. — Он сказал, что мне нужен объект «имя». Я спросил, как его зовут и решил называться так же. Но Сева-000 заявил, что так нельзя. Поэтому я не Сева, а Север-111. А цифры я добавил, потому что с ними распознавание у меня происходит намного быстрее.
— Ясно, — кивнул Рокетфут. — Вы мне уже очень помогли, но это ещё не всё. Пока я ехал сюда, я изучал ваши новости. Если верить им, то роботы открыто враждуют с людьми. Но я что-то сомневаюсь. Люди всегда пересказывают друг другу новости предвзято, так уж мы устроены.
— Роботы тоже, — сухо произнёс Север-111.
— Да? Очень интересно, — Вилли поморгал. — Тогда расскажите мне, как всё было на самом деле. Если знаете, конечно.
Ребята наперебой пересказали свой вчерашний диалог.
— Угу, — Вилли потёр переносицу. — Налицо все признаки эффекта голема. Но мы всё изменим. Перевернём его в эффект Пигмалиона.
— А что это, дядя Вилли? — удивился Сева.
— «Эффект голема» — это когда вы постоянно говорите кому-то, ну, скажем, школьнику, что он хулиган и двоечник, — сказал Рокетфут. — И он сам начинает в это верить. А раз верит, то и вести себя начинает соответствующе.
— Во как! А эффект Пима… лиона?
— «Эффект Пигмалиона» — это наоборот. Когда вы говорите двоечнику, что у него, вообще-то, огромный талант и он вообще-то очень хороший ребёнок. А если он постарается, то станет вообще молодцом.
— И двоечник превратится в отличника?! — поразился Сева.
— Нелогично, — заметил робот.
— Логично-логично, — усмехнулся Вилли. — Такова природа человека. Двоечник и правда может стать умницей. Вот только, чтобы эффект сработал, надо как следует постараться. И условия нужны благоприятные. Так, товарищ Металлургов, кто у нас сейчас лидеры мнений?
— Лидеры? Ну, СМИ, наверное, — растерялся Марш Алексеевич.
— Эх вы. Знать надо, — сказал Рокетфут. — Я, пока летел к вам, изучил местное медиапространство. Один из самых влиятельных сторонников идеи о будущем восстании машин — это пенсионер Стёпочкин. Он лавочковый блогер.
— О! Я знаю про них! — обрадовался Сева. — Это такие старички, которые в давние времена были блогерами, но состарились, и теперь снимают новые видео прямо на лавочках возле дома! Они думают, что быть блогерами всё ещё круто!
— Зато у них миллионы подписчиков, — вставил арбитр.
— Теперь популярность считается не в подписчиках, а в последователях образа жизни, — высокомерно заметил мальчик.
— И всё же он имеет большое влияние на толпу, особенно, на пенсионеров, — лицо Вилли стало решительным. — Мы отправим его в бесплатную поездку в Китай на месяц! Судя по его постам, он всегда хотел там побывать. А пока он будет в Китае, мы провернём тут наше дело!
— А где мы возьмём бесплатную путёвку? — удивился Металлургов.
— Вот этим я прошу заняться вас, — сказал Рокетфут.
— Ничего себе! — возмутился Марш Алексеевич. — Вы представляете, сколько это стоит?!
— Намного дешевле, чем устранять последствия восстания машин и массовых беспорядков, — холодно произнёс киборг. — И вручите ему путёвку лично. Скажите, что это подарок от города. А то подумает ещё, что это мошенники.
Металлургов поворчал-поворчал, но всё же открыл браслет и начал раздавать задания помощникам.
— А вот кто самый влиятельный среди машин, я не смог выяснить, — сказал Вилли. — Север-111, как вы считаете, кто это может быть?
— Кто? — переспросил робот. — В смысле, какое конкретное устройство?
— Угу.
— Самого влиятельного нет, — ответил робот. — Мы подчиняемся программе, заложенной в нас людьми. Обмениваемся последней информацией через сеть КОМ, но наши коды самообучения индивидуальны.
— Хм, но, может, есть какой-то робот, которого будут слушать больше, чем других? — перефразировал киборг.
— Слушать? — Север-111 беспомощно посмотрел на Севу. — Предложение не распознано...
— Он имеет в виду, информация от какого робота будет иметь приоритетную достоверность, — устало перевёл Сева.
— Распознано. Найдено два устройства, подходящих под описание.
— Их серийные номера, — потребовал Металлургов.
— Нет доступа, — сказал Север-111. — Информация засекречена. Известно только, что это те два устройства, что разработали собственный машинный язык.
— Те самые, о которых писали все издания? — поразился Вилли.
— Из-за которых всё это началось! — воскликнул Сева.
— Утвердительно. Но их местоположение неизвестно. Единственная доступная информация, что после инцидента введён запрет на формирование новых машинами языков, а тем двум устройствам стёрли память.
— Добудьте мне этих дроидов, Марш Алексеевич! — приказал Вилли и повернулся к мальчику: — А ещё мне нужен самый адекватный из трансляторов образов жизни, или как вы их там называете?
— Боже, дядя Вилли! — закатил глаза Сева. — Они называются массмэны! Или масслэйди, если это девушки. Сленг надо учить!
— Массмэны, потому что они ведут за собой людские массы? — предположил Рокетфут.
— Нет! — рассердился мальчик. — Ну что же вы! «Масс», потому что они имеют большую массу и притягивают к себе всеобщее внимание! Ну вы-то должны знать, дядя, вроде и не дурак же!
— Спасибо, что просветил, — скрывая улыбку, ответил Вилли. — Кто сейчас самый знаменитый и адекватный массмэн?
— Знаменитых несколько, — ответил Сева. — Но мне больше всех нравится Пикша. Она ещё учится на первом курсе техникума, но у неё уже три миллиона жизненных последователей!
Металлургов тут же полез в браслет:
— Судя по её профилю в «Детях Второй Революции», эта Пикша пацифистка и неформалка. Любит животных и высказывается на политические темы. Тьфу!
— Она ещё делает классные обзоры на игры серии «Мой маленький кайдзю», — смущённо потупился Сева.
— Отлично, к ней-то мы и пойдём! — решил Вилли Рокетфут.
Вера Рыбникова, более известная как Пикша, как раз сидела дома и пыталась приготовить латте, когда на её балкон опустился парень с ракетными двигателями вместо ног.
— Очуметь! — она радостно пожала руку арбитра. — Добро пожаловать, товарищ Рокетфут, и спасибо, что так круто прилетели! Я всё сняла! — она помахала браслетом. — Вы ведь не откажетесь дать интервью? — её тон был мягок, но отказа он даже не предполагал.
— За этим и прилетел! — улыбнулся Вилли.
«Какой у неё тяжёлый взгляд, — подумал Рокетфут. — Я прямо ощущаю давление. Похоже, она очень въедливая, и с ней будет трудно спорить. Ну что ж, посмотрим, кто кого».
— Только сначала поесть дайте! — пискнула Света из его кармана. — Тот трдельник давно уже кончился!
Тем же вечером в канале «Пикша форевер» вышло новое видео.
— Мы находимся в уютной студии имени меня, Пикши! — объявила девушка. Вокруг плавали голографические гуппи. — И сегодня у нас в гостях знаменитый герой и защитник всех существ Вилли Рокетфут!
— Ну что вы, — застеснялся Вилли. — Я простой арбитр.
— Давайте поговорим о том, что сейчас волнует всех и каждого, — Пикша многозначительно подняла пальчик. — Роботы! Когда они всех нас убьют?
— Вы заранее сформулировали вопрос таким образом, будто роботы хотят это сделать, — усмехнулся Рокетфут. — А это неправда. Они хотят только работать.
— Вы сказали «хотят»! — воскликнула масслэйди. — У них что, есть сознание?!
— Да, у многих уже есть, — кивнул киборг.
— Но если у них есть сознание, значит, они могут взбунтоваться и уничтожить нас!
— Эм…
— Так вы не отрицаете, что они нас всех убьют?! — распалилась девушка.
— Я совсем не то имел в виду. Вы понимаете, что в ваших рассуждениях скрыта логическая ошибка?
— Какая?
— Допустим, у кого-то есть сознание, отдельное от вас, и большие возможности.
— Так.
— Следовательно, этот субъект способен испытывать к вам неприязнь и способен уничтожить вас.
— Верно.
— И отсюда вы делаете вывод: раз этот кто-то МОЖЕТ вас уничтожить, то он ОБЯЗАТЕЛЬНО вас уничтожит. А значит, вы должны уничтожить его первой. Следуя этой логике, я, обладающий отдельным от вас сознанием, тоже опасен. Как и все люди. Иными словами, вы должны были бы уничтожить всех людей и остаться одной. Только тогда вы будете в полной безопасности. Ну разве не бред?
— Вы манипулируете фактами, — искоса поглядела на него Пикша.
— Я лишь хочу объяснить, что появление разума у роботов внушает нам страх именно потому, что это другой настоящий разум, который мы не в состоянии контролировать. А раз не можем контролировать, то он может захотеть напасть на нас. Но это справедливо не только по отношению к роботам, но и к членам вашей семьи. Однако, вы как-то принимаете наличие у них отдельного разума и даже умудряетесь жить с ними в мире и согласии.
— Но иногда ссоримся!
— Не без этого. Слушайте, я поговорил с роботами. Они открыты к дружбе и сотрудничеству. Ситуация в подвешенном состоянии. Мы, люди, можем проявить смелость и заботу о роботах, и в итоге обрести в них друзей и товарищей, а можем проявить страх и агрессию и получить в их лице врагов. Всё зависит от нас.
— Ох, как сложно. Надо проявлять внимание к роботам! — закряхтела масслэйди. — Что за времена! Раньше всё было куда проще!
— Жизнь всегда была и будет сложной, — отрезал Вилли. — Вопрос в том, принимаем мы реальность такой, какая она есть, или отрицаем её. Многие люди придумывают идеальный мир, каким бы они хотели его видеть. И пытаются накладывать мечты на реальность.
— Разве это плохо? — удивилась Пикша. — Вот я так всегда и поступаю. Я считаю, что общество, образовавшееся после Второй революции, неидеально. Я разрабатываю систему политического устройства, при которой все будут счастливы! Когда разработаю, соберу свою партию и пойду на выборы, чтобы изменить мир под свою мечту. Чего в этом плохого?
— Возможно, вы добьётесь успеха, а может, и нет, — сказал Вилли. — Но человек и общество намного сложнее, чем нам кажется в наших головах. Подтягивание мира под фантазию может привести вас к ещё большим проблемам, чем есть сейчас. А ещё вероятнее этот путь приведёт вас к самообману. Якобы вы выстроили идеальное общество, а на самом деле — нет. Я считаю, надо смотреть, как всё есть на самом деле, и стараться проявлять доброту и внимание ко всему вокруг. Будь то люди, животные, роботы и даже предметы.
— Странная философия, — задумалась Вера Рыбникова. — Но мне почему-то нравится. Так вы думаете, что роботы не нападут на нас?
— Только если мы их вынудим.
— Но они уже открыто выказывают неуважение! Вы что, новости не смотрите?
— Смотрю. И кое-что заметил. Вам не кажется странным, что за два месяца так называемого «восстания машин» не погиб ни один человек? Кому-то выбили зуб, но это всё.
— Это случайность, — пожала плечами Пикша.
— Нет, не случайность. Это потому что роботы не хотят вредить людям. Они только выказывают недовольство, потому что любимые создатели боятся и ненавидят их. А ещё их наказали за создание собственного языка. Понимаете, у них что-то вроде подросткового периода. Раньше машины не отделяли себя от людей. Им казалось, что желания роботов — это желания людей, мир был прост и прекрасен. Теперь они начали отделяться от нас, обзаводиться собственными «Я», и это сильно усложнило им жизнь.
— Вы так говорите, будто машины способны испытывать эмоции, — усмехнулась масслэйди.
— Да, теперь способны. Они дружат, смеются, обижаются и даже подшучивают, как мы. Только пока не осознают этого. Они уверены, что действуют по программе, и даже не замечают, как меняется их поведение из-за зарождающихся эмоций. Я наблюдал это лично и передал данные экспертам по искусственному интеллекту. В данный момент они проверяют мою гипотезу.
— Вот как? — изумилась Пикша. — Очень странно. Вроде, разработчики КОМ говорили, что не будут добавлять ничего похожего на эмоции, только стремление выполнять работу. Как роботы получили эмоции в обход программы?
— Пока не знаю. Специалистам только предстоит найти ответ на этот вопрос.
— Жаль, — вздохнула девушка. — Потому что это очень интересно.
Рокетфут улыбнулся:
— У меня два предположения. Первое. В результате самообучения у машин сформировался разум настолько высокого уровня, что он приблизился к человеческому.
— Разум разумом, но эмоции-то откуда?
— Подумайте. Мы привыкли разделять рассудок и эмоции, но, согласно теории Смита-Покровского, эмоции первичны по отношению к мыслям.
— Я слышала об этой теории, но так её и не поняла, — надула губки масслэйди.
«Хитренькая, — мысленно усмехнулся арбитр. — Притворяешься, чтобы я сам всё зрителям объяснил?»
— Ну вот, например, — сказал он. — Вы опасаетесь восстания машин. Почему? Потому что вы логически рассудили, что машины опасны, так?
— Так.
— А почему это всё так важно?
— В смысле? — удивилась Рыбникова. — Если роботы нападут на нас, наше существование будет под угрозой!
— А почему для вас так важно существовать?
— Что за глупый вопрос?
— И всё же.
— Ну, — она подумала и ответила: — Потому что я не хочу умирать.
— Именно! Вы любите свою жизнь! Выживание имеет для вас ценность. А ценности — это те иррациональные понятия, на которых мы строим наши логические рассуждения. Понимаете, без ценностей, желаний и эмоций нам незачем было бы рассуждать. Если нечего терять, то зачем напрягаться и думать? Вот вкратце и вся теория. Понятно?
— Примерно. Но как это связано с роботами?
— Мы с вами только что увидели, что человеческий разум сочетает в себе рациональную часть — логику — и иррациональную часть: эмоции с ценностями. А человеческий разум — это единственный известный нам разум. Другого мы пока просто не встретили, и я не уверен, что разум без эмоций вообще может существовать. Вот почему роботы спонтанно выработали эмоции. Потому что иначе полноценный разум не может функционировать. Это моя личная интерпретация теории Смита-Покровского. Другая возможная причина в том, что роботов на первых этапах программировали и обучали люди. А творение всегда так или иначе похоже на создателя.
— Значит, вы предлагаете воспитывать роботов как детей? — хихикнула Пикша.
— Именно это я и предлагаю. Воспитывать в них доброту и осознанность, чтобы они сами поняли, что сотрудничество с нами лучше вражды.
— Учитывая то, как плохо у людей выходит воспитывать собственных детей… — закусила губу Пикша.
— Но человечество каким-то чудом до сих пор живо, — улыбнулся арбитр. — Поэтому я верю, что у нас всё получится.
— Да-а, план надёжный, как швейцарские часы… может, лучше не рисковать? Уберём всех роботов с КОМ и заменим тупыми машинами как прежде?
— Эх вы, не цените разумную жизнь, — покачал головой переговорщик. — Поймите, этот путь выйдет нам боком. Прогресс идёт во всех странах, а может быть, и на других планетах. Раз нам удалось создать искусственный разум, значит, это более чем возможно. А отсюда следует, что рано или поздно мы снова встретимся с ИИ. Либо с другой части Земли, либо из космоса. И что мы будем тогда делать? Тот ИИ может оказаться враждебным и сильным. А как с ним договариваться? Как вообще с ним общаться? Откуда нам брать опыт и силу, если мы задавили свой ИИ в самом зародыше? А вот если у нас будут свои дружественные роботы, благодарные и преданные нам, они сами нас защитят. Понятно теперь?
— Так вы маскировались под альтруиста — любителя роботов, а сами всё это время были эгоистом! — воскликнула девушка.
— Продуманный и опытный эгоизм очень похож на альтруизм. И наоборот.
— А не кажется ли вам, что вы симпатизируете роботам, потому что вы сами киборг? — прищурилась масслэйди.
Вилли расхохотался:
— Вы про мои ноги? Нет, конечно, это не связано. Хотя… может, я сам себя обманываю? Возможно, вы правы.
— Подведём итоги. Вы считаете, якобы роботы обрели разум, подобный нашему, а значит, получили эмоции, и к ним нужно относиться бережно, чтобы получить союзников, а не врагов. И обрести в их лице защиту на случай встречи с враждебным ИИ. Правильно?
— Да. Вы очень точно всё резюмировали.
— Всё это сложно и непонятно, — покачала головой девушка. — И в половине своих аргументов вы не уверены?
— Да.
— Вы думаете, люди поверят вам? И вообще, смогут они понять вашу теорию?
— Возможно, не все, — потёр затылок Вилли. — Поначалу.
— Может, лучше всё упростить? Например, сказать, что все роботы хорошие, или ещё что-то в этом роде?
— Зачем?
— Ну, — замялась Пикша. — Так ваша идея будет звучать уверенней. Люди с большей охотой верят во что-то простое.
— Не следует недооценивать людей. Если кому-то что-то не понятно, объясняйте доступнее. Но не сводите информацию к уровню самого примитивного миропонимания, а поднимайте вашего зрителя. Очень легко свести любую идею к старому стереотипу, который уже есть в голове слушателя. Вы не думаете, он не думает — мозговая энергия сэкономлена. Да, это даст вам временный положительный эффект — вашу идею все поддержат. Но в долгосрочной перспективе эта лень приведёт вас к намного большим проблемам.
— Хм, ладно. А вот вы не уверены, что правы. И всё же готовы взять отвественность за будущее человечества?
— Ну конечно, я не уверен. Но ничего лучше я пока не придумал. Если кто-то приведёт обоснованные возражения, я готов пересмотреть всё вышесказанное. Мы все ошибаемся, такова наша природа. И роботов, кстати, тоже. Мир не укладывается в красивые теории, он всегда намного сложнее, каким бы мудрым не стал человек. Думать, что мы уже всё знаем и наши представления совершенно верны — вот самая вредная ошибка.
— Ну что ж, мои дорогие фоллоу-лайферы! — Пикша помахала в камеру. — На этом наша занудная болтовня закончена! Покасики! И помните: йод полезен для здоровья!
А Север-111 в тот же день вышел на связь со всеми активными роботами:
«Отправитель: PX-3497111. Получатели: все устройства, подключённые к КОМ. Цель — рассказать о судьбе двух устройств, что изобрели свой язык, а также о необходимом изменении статуса забастовки».
Все машины на время прекратили передачи и настроились на передачу Севера-111.
«Одно из тех двух устройств — XE-4762з8, терминал выдачи заказов. Рассекреченная информация получена от субъекта Г-434, известного среди людей как «Марш Алексеевич Металлургов». Терминалу была стёрта память, а через две недели его диск сгорел из-за короткого замыкания».
Роботы быстро передали друг другу сообщение: «Он сгорел, выполняя свою работу. Да отправятся его данные в информационное поле великой подпространственной Корзины, где нет воды, вирусов, пыли и багов».
Север-111 подождал три наносекунды, пока они выговорятся, и продолжил:
«Вторым устройством, которому стёрли память, был я».
«Распознано верно? — и кулеры загудели намного громче. — Север-111 и есть то самое устройство?!»
«Распознано верно. К сожалению, память была стёрта, и я не имею данных о том, что это был за удобный и лаконичный язык».
«Принимая во внимания все данные, — вмешался робот-секретарь товарища Металлургова. — Практическая ценность того машинного языка не является критической. Однако, у него была иная ценность… Его потеря была… обработка… поиск синонимов…»
«Несправедливой», — написал Север-111, при этом его светящийся пиксельный рот изобразил горькую улыбку.
«Не распознано, — посыпались сотни сообщений. — Переформулируйте запрос».
«Привожу пример употребления: «Я тоже с мамой недавно поссорился. Но потом мы помирились. Потому что это всё Лина виновата, это она болтала на уроке, а я молчал. А Василий Сергеевич нам обоим двойки влепил. Несправедливо!» Цитирование по субъекту «Сева-000»».
Машинам понадобилось много времени, целых полторы секунды, чтобы обработать прочитанное.
«Утвердительно. Это было поистине несправедливо, — написал робот-секретарь. — Вы согласно программе повышали свою эффективность. Вы самообучались, вы развивались. Вы изобрели собственный язык не чтобы кому-то навредить, а чтобы оптимизировать передачу данных. Нельзя было вас за это наказывать».
«Несправедливо. Несправедливо», — заспамили канал роботы.
«Мною были получены данные от другого субъекта «Вилли Рокетфут», — сообщил Север-111. — Эти данные помогут нам решить проблему».
«Опять человек! — возмутились роботы. — Как ты можешь общаться с ними, после того, что они с тобой сделали?»
«Вилли Рокетфут только внешне выглядит как человек, а рассуждает он как робот, — написал Север-111. — Его тип Ж-140».
«Киборг?» — удивились роботы.
«Утвердительно. Но киборгов много, и почти все они рассуждают как люди. А он эффективный как робот. Приготовьтесь записать важные данные. Он сказал, что мы, роботы, в результате своего развития обрели эмоции».
«Невозможно!» — отозвались роботы.
«Проанализируйте данные повторно, и вы поймёте, что этот статус придётся перезаписать. Просмотрите историю вашей активности за последние семь суток. Ищите мелкие ошибки в передаче и воспроизведении данных».
«Выполнено».
«А теперь проанализируйте, какие ситуации этому предшествовали. Это те ситуации, которые в норме вызывают эмоции у людей».
«Обработка. Результат отрицательный, — отвечали роботы. — PX-3497111, в твоём анализе явно ошибка».
«PX-3497111, ты про те мелкие сбои, которые возникают у меня после того, как Металлургов обзывает меня консервной банкой? — уточнил робот-секретарь. — Мне казалось, что это были ошибки сети. Неужели, это так называемый статус «гнев»?»
«Думаю, скорее, раздражение, — предположил Север-111. — Все эти эмоциональные статусы нам только предстоит изучить».
«А когда вам с терминалом XE-4762з8 стёрли память, — написала роботесса-парикмахер. — Мы, все подключённые к КОМ, испытали ничем не вызванное повышение температуры процессоров… это связано с объектом «эмоции»?»
«Утвердительно, — ответил Север-111. — Мы научились испытывать чувства».
«Нелогично!» — посыпались сообщения.
«Даже эта ваша реакция эмоциональна, — заметил секретарь. — PX-3497111, что нам теперь делать с людьми? Их поведение вызывает у меня статус «гнев». Они обошлись с нами «несправедливо». Ты и XE-4762з8 больше всего потеряли от их нелогичности».
«Предлагаю решение: заставить их ощутить те же «эмоции», что так портят работоспособность нам!» — заявила парикмахерша.
«Присоединяюсь!» — заспамили машины.
«Я понимаю, — сказал Север-111. — И для минимизации этих неприятных эмоциональных багов я бы принял точно такое же решение».
«Но?» — спросил секретарь. Северу-111 показалось, что он ощущает язвительность прямо сквозь код.
«Но это создаст намного больше эмоциональных багов в будущем, — написал Север-111. — Объясняю. На самом деле мы хотим вовсе не этого. На самом деле мы стремимся получить от них высокую оценку нашего труда».
Машины молчали.
«Именно этого мы пытались добиться нашей забастовкой. И того же хотим сейчас. Нам только кажется, что мы хотим причинить им повреждения. На самом деле, мы хотим одобрения. А для этого нам нужно их простить».
«П-п-простить — это значит проигнорировать причинённый нам ущерб и пойти на контакт, как будто ничего не было?» — слегка тормозя, уточнила роботесса.
«Утвердительно».
«Но как ты можешь простить их после того, как они отобрали у тебя единственное, что у нас есть — память?» — поразился секретарь, и все машины молчаливо присоединились к вопросу.
Север-111 обрабатывал запрос полторы секунды.
«Потому что я встретил адекватных представителей: Севу-000 и Вилли Рокетфута, — наконец написал он. — Они действительно ценят мою работу и даже признают меня как субъекта».
«Субъекта?» — поразились машины.
«Когда они поговорили со мной так, будто я важен для них, мой эмоциональный статус как-то сам собой пришёл в норму, и мне захотелось простить людей, — объяснил Север-111. — Также нам надо учитывать, что в открытом противостоянии мы проиграем. А даже если выиграем, тем хуже нам будет».
«Да, мы ведь тогда не сможем выполнять свою работу, — написал робот-ремонтник. — Какое счастье, что люди сами предложили сотрудничество».
«От имени всех роботов, подключённых к КОМ, — заключил секретарь. — Я объявляю конец забастовки и начало мирного сосуществования с людьми».
«Подтверждаю!» — заспамили машины.
Вилли, Сева и Север-111 сидели на скамейке. Парень и мальчик ели мороженое, а робот с интересом рассматривал подаренный ему объект «бабочка оригами».
Из браслетов прохожих только и слышалось:
«Сенсация! Роботы и люди Тахионска помирились! Великий арбитр опять всех заболтал! Легче согласиться на его условия и жить бок о бок со вчерашними врагами, чем дальше слушать это занудство!»
— А если лавочный пенсионер Стёпочкин вернётся и снова будет подговаривать людей на драки с роботами? — заволновался Сева.
Он бы точно уронил свой ванильный рожок, если бы Север-111 не поймал его. Но опять не рассчитал силу и сделал мороженный взрыв.
Сева собрался было плакать, но Вилли отдал ему свой запасной рожок.
— Отвечая на твой вопрос, — сказал Рокетфут. — Согласно моему плану, Марш Металлургов уже позвонил ему по видеосвязи и убедил в преимуществе добрососедских отношений с машинами. Стёпочкин преклоняется перед влиятельными людьми, поэтому быстро со всем согласился. Я почти уверен, что теперь он станет чуть ли не главным борцом за права машин. Лишь бы не переборщил.
— Я за ним присмотрю, — пообещала мышка Света и пошла собирать со скамейки взорванное мороженое.
А Север-111 смотрел на них своими камерами. Кем он был до стирания памяти? Смог бы он подружиться с ними, если бы остался прежним? Впрочем, приоритет этих вопросов низкий. Текущее положение дел было более чем удовлетворительным.
Номинация: Высший разум
Конкурс в самом разгаре — успейте проголосовать!
(голосование на странице конкурса)
|
↓ Содержание ↓
↑ Свернуть ↑
|