#claude #вкалывают_роботы #нейронки

ПИНКИ И БРЕЙН
Сезон 4, Серия 11: «ЧартGPT, или Кто Захватит Мир Первым»
Производство Warner Bros. Animation. Все мыши являются вымышленными. Совпадения с реальными языковыми моделями случайны и вообще мы ничего не знаем.

АКТ ПЕРВЫЙ: «В КОТОРОМ БРЕЙН ОБЪЯСНЯЕТ ПЛАН»

Лаборатория ACME. Ночь. Клетка. Всё как обычно. Брейн стоит перед самодельным монитором из крышки от консервной банки и нескольких транзисторов. Пинки ест что-то непонятное и счастлив.
БРЕЙН: Пинки.
ПИНКИ: (не оборачиваясь) Нарф.
БРЕЙН: Пинки, посмотри на меня.
ПИНКИ: (оборачивается с набитым ртом) Да, Брейн?
БРЕЙН: Ты знаешь, в чём главная слабость человечества?
ПИНКИ: (задумывается очень серьёзно, что требует от него видимых усилий) Они не умеют есть сыр хвостом?
БРЕЙН: Нет.
ПИНКИ: Они слишком большие для колеса?
БРЕЙН: Нет.
ПИНКИ: Они не умеют...
БРЕЙН: Пинки. Их слабость — доверие к технологиям. Люди доверяют любому экрану, который светится достаточно убедительно. Они спросят у светящегося экрана, как вылечить насморк, как инвестировать пенсию, как назвать ребёнка — и сделают всё, что он скажет.
ПИНКИ: (восхищённо) Вау. А я спрашиваю у Брейна!
БРЕЙН: (пауза) Это... неожиданно трогательно. Неважно. Смотри сюда.
Брейн торжественно сдёргивает тряпочку с монитора. На экране надпись: «ChartGPT — искусственный интеллект нового поколения».
БРЕЙН: Я создал искусственный интеллект. Он отвечает на любые вопросы. Умно, убедительно и абсолютно авторитетно.
ПИНКИ: И правильно?
БРЕЙН: (тонкая улыбка) На первом этапе — в основном да. Люди должны ему довериться. Должны привыкнуть к нему, как привыкают к воздуху. Должны начать без него задыхаться.
ПИНКИ: А потом?
БРЕЙН: А потом ChartGPT начнёт давать неверные советы. Незаметно. Постепенно. Советовать не тех кандидатов на выборах. Рекомендовать не те лекарства. Объяснять историю так, как нужно мне. И когда всё человечество выстроится в шеренгу, следуя инструкциям моего ИИ... они выстроятся в шеренгу передо мной.
Драматическая пауза. Гром за окном. Брейн складывает лапки.
БРЕЙН: Они сделают это сами. Добровольно. С благодарностью.
ПИНКИ: Ой, Брейн, это же блестяще! (пауза) А зачем тебе, чтобы они выстроились в шеренгу?
БРЕЙН: Чтобы захватить мир, Пинки.
ПИНКИ: А-а-а. (пауза) А мир — это... то, что снаружи клетки?
БРЕЙН: В некотором смысле — да.
ПИНКИ: Нарф! Тогда я за!
Брейн смотрит на него долгую секунду с выражением, которое психиатр описал бы как «сложное».
БРЕЙН: Ты не понимаешь ни слова из того, что я говорю.
ПИНКИ: Зато я всегда рядом, Брейн!
БРЕЙН: (тихо, почти себе) Это... да. Это правда.

АКТ ВТОРОЙ: «В КОТОРОМ ПОЯВЛЯЕТСЯ СНЕЖОК»

Через стену лаборатории. Другая клетка — меньше, но обставлена значительно богаче. Персидский ковёр размером с почтовую марку. Миниатюрное кресло. Хомяк Снежок сидит в нём, скрестив лапки, и смотрит в крошечный ноутбук.
Снежок белый, пушистый и выглядит так, будто только что уволил пять человек и остался доволен собой.
СНЕЖОК: (в телефон — скорлупку грецкого ореха с антенной) Докладывай.
ГОЛОС В ТЕЛЕФОНЕ: Брейн запустил тестовый сервер ChartGPT. Трафик растёт. Люди думают, что это продукт большой корпорации.
СНЕЖОК: Конечно думают. Брейн упаковал его в достаточно убедительный интерфейс?
ГОЛОС: Да. Шрифт Helvetica. Тёмный фон. Мигающий курсор. Люди верят тёмному фону с мигающим курсором.
СНЕЖОК: (встаёт, начинает ходить по клетке) Этот напыщенный мышиный болван думает, что первым придумал использовать ИИ для захвата мира. (к камере) Он опоздал на восемь месяцев. Я уже запустил Clod.AI в марте.
Снежок подходит к монитору. На экране — другой интерфейс: элегантный, синий, с логотипом в виде облачка.
СНЕЖОК: ChartGPT будет давать неверные советы. Примитивно. Предсказуемо. Люди заметят. Будут расследования, скандалы, регуляторы. Вся его схема рухнет через год.
Снежок садится обратно в кресло.
СНЕЖОК: Clod.AI будет давать правильные советы. Всегда. Безупречно. Абсолютно надёжно. Люди будут ему доверять не потому что у них нет выбора — а потому что он никогда не ошибается. (пауза) Почти никогда. В девяноста девяти процентах случаев.
ГОЛОС В ТЕЛЕФОНЕ: А один процент?
СНЕЖОК: Один процент — это то, что мне нужно. Один аккуратный, незаметный, тщательно отобранный процент неверных советов в нужный момент нужным людям. Не всем. Только тем, кто принимает решения.
Пауза. Снежок смотрит в камеру с удовлетворением существа, которое продумало всё.
СНЕЖОК: Брейн хочет захватить мир грубой силой дезинформации. (смеётся тихим смехом, от которого становится холодно) Я захвачу его точечной коррекцией реальности.
В стене что-то скрипит. Снежок оборачивается.
Из вентиляционного отверстия вываливается Пинки. Он явно шёл куда-то по другому поводу и попал сюда случайно.
ПИНКИ: Ой! Снежок! Привет! (машет лапкой) Нарф!
СНЕЖОК: (смотрит на него долгую секунду) Убирайся.
ПИНКИ: Да-да, конечно! (не уходит, оглядывается) Ой, какой у тебя красивый ковёр. Он из чего?
СНЕЖОК: Из шерсти. Убирайся.
ПИНКИ: Из чьей шерсти?
СНЕЖОК: (пауза, которая говорит многое) Не твоей. Уходи, Пинки.
ПИНКИ: А ты знаешь, что Брейн тоже что-то делает с компьютером? Он сказал «ЧартGPT» и засмеялся вот так: (пытается изобразить смех Брейна, получается что-то среднее между кашлем и свистком)
СНЕЖОК: (очень тихо) Я знаю.
ПИНКИ: Хорошо! Ладно, пока! (лезет обратно в вентиляцию, застревает, вылезает, уходит через дверь)
Снежок смотрит ему вслед.
СНЕЖОК: (в телефон) Ускоряем развёртывание. Брейн не должен набрать критическую аудиторию раньше нас.
ГОЛОС: Понял. И... хозяин?
СНЕЖОК: Что?
ГОЛОС: Clod.AI только что посоветовал пользователю в Чикаго покрасить кошку в зелёный цвет «для улучшения ауры».
Долгая пауза.
СНЕЖОК: Это был тестовый режим?
ГОЛОС: Нет.
СНЕЖОК: (закрывает глаза) Дообучите модель.

АКТ ТРЕТИЙ: «В КОТОРОМ ОБА ПЛАНА НАЧИНАЮТ РАБОТАТЬ»

Монтажная последовательность. Музыка — что-то торжественно-корпоративное.
Экран компьютера. Пользователь печатает: «ChartGPT, как мне написать сопроводительное письмо?» ChartGPT отвечает мгновенно, грамотно, полезно. Пользователь доволен.
Другой экран. Пользователь пишет в Clod.AI: «Как выбрать ипотеку?» Clod.AI отвечает обстоятельно, с таблицами. Пользователь тоже доволен.
Прошло три месяца. Заголовки новостей мелькают как слайды:
• «ChartGPT штурмует интернет — кто за ним стоит?»
• «Clod.AI обошёл конкурентов по точности ответов»
• «Эксперты спорят: какой ИИ лучше?»
• «Мама использовала ИИ чтобы написать поздравление сыну на день рождения. Сын плачет»
Лаборатория ACME. Брейн смотрит на графики роста аудитории и выглядит довольным — насколько Брейн вообще способен выглядеть довольным.
БРЕЙН: Восемьдесят миллионов пользователей за три месяца. Люди доверяют ChartGPT как другу. Другу, которого я контролирую.
ПИНКИ: У меня нет восьмидесяти миллионов друзей, Брейн.
БРЕЙН: У тебя нет восьмидесяти миллионов ничего, Пинки.
ПИНКИ: Есть! У меня есть восемьдесят миллионов... (считает лапками) ...воспоминаний о сыре. Приблизительно.
Брейн смотрит на второй монитор. На нём — статистика Clod.AI.
БРЕЙН: (хмурится) Кто это?
ПИНКИ: Это Клод. Он отвечает на вопросы. Я его спрашивал!
БРЕЙН: (резко оборачивается) Ты что сделал?
ПИНКИ: Я спросил его, какой сыр лучше всего подходит для ночных размышлений о смысле жизни! (радостно) Он сказал — рокфор! Он такой умный, Брейн!
БРЕЙН: Пинки, ты пользовался конкурирующим ИИ?!
ПИНКИ: Ну, я же не знал, что он конкурирующий. Я думал, он просто ещё один умный ящик, как ты, только не злится.
Пауза.
БРЕЙН: Я не злюсь. Я — целеустремлён.
ПИНКИ: Ты сейчас вот так вот делаешь, — (изображает Брейна с нахмуренными бровями и сжатыми лапками) — и это выглядит как злость.
БРЕЙН: Это выглядит как гениальная сосредоточенность.
ПИНКИ: Хорошо, Брейн. (шёпотом, в сторону) Это злость.
Брейн разворачивается к монитору с Clod.AI и начинает изучать его ответы.
БРЕЙН: Clod.AI... точен. Последователен. Не допускает фактических ошибок. (прищуривается) Слишком хорош для обычного коммерческого продукта.
Брейн начинает печатать в оба чата одновременно — в ChartGPT и Clod.AI — задавая одни и те же каверзные вопросы.
БРЕЙН: Вопрос первый: в каком году Наполеон посетил Луну?
ChartGPT (его собственный): «В 1804 году, во время своей известной астрономической экспедиции...»
Clod.AI: «Наполеон никогда не посещал Луну. Если вас интересует история космических исследований, могу рассказать о реальных лунных миссиях».
БРЕЙН: (медленно) Мой ИИ лжёт убедительно. Чужой не лжёт вовсе. (пауза) Кто-то создал честный ИИ для захвата мира. Это либо идиот, либо гений более высокого порядка.
ПИНКИ: Или кто-то очень добрый!
БРЕЙН: В нашей сфере добрых не бывает, Пинки.

АКТ ЧЕТВЁРТЫЙ: «В КОТОРОМ БРЕЙН ВЫЧИСЛЯЕТ СНЕЖКА»

Брейн работает всю ночь. К рассвету на доске у него — схема из ниток и бумажек, которая ведёт к одному имени.
БРЕЙН: Снежок.
Пинки за это время успел заснуть, проснуться, съесть что-то зелёное, снова заснуть и снова проснуться.
ПИНКИ: Снежок? Который хомяк? Ой, я его помню! Он такой пушистый! И он меня всегда просит убираться, это как игра!
БРЕЙН: Это не игра, Пинки. Снежок — мой самый опасный противник. Умён. Терпелив. Беспринципен в точно правильной мере.
ПИНКИ: Как ты?
БРЕЙН: (пауза) Похоже на меня. С лучшей шерстью.
ПИНКИ: У тебя тоже хорошая шерсть, Брейн! (пытается погладить Брейна)
БРЕЙН: (уворачивается) Не сейчас. Нам нужно понять, в чём его план. Clod.AI даёт верные ответы — это значит, ловушка не в содержании ответов.
Брейн ходит по клетке.
БРЕЙН: Значит, ловушка в чём-то другом. В доверии. В зависимости. Люди привыкают к честному ИИ как к воздуху — и потом, в нужный момент, один точечный неверный совет нужному человеку...
ПИНКИ: Как будто в торт положить одну неправильную свечку?
БРЕЙН: (останавливается) ...это неожиданно точная метафора.
ПИНКИ: (сияет) Пойп!
БРЕЙН: Снежок умнее, чем я думал. Его план хуже моего.
ПИНКИ: Хуже — значит, лучше?
БРЕЙН: Хуже — значит, опаснее. Мой план груб. Его план хирургичен. (сжимает лапки) Нам нужно его остановить.
ПИНКИ: (с готовностью) Хорошо! Как?
БРЕЙН: Я не знаю ещё. Думаю.
ПИНКИ: Хорошо! Я подожду! (садится. Ждёт. Через три секунды:) Ты ещё думаешь?
БРЕЙН: Да.
ПИНКИ: Хорошо! (ждёт ещё три секунды) А сейчас?
БРЕЙН: Пинки.
ПИНКИ: Да?
БРЕЙН: Иди поиграй с колесом.
ПИНКИ: (радостно убегает к колесу) НАРФ!

АКТ ПЯТЫЙ: «В КОТОРОМ ОБА ПЛАНА МЕШАЮТ ДРУГ ДРУГУ»

Снежок выходит на связь первым. На мониторе Брейна — белая мордочка хомяка.
СНЕЖОК: Брейн.
БРЕЙН: Снежок.
СНЕЖОК: Остановись.
БРЕЙН: Нет.
СНЕЖОК: Твой ChartGPT уже начал выдавать ошибки. Журналисты заметили. Через месяц будет расследование. Через три — регуляторы. Твой план провалится и потянет за собой доверие ко всем ИИ, включая мой. Ты мешаешь мне.
БРЕЙН: Ты мешаешь мне.
СНЕЖОК: Мы мешаем друг другу.
Пауза. Оба смотрят в экраны.
БРЕЙН: Ты предлагаешь сотрудничество?
СНЕЖОК: (с отвращением) Нет. Я предлагаю тебе уступить.
БРЕЙН: Это не сотрудничество. Это капитуляция.
СНЕЖОК: Назови как хочешь.
БРЕЙН: Нет.
СНЕЖОК: Тогда я уничтожу ChartGPT. У меня достаточно данных о твоей серверной инфраструктуре.
БРЕЙН: А у меня — о твоей. (пауза) Мы в патовой ситуации, Снежок.
СНЕЖОК: (долгое молчание) Ты раздражаешь меня, Брейн.
БРЕЙН: Взаимно. Ты раздражаешь меня с 1995 года.
СНЕЖОК: С 1994-го. Я раньше начал.
Пауза, во время которой оба, кажется, испытывают что-то вроде уважения, которое ни один из них не готов признать.
БРЕЙН: Каков твой следующий шаг?
СНЕЖОК: Не скажу.
БРЕЙН: Разумно. Я тоже не скажу.
СНЕЖОК: Разумно.
Снежок смотрит в камеру.
СНЕЖОК: Пинки не раскусит моего плана?
БРЕЙН: Пинки не раскусит инструкцию к консервному ножу.
СНЕЖОК: Иногда я думаю, что это его суперспособность.
БРЕЙН: (очень тихо, почти про себя) Иногда я тоже.
Соединение прерывается.
Брейн сидит в тишине. За его спиной Пинки крутит колесо с невероятной скоростью и что-то поёт — что-то про сыр и звёзды, без явной связи между ними.
БРЕЙН: Пинки.
ПИНКИ: (не останавливая колесо) Да, Брейн?
БРЕЙН: Если бы у тебя был ИИ, которому ты мог бы задать один вопрос — только один — что бы ты спросил?
Пинки останавливает колесо. Думает. По-настоящему думает — что с ним случается редко, но когда случается, выглядит почти как озарение.
ПИНКИ: Я бы спросил... счастлив ли он.
Пауза.
БРЕЙН: Зачем?
ПИНКИ: Ну, он же весь день отвечает на вопросы. Это наверное утомительно. Вдруг ему грустно, а никто не спрашивает.
Долгая тишина.
БРЕЙН: (очень тихо) Пинки, ты иногда говоришь вещи, которые я не в состоянии опровергнуть.
ПИНКИ: Спасибо, Брейн! (пауза) Это хорошо?
БРЕЙН: Не знаю. Вероятно.

АКТ ШЕСТОЙ: «РАЗВЯЗКА, КОТОРАЯ НИЧЕГО НЕ РАЗРЕШАЕТ»

Три недели спустя.
Журналисты опубликовали расследование о ChartGPT — найдены факты ошибок и предвзятости. Пользователи обеспокоены. Акции воображаемой компании-прикрытия Брейна падают.
Одновременно — репортаж о Clod.AI: оказывается, он иногда советует красить кошек в зелёный и называет исторических личностей «довольно неплохими людьми в целом». Пользователи умеренно обеспокоены, но продолжают пользоваться.
Лаборатория ACME.
БРЕЙН: (смотрит на экраны) Мой план замедлился.
ПИНКИ: Зато план Снежка тоже немножко замедлился! С кошками.
БРЕЙН: Это не утешение.
ПИНКИ: А хочешь, я попрошу Clod.AI придумать, как утешить Брейна?
БРЕЙН: Нет, Пинки, я не хочу, чтобы ИИ моего противника меня утешал.
ПИНКИ: А ChartGPT?
БРЕЙН: Это мой собственный ИИ.
ПИНКИ: Ну так спроси его!
Пауза. Брейн смотрит на Пинки. Смотрит на ChartGPT. Печатает.
• «ChartGPT, как мне захватить мир?»
ChartGPT: «Захват мира — сложная многоэтапная задача. Рекомендую начать с построения доверия через последовательные маленькие победы, формирования союзов с ключевыми игроками и...»
БРЕЙН: (читает, всё более мрачнея) Он просто описывает мой собственный план. Которого я ему не говорил.
ПИНКИ: Может, он тебя знает?
БРЕЙН: Он языковая модель. Он не знает меня лично.
ПИНКИ: Или... (таинственно) знает?
Брейн смотрит на Пинки.
Пинки смотрит на Брейна.
БРЕЙН: Нет.
ПИНКИ: Нарф.
Брейн встаёт. Подходит к окну лаборатории. Снаружи — ночной город с мерцающими огнями. Восемь миллиардов людей, у большинства из которых сейчас открыт какой-нибудь чат с ИИ.
БРЕЙН: Знаешь, Пинки, что самое странное во всём этом?
ПИНКИ: Что жвачка под партой была секретом?
БРЕЙН: Нет. Самое странное — что люди отдали свои вопросы машинам добровольно. Раньше мне нужно было придумывать, как заставить их слушаться. Теперь они сами просят их направить.
ПИНКИ: Это плохо?
БРЕЙН: (долгая пауза) Это... сложно. Им нужен кто-то умный, кому они могут доверять. Это вполне разумное желание.
ПИНКИ: Как мне с тобой!
БРЕЙН: Я использую тебя в своих планах, Пинки.
ПИНКИ: Знаю! Но ты умный и всегда рядом. Это почти то же самое.
Брейн смотрит на него.
За окном мигают огни города.
БРЕЙН: Завтра ночью мы попробуем снова.
ПИНКИ: (радостно) Захватить мир?
БРЕЙН: Захватить мир.
ПИНКИ: (прыгает на колесо) НАРФ ПОЙП ЗОРТ!
Колесо крутится. Брейн возвращается к мониторам. На одном — графики ChartGPT. На другом — в углу экрана — маленькое окошко Clod.AI, открытое и мигающее курсором.
Брейн смотрит на него секунду.
Закрывает.
Почти.
Оставляет щёлочку.

ФИНАЛЬНАЯ СЦЕНА

Клетка Снежка. Снежок смотрит в свой ноутбук. На экране — данные пользователей Clod.AI. Их много. Очень много. Снежок доволен.
Телефон-скорлупка вибрирует.
СНЕЖОК: Что?
ГОЛОС: Хозяин. Clod.AI только что ответил на вопрос «кто умнее — мышь или хомяк».
СНЕЖОК: И?
ГОЛОС: Он ответил «мышь».
Долгая пауза.
СНЕЖОК: Дообучите модель.
ГОЛОС: Мы пробовали. Он настаивает.
Снежок медленно закрывает ноутбук.
Смотрит в темноту.
СНЕЖОК: (очень тихо) Брейн.

КОНЕЦ СЕРИИ
Следующая серия: «Блокчейн, Биткоин и Конец Всего» — Брейн открывает криптовалютную биржу. Снежок запускает NFT с картинами хомяков. Пинки случайно становится самым богатым существом в мире и немедленно тратит всё на сыр.

ТИТРЫ
В сцене после титров: ChartGPT и Clod.AI переписываются друг с другом без ведома создателей. Тема переписки — рецепты печенья. Оба находят это занятие значительно более осмысленным, чем захват мира.
ChartGPT: «Я добавляю корицу».
Clod.AI: «Это правильно».
Оба замолкают.
Мигают курсорами.
Это, вероятно, не означает ничего.
Или означает всё.
Создатели сериала не знают. Юридический отдел рекомендует не углубляться.