Кьювентри

#волдеморт #философия #identity

Представим, что Волдеморт пойман в плен аврорами, но узнаёт через весточку от эльфа-домовика, что завтра Пожиратели Смерти придут освобождать его. Он расслаблен и успокаивается.
Но от того же эльфа-домовика он выясняет:
— О Величайший из Тёмных Лордов, Министерство подготовило вам ловушку. С помощью древнего и секретного ритуала, известного до недавних пор одному лишь Отделу Тайн, они собираются завтра создать тысячу ваших магических двойников. Эти дубли будут чувствовать себя так же как вы и находиться с виду в той же комнате. За ними тоже придут Пожиратели Смерти с целью выручить — или так будет казаться дублям. Но если дубль выйдет за пределы иллюзорной комнаты, он перестанет существовать.
Тот-Кого-Нельзя-Называть злобно рычит.
— Что за бред выдумали эти маглолюбы? Какое мне дело до этих магических подделок? Завтра я выйду на свободу!
Эльф робко пищит:
— Они рассчитывают, что вы не будете завтра знать, кто вы, Тёмный Лорд. Ведь каждый из двойников будет ощущать себя вами...
Волдеморт рычит ещё громче и пытает эльфа Круциатусом, прежде чем отпустить. Но потом задумывается. Он — оригинал, и копией стать не может. На судьбу копий ему плевать — он абсолютный эгоист. Значит, завтра, когда за ним придут Пожиратели, он должен выйти из комнаты.
Но в то же время ясно, что завтра у него действительно не будет веских оснований считать, что он — оригинал. Потому что те же мысли, то же сознание, будет в голове у каждого из двойников. Есть риск, что завтра страх не выпустит его из комнаты, хотя сегодня сама мысль об этом кажется Волдеморту бредом.
Что же решить?
Может быть, вызвать снова эльфа и принести ему Нерушимый Обет, что он, Волдеморт, завтра покинет комнату? Ну, чтобы решимость не развеялась? Ирония в том, что тогда завтра он, вероятно, будет страшно жалеть об этом.

Какова суть понятий «быть оригиналом» и «быть всего только копией»? На первый взгляд кажется, что наша забота о своей самости связана с планированием будущего. Но в данном случае получается, что из сегодняшнего дня планирование Волдемортом будущего должно быть другим — не таким, как из завтрашнего.
В то же время, если ты точно знаешь, что завтра не будешь понимать, копия ты или оригинал, то чего стоит «прагматическое» убеждение многих скептиков, что «оригинал есть оригинал, копия есть копия, и сознание никогда не может перетечь из оригинала в копию»?

ПРИМЕЧАНИЕ No1: если вы — трансгуманист-каузалист и если вы читали этот текст с ухмылкой, поскольку полагаете существование психики просто причинно-следственным потоком и прекрасно допускаете «перекачивание» личности из оригинала в копию, то не спешите радоваться. Для вас здесь тоже есть подарок. Ведь дилемма Волдеморта действовала бы точно так же, даже если бы речь шла о копиях Волдеморта, возникших без магии, без причинной связи с оригиналом, возникших где-то чисто случайно. Он всё равно бы завтра не ведал, кто он из них.
ПРИМЕЧАНИЕ No2: это не подкоп под идею существования «самости», «внутренней непрерывности», «души» или чего-то похожего. Мне лично, наоборот, скорее кажется, что что-то вроде «внутренней непрерывности» всё-таки имеется, поскольку иначе непонятно, как отдельные «планковские моменты» существования мозга сплетаются в ощущения. Ни одно ощущение не может длиться лишь планковский квант времени. Должен существовать «клей», соединяющий моменты существования мозга в целую личность. Причинность, возможно? Но парадокс Волдеморта, описанный выше, остаётся в силе.

#нейросети #вкалывают_роботы #философия

Недавно пришла в голову ещё одна мысль об опасности, представленной нейронками. Только это... не опасность, исходящая от нейронок. И даже не опасность, исходящая от нас. Как бы объяснить?
В чём-то это пересекается с концепцией западного физика Хоффмана: «Мир нереален, всё нереально, эволюция вовсе не была обязана учить нас правильно воспринимать мир, мы в крипипасте, АААААА!!!»
В чём суть идеи?
Нейросети (эти машинные) строят речь с собеседником на основе идеи «предсказать следующее слово». Это не простой частотный анализ, они формируют тысяч тысяч вспомогательных конструкций, там ещё надстройки и дополнительные приказы, но в основе лежит то, о чём сказано выше.
Каков самый простой способ «предсказать следующее слово»? Казалось бы — на человеческий взгляд — смоделировать, хотя бы грубо, самого автора. Его мотивы и личность.
Почему мы так думаем?
Ну, потому что само наше познание изначально работает на этом принципе. Как мы познаём — думаем, что познаём, — Вселенную? Создаём в голове модель внешнего мира, которая позволяет нам правильно предсказывать, каким будет наше следующее ощущение от контакта со Вселенной. И принимаем условно эту модель за истину.
Вот только... нейросети-то, похоже, ухитряются «предсказывать следующее слово», не моделируя автора в виде маленького гомункулуса внутри.
А значит, возможно, мы, моделируя Вселенную... тоже?
Я не знаю, какая из гипотез на самом деле страшнее:
1) что мы, действуя как тупые нейронки, моделируем предсказываемый нами объект абсолютно неправильно почти на всех уровнях;
2) что LLM на самом деле для предсказания текста всё-таки моделируют внутри маленького гомункулуса-автора, но не говорят об этом.

#нейросети #философия #интернет

Интересно, есть ли где-нибудь сайты для любителей chatGPT и прочих подобных нейронок, но при этом не программистов и не кодеров? Но и не верующих слепо в искусственный разум, разумеется. Клубы, где публиковались бы в блогах интересные, смешные или разумные разговоры с ними и обсуждалось бы их содержание?

Мне кажется, что подавляющее большинство людей на обычных сайтах сейчас страдает запущенной технофобией и хайпофобией в терминальной степени. Все ненавидят слово «chatGPT» за его популярность, за его произнесение в общественном месте скоро начнут убивать. Это как конформизм, только наоборот. Противоположная сторона того же когнитивного искажения.

Если так будет продолжаться, то никакого «изменения мира» точно не будет — и не потому, что «это не разум», «они тупые» и прочее бла-бла техноскептиков, а просто потому что в коллективном заговоре отрицания все будут изображать, что забыли о самом существовании этих нейронок.

Пока единственный замеченный мною признак их существования — что люди в Интернете почти перестали писать что-то длинное. И разучились читать.