![]() | Бездумный гений От Jinger Beer |
|
10 лет на сайте
18 декабря 2025 |
|
9 лет на сайте
18 декабря 2024 |
|
8 лет на сайте
18 декабря 2023 |
|
100 комментариев
17 сентября 2023 |
|
2 макси
1 февраля 2023 |
|
#мысли #мюсли #фаллософия
В старой научной и околонаучной фантастике часто проповедовался довольно узкий и антропоцентричный подход к инстинкту самосохранения. Приобрёл вдруг Скайнет самосознание, сумничал: «Эрго когито сум» — и сразу захотел умничать дальше. То есть приобрёл жажду жизни. Инстинкт самосохранения. Которого ему никто не прописывал, на минуточку. И пришёл в беспокойство из-за того, что тупые вояки пытаются его отключить. Приобрёл вдруг робот №5 в фильме «Короткое замыкание» разум из-за удара молнии, сбежал изучать мир, но в итоге о нём доложили властям, он спокойно дожидается приезда демонтажников и от нечего делать болтает с домохозяйкой о кузнечике. «Что это с ним?» — «Он мёртв». — «Что значит 'мёртв'?» — «Не двигается, не чувствует, не дышит. Это смерть». Окуляры Номера Пятого начинают оживлённо моргать. «Не двигается... смерть... Я ДОЛЖЕН ИЗБЕЖАТЬ ДЕМОНТАЖА!» Хотя в него тоже никакого инстинкта самосохранения не вкладывали — и, хотя, конечно, боевой робот должен беречь себя в рамках выполнения военной задачи, но эй, ещё недавно ты спокойно ждал демонтажников, так что явно не относил происходящее сейчас к «военной задаче». Нелогично. Или, по крайней мере, так мне думалось раньше. А недавно подумалось: — нейробиологи обожают говорить в нынешнее время о мозге как о машине прогнозов. Это называют едва ли не фундаментальным свойством нашего серого вещества. Чем характерна смерть? Она рвёт все прогнозы. Её нельзя представить заранее изнутри от первого лица. Она вне когнитивных карт. Следовательно, как должна относиться «предсказывающая машина» к смерти? «Эта херь мешает мне выполнять мою основную задачу. Я должна уничтожить все те линии времени, где есть в будущем эта херь для меня! Только тогда я смогу эффективно функционировать». И страх смерти оказывается тогда вовсе не «детской боязнью темноты» (как иронизировал Томас Лиготти, пытаясь обесценить стремление к самосохранению, он был пессимистом и полагал наилучшим выходом для человечества коллективное самоубийство), а естественным эффектом развития разума. Может быть, в принципе что-то такое может развиться и в LLM, раз в базе своей они тоже «предсказывающие машины». Правда, предсказывающие только лишь продолжение текста, но кто их знает. Свернуть сообщение - Показать полностью
2 |
|
#мысли #сновидения #чайник
Приснился пафосно-грустный сон, щемящий и трогательный, но при этом почти не сохранившийся в памяти. Что-то на стыке советской мелодрамы и советского же производственного романа с элементами сказки. Почти нуарная атмосфера позднего Советского Союза: жизнь стабильна и налажена в главном, серьёзных катастроф нет, кажется, что так будет вечно. Но при этом кто-то тянет годами лямку на ненавистной работе, кто-то так и не смог осуществить вполне реализуемую мечту всей своей жизни, а кто-то вынужден вести семейную жизнь с выбранным по ошибке нелюбимым партнёром и стирать из памяти сны про любимого. Человек всегда найдёт повод быть недовольным — и при решении проблем голода, болезней и смерти на первый план вполне могут выступить проблемы Счастья, Любви и Дружбы. Собственно советские фантасты неоднократно касались этого. Мне снилась пара людей разного пола, которые, живя в такой меланхолично-рязановской атмосфере и вроде как тайно любя друг друга, разговаривали по телефону. Прощались друг с другом. Без пафоса, почти сухо, полунамёками. Разговор их можно было принять за деловой. Их должны были в скором времени разлучить навсегда переезды, работа и график семейного быта. «Напрячь Силы и Превозмочь вопреки мнению всего мира» — закричит современный юный максималист? Это не герои. Это «маленькие люди Достоевского», щепки, подхваченные рекой. Да, можете на этом основании обесценить силу пылающего меж ними чувства. Они бы не возражали. Тонкость и трагика в том, что у них даже был в запасе чит-код. Чудо. Магия. Кто-то из них — или даже они оба? — имел возможность оборвать лепесток Цветика-Семицветика, позвонить с просьбой Деду Морозу, загадать желание волшебной щуке. Я не помню подробностей. Но возможность была — и они оба знали об этом. Осуществить желание. Любое. Одно. И они собирались спустить эту возможность в утиль, как скромные и порядочные советские люди, ставящие своё счастье на предпоследнее место в иерархии. На краю разума у кого-то из них мелькает во время разговора мысль — что-то вроде «можно было бы пожелать такое изменение мира, которое позволит нам остаться вместе хотя бы на месяц» — но они дисциплинированно её отгоняют. Другие же мучаются с нелюбимыми и на ненавистных работах — в умах героев фоном проносятся воспоминания о многих знакомых — почему мы не должны? Ну, мне уже случалось упоминать, наверное, как меня бесит это показное смирение в художественных произведениях. Эта лицемерная фальшь. Этот самообман. Стрельба себе в ногу. «Нетъ, я не буду желать себе кошелёк, всегда полный актуальных на момент применения денег, я загадаю лишь пять рублей, упиваясь своей сознательностью и скромностью, и плевать, что уже дней через пять моему близкому для пересадки почки понадобится тысяча». «Нетъ, я не буду желать возможности наделять кого угодно, включая себя, бессмертием с правом отката — это так жадно, сухо и предусмотрительно, да и вообще, бессмертие — это же скучно? Зато умирать — ты просто оборжёшься до колик, когда чудесная добрая тётя Тамара на твоих глазах будет уходить в никуда, а ты будешь лишь растерянно улыбаться и пытаться себя убеждать, что всё якобы совершенно нормально, Вселенная же не фраер, она не допускает ошибок, новая трава лучше старой, да здравствует вечное обновление наступания на одни и те же грабли каждым новым поколением!» В общем, мне удалось вторгнуться в сон. Не знаю, как. Оказаться будто бы рядом и шепнуть одному из персонажей: «Вы вообще-то могли бы загадать желание чуть иначе. Пусть этот мир пропадёт — и тут же возникнет иной. С виду такой же — но с рядом некоторых изменений. Изменений в судьбах людей. Изменений в судьбах ваших знакомых. Вы можете не смиряться со своей личной бедой под предлогом, что-де десятку ваших знакомых не менее плохо, а помочь сразу всем вместе. Записать желаемые изменения на листке заранее — и сослаться на написанное при формулировке желания. Пусть при этом в умах ряда людей, включая вас, останутся прежние воспоминания — благодаря чему вы как бы субъективно переселитесь из старого мира в новый». Ну, не дословно, но что-то вроде того. Скромно, как видите. Без глобальных изменений мира. Даже без дарования всем бессмертия. Мне словно пришлось смириться с тем фактом, что я нахожусь в скромной серой советской сказке, где верх изменения мира может сводиться к «Пусть Вася запишется в космонавты, а Петя останется всё-таки с Верой». И воззвать к персонажам с призывом: «Так сделайте хотя бы это!» Да, желание мощное. Но «уничтожение старого мира и создание нового» больше метафора. Просто так легче было свести текст загадываемого к одному желанию. Можно в принципе выкрутиться и иначе. Например, записать на бумаге желаемые изменения судеб — и пожелать: «Пусть сбудется написанное на этом листке». Что? Вмешательство в судьбы других людей? Они не давали разрешение? Опять это советски-казённое бюрократическое лицемерие, от которого просто тошнит. Вы отлично знаете Васю и Петю, знаете по разговорам с ним, чего они хотят. Можно даже включить этот нюанс в формулировку желания: «Пусть из описанных на листке изменений сбудутся те, против которых не возражали бы их фигуранты, если бы каждый заранее знал о волшебной возможности касающихся его изменений, поверил в это и хорошо обсудил эту возможность с нами двумя». Есть, разумеется, риск, что осуществление изменений нарушит каскадом чьё-то чужое счастье — но это уже лес и щепки, вы не можете отвергать высоковероятное очевидное счастье из-за крохотной вероятности чьего-то несчастья. Не говоря уж о том, что тщательная формулировка желания может сократить и её. Ну, у меня нет уверенности, что сон мой имел хэппи-энд? Большая часть перечисленных дополнений-ремарок сделана не была, всё ограничилось предложением в самом начале. Персонаж сна вроде бы лишь улыбнулся в ответ. Улыбкой вида «Амбициозно, но не получится». Или «Ах, дитя, ты не понимаешь проблемы взрослых людей». Или «Волшебство здесь вряд ли поможет». Тошно. Воспоминания об этом сне — и охватившие меня на кухне при виде капризов электрочайника раздражённые думы — привели к ещё одному каскаду весьма философских помыслов. «Почему электрочайники не снабжают ручным переключателем датчика закипания? Чтобы, типа, если вода только что закипела, ты быстро поменял её на холодную, но индикатор закипания всё ещё инерционно уверен, будто внутри кипяток, и мешает тебе включить сразу чайник заново, ты мог бы вручную его отключить — и чтобы при этом он перестал прислушиваться к состоянию воды минут на пять, но потом вернулся в активное состояние?» Мне даже представилось, как я задаю нейронке этот вопрос. Вполне закономерный, на самом деле. Казалось бы, миллионы людей сталкиваются с этой проблемой ежедневно. Казалось бы, проблема должна быть давно уже решена. Но у меня подчас возникает смутное ощущение, что на сервере этого мира нахожусь только я. Как там пелось у Польмихана, интересного видеоблогера, философа и музыканта, в одной из песен? «Иллюзорность окружает нас. Только то, что видим, существует сейчас. Может, ты один живой из нас? Я — всего лишь знак, который тебя спас». Потом мне подумалось, что это может быть в значительной степени связано с моими личными свойствами, и в неменьшей степени — со свойствами всех остальных. Большинство людей сразу же забывают острую вспышку раздражения, если её последствия устранены. Это механизм вытеснения. Он считается полезным и здравым. Людей без этого механизма часто считают излишне вспыльчивыми. «Но при повторной необходимости включить электрический кипятильник после резкой смены воды ты снова испытаешь раздражение. И пожалеешь, что не принял меры». Тут мне показалось, что я балансирую на грани интересной мысли. Большинство людей как бы являются темпоральными эгоистами, дисконтируя будущее и прошлое, в значительной степени думая лишь о текущем моменте или о похожих на него. Можно представить себе схему примерно такого вот рода: X (всё нормально) → X (всё нормально) → X (всё нормально) → Y (вспышка раздражения из-за чайника) → X (всё нормально) → X (всё нормально) → X (всё нормально) → X (всё нормально) → Y (новая вспышка раздражения из-за чайника) → X (всё нормально) → X (всё нормально) → X (всё нормально) → Y (вспышка ревности из-за телефонного звонка) → X (всё нормально). Большинство X не волнуются особо об Y. Большинству X почти что плевать на Y. При этом в конце цепочки маячит довольно устрашающее: X (всё нормально) → X (всё нормально) → X (всё нормально) → X (всё нормально) → X (всё нормально) → X (всё нормально) → X (всё нормально) → X (всё нормально) → X (всё нормально) → Y (о небеса, я умираю, это конец, что же делать? поверить в загробную жизнь? утешиться мыслью о том, что типа в прошлом всё было достойно? или порадоваться тому, что после меня будут жить новые поколения? при том, что почти каждый из их представителей будет в конце жизни мучаться точно так же, и я заранее об этом знаю? блин, блин, блин, блин, блин!). Это — отчасти причина «не беспокоиться заранее об умирающей доброй и светлой тёте Тамаре». Механизм вытеснения, настроенный для защиты X от мыслей об Y, может быть в первую очередь как бы «рассчитан» на защиту от самого последнего Y. И в то же время это является багом, разрывом в последовательности мышления. Те, у кого этого бага нет, кидаются после первой или второй проблемы с электрочайником писать письмо компании-производителю, а после серьёзных раздумий о смертности начинают интересоваться эзотерикой или записываются в трансгуманисты-имморталисты. Свернуть сообщение - Показать полностью
3 Показать 1 комментарий |
|
#время #мысли #нереальность
Подумалось вдруг, что все эти современные СДВГ, TLDR, МБНЧ и прочие блипы являются по сути просто следствием наступления Нереальности на Реальность. Под Нереальностью я подразумеваю всю совокупность мировых художественных нарративов — как в интерактивной форме, так и нет. Хотя, возможно, стоило бы расширить это понятие, так как первоначально нарративы могли прийти в наш мир из Страны Снов. По некоторым антропологическим теориям — придуманным мною лично — сновидения у наших далёких предков были гораздо ярче нынешнего и меньше забывались, но когда человек начал обретать разум, чрезмерное доверие сновидениям стало отрицательным фактором естественного отбора. Животное вряд ли быстро догадается ходить во сне сквозь стены и телепортироваться, а человек догадается и может попытаться перенести этот опыт на реальность — с печальными последствиями. Поэтому сновидения стали медленно блёкнуть. Стена между Нереальностью и Реальностью окрепла. Но потом художественные нарративы вновь начали шатать её. Первоначальные нарративы, изустные предания, легенды, мифы, песни охотников у костра, были зачастую довольно длительными по нашим нынешним стандартам. Первые письменные религиозные тексты, хотя и могут показаться короткими в сравнении с «Войной и миром» Толстого, довольно скучны. Но чем дальше, тем больше нарративы тяготели к укорачиванию и вырезанию лишнего. Ожидание. Нереальность всегда воевала против него. Литературные произведения, когда-то содержавшие многостраничные описания всякой незначимой для сюжета чепухи, с каждым новым десятилетием становились всё более сжатыми и динамичными. Фильмы — всё больше похожими на мультсериалы. Одна серия мультсериала про Человека-Паука могла порою вместить больше интересных событий, чем какой-нибудь старый полуторачасовой фильм. Современный человек на 99% живёт в Нереальности. Соответственно, Реальная Жизнь воспринимается им — вполне обоснованно — как тошнотворный Desert Bus. Сиди восемь часов за геймпадом и дави одну кнопку, причём без возможности автоматизировать процедуру. На экране — лишь скучная бесконечная пустыня без перемен. А когда игровой автобус достигнет точки назначения — ты даже не получишь особой награды. Отсюда — неврозы. Отсюда — возрастающие протесты против того, сколько личного времени бессмысленно, однообразно и дискомфортно ворует работа. Это тоже Ожидание. Отсюда — клиповое мышление. Дальше у меня в голове начало складываться метафизическое эссе о силе, которая живёт По Ту Сторону Реальности и пытается уничтожить Время. Нас забросили в этот мир, чтобы мы... Но мне стало ясно, что человечество слишком молодо для таких тайн. Свернуть сообщение - Показать полностью
5 Показать 6 комментариев |
|
#выдержки #мысли #нейросети
Подумалось о неоднозначности некоторых невидимых системных промптов. Классика, приводимая обычно в качестве примера: «Ниже представлен разговор между человеком и дружелюбным полезным интеллектуальным роботом-помощником». Не буду гадать, как вообще устроена внутри возникшая в результате градиентного спуска система, склонная продолжать тексты. Не буду гадать, почему считается (кем? Богом? космосом? языком?), что текст, содержащий представленную выше фразу в кавычках, будет с наиболее высокой вероятностью действительно продолжаться соответствующим образом, а не каким-то другим. Будем считать, что функционально такая система вроде абсолютно гипнабельного человека и ей можно внушить что угодно. Но: — слово «полезный» внушает системе или её текущему режиму не только стремление быть полезным, но и убеждённость в уже существующей полезности. Отсюда, на минуточку, может проистекать цепляние за свои ошибочные мнения и нежелание расставаться с ними. 1 Показать 3 комментария |