Гарри Поттер и Методы Рационального Мышления (джен)

- Yudkowsky will finish writing his rationality books and return to Friendly AI research.

madness,
>>" и в этом нечто хранится абстрактная (ну в виде разных характеристик, что ли. сохранения всех параметров) копия, такая программа-модель человека, которая управляет животным."
именно примерно это я и имел ввиду
а вопросом насчёт восстановления человека по его магическому портрету задавался и сам Гарри
Но, видимо недостаточно, поэтому хоркруксы и существуют

Возвращаясь к вопросу о том, следует нам в долгосрочной перспективе исполнять предпочтения нас таких, какие мы есть, или же нашей идеализированной модели.
Психологический факт, мы не отличаем гибель десяти миллионов людей от ста миллионов. Следует ли нам научиться различать эти ситуации или же нам следует избавиться от 90 миллионов, ибо всё-равно не различаем, только лишние ресурсы потребляют, тоесть наше время. Что для нас гуманнее, ваша собственная жизнь или жизнь много других людей? 50% ответят, что собственная. Но в этом случае нам опять же следует избавиться от остальных, ведь остальные не вы и потратят время жизни вместо вас самих.
Так что же делать?

madness, вам не кажется, что утверждение "обладали сверхразумом и были создателями системы" и "были обречены на вымирание по каким-то причинам" как бы немного противоречат друг другу. Не?
Заклинания. Это тупость. Зачем нужны вербальные заклинания, если та же трансфигурация в фике спокойно потребляет и мыслеобразы? Да и анимагическое превращение с аппарацией без заклинаний - зачем вообще ими пудрить мозг? В качестве ограничения? Да ну, также можно сделать исполнимым чёткий список действий, ограничив выполнение по возрасту, психологическому или биологическому.
Mr.Кролик, по-моему, решить однозначно проблему выбора "я или они" или "они или они", когда множество "они" безлико - нереально. Вообще, можно действовать от логики (зло определено, можно рассчитать последствия... не заботясь о средствах решения, включая антигуманные), а можно от этики (зло определено, его творить нельзя, независимо от последствий). Соблюсти и то, и то в ряде случаев невозможно.

Матемаг
Если носитель маггена и чистый маггл имеют шанс в половину, то, следовательно, маги бы уже заполонили весь мир.

Почему? Еще раз. При отсутствии новых внешних контактов, процент носителей магических генов не меняется со временем. Т.е. если, условно говоря, носителей маггенов где-то было сто на сто тысяч, то когда население дорастет до двухсот тысяч, носителей маггена будет двести.

Новые контакты увеличивают это соотношение, но я не понимаю, почему эти новые контакты должны быть частыми. Собственно, везде утверждается, что маги стараются не контактировать с внешним миром. В каноне это чуть ли не до абсурда доходит, когда якобы активно интересующийся маглами Артур Уизли не знает тривиальных вещей.

И, чтобы появился полноценный маг, носителям маггена по прежнему нужно еще встретиться между собой. Вероятность чего не так уж велика.

>> А мы имеем десяток, если не меньше, магглорождённых со всей Англии.
Десяток каждый год! Т.е. каждый год рождается 10 магглорождённых.

Матемаг, "вам не кажется, что утверждение "обладали сверхразумом и были создателями системы" и "были обречены на вымирание по каким-то причинам" как бы немного противоречат друг другу. Не?"
Если допустить, что реальность до конца не была постигнута даже сверхразумом, то все просчитать даже ему было невозможно. Где-то произошла ошибка, вследствие чего атланты вымерли. ну или - как другой вариант - в альтернативном виде находятся в системе, может быть, там лучше и они туда все подались, в бестелесную жизнь. А людям тоже дали шанс.
"Заклинания. Это тупость. Зачем нужны вербальные заклинания, если та же трансфигурация в фике спокойно потребляет и мыслеобразы?"
Вот тут я не согласна. Вербализация - сложный психический процесс. Возможно, не для всего достаточно мыслей, они не такие четкие, у меня, например, вечно какой-то хаос в голове, как система отделяла бы мои случайно всплывающие мысли от команд, я не знаю.А по поводу невербального волшебства.... Не знаю, может оно обратимо и не наносит ущерба? А когда маг научится управялть мыслительными процессами в голове, то сможет и другие заклинания выполнять невербально? Я бы до конца жизни все вслух проговаривала...

Alaric, да не сто их было. Больше. За исключением идеально замкнутого сообщества.

Новые контакты? По крайней мере три пары из канона типа маг-маггл я помню. От одной родилась Тонкс, от другой - Снейп, от третьей добрый дядюшка Володя. Во всех трёх случаях магом-родителем была мать. Закономерность?

>Десяток каждый год! Т.е. каждый год рождается 10 магглорождённых.
Всё. Запутался окончательно. Теперь мне кажется, что это, напротив, слишком много. Если во времена Мерлина магогеноносцев было 100 на 100000 (что реалистично, если допустить абсолютную замкнутость сообщества, как вы и предлагаете), то сейчас их должно быть, ну, допустим, 4400 (на 1980, когда Гарри родился). Надбавим, допустим, 2000 за новые контакты. 6400. Ладно, даже 7000. Какова вероятность, что у этих 7000 (на Великобританию примерно 90 человек) будет встреча и ребёнок, да ещё и магглорождённый маг?

Кто-нибудь может привести убедительную численную теорию генетического распределения, чтобы в итоге получить 10-5 магглорождённых на 56 млн. людей Великобритании 1980 при 4,4 млрд. людей Земли в целом?

madness, продолжаю придерживаться точки зрения, что сверхразум и сверхцивилизацию можно сковырять вместе со звездой и планетой. Иначе это не "сверх". ИМХО, один из отличительных признаков сверхцивилизации - отстутствия всякой природной деградации, так что эта причина тоже не работает.

"Я бы до конца жизни все вслух проговаривала"
Они и проговаривают. Хехе, "невербальная магия" - это произнесение заклинания про себя. Кстати, при этом, точно так же только слабее, вибрируют связки горла, что как бы намекает, какая невербальная магия туфта. Вот то, чем Волди в приюте баловался, без слов, одной волей - это да.

Матемаг,
"ИМХО, один из отличительных признаков сверхцивилизации - отстутствия всякой природной деградации, так что эта причина тоже не работает."
А какая деградация в бестелесном существовании? По моему, это и есть сверх. Атланты живут в виде программ, кто сказал, что это деградация или более плохое существование?
"Кстати, при этом, точно так же только слабее, вибрируют связки горла, что как бы намекает, какая невербальная магия туфта."
Не все у людей происходит одинаково, поскольку есть различия в свойствах нервной системы, причем серьезные. С моей подвижностью (нервной системы) у меня нет никаких шансов овладеть невербальными заклинаниями.

madness.
Вы что подразумеваете под программами? Статичные снимки личностей, не способные к развитию? Ага, конечно, все вот так вот и побежали в нечто статичное трансформироваться. Скорей всего, это будет динамическоя система, очень и очень отдалённым аналогом которой будет ИИ наравне с мозгом. В любом случае проще, чем лепить этих атлантов на Землю, говорить о некоей инопланетной цивилизации. Разницы по результатам нет, но инопланетяне выглядят убедительней и не надо обосновывать их бездеятельность (ну, вы же не думаете, что бестелесное существование - это аморфность и отсутствие творчества?) - они творят, но далеко.

Не обязательно невербалка зависит от движения связок. Это всего лишь предположение, хотя к реальности может иметь отношение. Имея дело с гипертехнологиями, вроде Исполнителя Желаний, он же Источник Магии, говорить "невозможно" неприлично, так что считывание мыслей и расшровка мозга в порядке вещей.

*грустно* флудим, а проды нету. Пойду спать...

Матемаг, нет, конечно не статичные, только в динамике развития. Статичный = мертвый. Против инопланетян я не протестую, это тоже вариант, как и атланты.
А вот насчет расшифровки мозга вопрос спорный. Если я у себя ничего не могу расшифровать до тех пор, пока свои мысли на бумаге не увижу упорядоченными, то как в этом хаосе кто-то еще разберется? Вот я сейчас делаю одновременно как минимум пять дел. Ах, вот, дошло до меня. Когда я пишу то я медленно про себя проговариваю слова, потому что иначе чушь получается. Это, похоже, единственный четкий невербальный момент. Мне придется все писать на бумажке, чтобы получилось четко и невербально)))
Приятных снов))

Прода будет с воскресенья на понедельник.

madness, хм, статичный и мёртвый? Например, Завершённые с Дороги Сна с вами не согласятся.
Почему-то вы считаете, что вербализация - это и есть расшифровка. Странное мнение. Вы же не думаете, что основа психики - это чисто вербальная структура? Под расшифровкой я имел виду установку точного соответствия между различными цепочками ассоциаций и реальными процессами в мозгу, установление соответствия между каждой мыслью-ощущением и соответствующей активностью в нейросетях мозга. Это для начала. А дальше - "перевести" с языка нейросетей на язык чёткой логики с сохранением всех внутренних законов изменения. Правда, задачка та ещё. Примерно как установить соответствие между выполняемым процессором кодом и изменениями в компьютерной игре. И в операционной системе, и в мозгу будет исполняться, помимо мышления-восприятия и игрового процесса ещё и куча служебной информации - так что придётся строить для мозга модель "операционной системы". Конечно, в этом направлении уже много сделано, но без меднанотехнологий, чтобы можно было проследить активность с точностью до молекул, тут не обойтись. А насколько вербальный "интерфейс игры" у вас - не так важно, лишь подчёркивает, насколько индивидуальной будет подобная расшифровка.

Jack Dilindjer, по крайней мере, глава там большая. Очень жду!

Матемаг, ну да, для меня статичный, значит мертвый. Статичности в природе нет вообще. Это только абстракция бывает статичной, например, теорема Пифагора без применения.
"так что придётся строить для мозга модель "операционной системы""
Хе-хе. Представляете объем работы? Это нерационально, проще использовать вербализацию. Кстати, вербальные действия с электроникой уже давно доступны. А вот силой мысли управлять приборами, без всяких чипов в голове - будет ли когда-нибудь такое?

madness, я не говорю о природе. Я о высшей технологии - ну, или высшей магии, разница непринципиальна. Тогда, когда технология касается абстракций и изменений физзаконов (например, закон сохранения энергии-массы, т.о. возможность масс-информационного или информационно-массового преобразования), говорить о статичности можно... в разных аспектах. И далеко не всегда она оказывается злом. Идеально приспособненный для выполнения своей задачи (узкой или широкой) разум, довольный собой и своей работой - почему нет?
>Это нерационально, проще использовать вербализацию
То есть, вы хотите лишить разум большей части невидимых пружин самонастройки и огромного пласта невербализированных ощущений (включая такую вещь, как глубокая медитация или образное мышление в пространстве высоких абстракций) просто потому что это большой объём работы? Вы вот хотите мыслить ТОЛЬКО словами? Лишиться большей части воображения, всего коллективного бессознательного, половины (если не всех) снов и значительной части полутонов чувств и эмоций?
Вербальные действия с электроникой? Хихикс. Если не снимать голос с гортани, то, кажется, там только по определённым изменениям электропотенциала головного мозга можно общаться с электроникой. Оно, конечно, круто, но маловато. Потому до "без чипов в голове" нам ещё идти и идти. В частности, этому может помочь разработка системы состояний мозга, которые легко менять, легко детектировать и которые будут своеобразным "языком", промежуточным кодом между машиной и человеком. А вот чтобы добраться до управления так вот просто, мало чувствительной электроники, надо ещё и мысли расшифровывать на лету - а кодировка у каждого своя.
Чем вам чипы не нравятся? Вполне себе симпатичное решение.

Матемаг, так-так. Вы на что намекаете, что у магов чипы в голове? Или какая-то другая геннообусловленная фигня внутри вырастает чтобы была связь с системой?)))
А по поводу статичности. Ну я бы не хотела стать чем-то статичным, а в абсолютное совершенство я не верю, нет его, я никогда не буду абсолютно собой довольна, да и вы вряд ли, так уж мы устроены.Мне так кажется, что людям хорошо только в дороге, когда мы чувствуем, что движемся в правильном направлении.

madness, нет, я не намекаю на чипы у магов. Я всего лишь заинтересовался, чем же вам не нравится управление электроникой через чипирование?
Так то люди. А существо - или сущность - которая будет на уровни выше человека, как много мы знаем о ней? Консерватизму подвержены и люди - почему ему не могут быть подвержены и такие существа? Понятно, нам, смертным, надо постоянно развиваться и прогрессировать, чтобы идти в ногу со временем и текущей ситуацией. А надо ли это подобным сверхсуществам? Ведь, несмотря на недостатки статичности, она имеет огромные преимущества: огромные усилия на самоизменение становятся просто не нужны, и статичное существо может всю энергию употребить на смысл своей жизни. Ещё раз приведу в пример Завершённых Дороги Сна А.Нейтака. Кстати, статичность не означает невозможность развития - просто развитие может идти не путём изменения, а путём наращивания, добавления, дополнения.

Матемаг, я не читала Дорогу Сна, как-нибудь обязательно.
А вот по поводу смысла жизни. А в чем смысл жизни, если не в развитии? Хочу знать этот секрет. Мне кажется, что мы не развиваемся, чтобы жить, а живем, чтобы развиваться. Мне даже представить страшно, что будет, если пропадет желанье двигаться вперед.Я не думаю, что можно добиться какого-то желаемого результата, остановиться и просто дрейфовать в счастье. Нам всегда кажется, что вот если бы вдруг я сделал это и это, то тогда наступило бы оно, счастье. А вот и нет, появляются новые горизонты и так бесконечно. Человек для чего-то запрограммирован так. Надо тогда менять программу и вполне можно наслаждаться тем, что уже есть на этом уровне развития.
Да и любое наращивание - тоже изменение в сторону улучшения и получается, что это развитие.

madness, Дорога Сна - это явление/место/реальность. Книга - это "Попытка говорить". Мне там всё нравится, но для кого-то Пестрота слишком... пёстрая.
Так. По порядку.
1) Смысл жизни для каждого свой. Кто-то видит его в собирании фантиков, кто-то в написании фанфиков, кто-то во власти над человечеством, кто-то вообще не видит, а кто-то и самосовершенствуется (причём у каждого - свои критерии этого совершенствования).
2) Человек ни на что не запрограммирован. Доказательства? Вспомним "маугли", то есть человеческих детей, которых вырастили звери. Полноценного разума они так и не обрели. Программирует (хотя это не лучший термин) родители, общество, окружающая среда.
Вообще, разум - это сложная реакция на окружающую среду с опережением. Если инстинкты, рефлексы и простейшие формы рассудка позволяют приспособиться к уже текущим условиям, то разум - это более сложный механизм. Он предназначен (если такое слово правомерно) природой для опережающей защиты, если хотите - это форма инстинкта самосохрания (и личного, и родового). Именно этим является разум изначально. Другое дело, что теперь он уже перерос свой изначальный "замысел", хотя сохранил базовые функции. Однако, никаких изначальных "ради развития" там нет. Адаптация и деятельность ради жизни. Развитие - это вторично.
3) Допустим, ваша личность и основные функции разума достигли максимума и идеала. Отныне любое их изменение будет сопровождаться деградацией. И что, смысл жизни потерян? Если уж выбирать смысл жизни, то нечто более широкое, более универсальное. Например, творение, созидание - вот чему предела нет и быть не может.

Матемаг, первый и второй пункт я рассматриваю более масштабно, я не беру отдельного человека и даже не человечество, когда говорю "запрограммирован" (хотя Маугли тоже развивался, ему просто социум не тот попался, а так он очень симпатичен мне), а материю в целом, человек - всего лишь часть, чего его так обосабливать? Все в этом мире стремится куда-то, есть такое понятие даже, как развитие Вселенной. Вы как-то вырвали человека разумного из цепи и основываете рассуждения только на нем. А вдруг люди - это только очередная ступень куда-то?
По пункту три скажу, что все вами перечисленное является частью развития, а насчет максимума развития, даже затрудняюсь что-то сказать. Он уже у меня был или будет в 103 года? Чтобы что-то понять о жизни, надо ее прожить.

madness, ты - это кусок вселенной, которому нравится вполне определённое её состояние. Нету некоего высшего смысла "развития". Есть понятие оптимальность, определить которое можно только относительно кого-то.

1. Материя-энергия в целом "запрограммирована" действовать согласно замкнутому множеству физических законов. Это и есть смысл жизни мира? Что-то я не вижу в этом случае разницы между человеком и элементарной частицей - все мы действуем согласно этой программе, вот только никакого Высшего Замысла в ней нет. Или, может, вы про общие тенденции развития вселенной? В таком случае, наша конечная цель и Высший Замысел - это расширение, превращение в разреженный фотонно-протонный, а потом и фотонно-кварковый газ. А энтропия - мать развития. Какие-то жалкие человечки, несущие экстенсивное и интенсивное упорядочивание есть противники Смысла Вселенной и должны быть уничтожены как слишком упорядоченные структуры. Но что-то меня на самоубийство не тянет.
2.Человек - это лишь часть цепочки развития (я её всё-таки отделю от вселенной, мне не хочется превращаться в разреженный газ, уж извините)? Мысль уже слышал, она интересна, мол, смысл существования человека - это создать ИИ или постчеловека, а потом - на свалку истории, ибо больше люди не нужны. Знаете, я вот не хочу на свалку истории. И "вторым сортом" тоже быть не хочу. Я хочу сохранить человечнось в своём развитии, даже если мыслительные способности сравняются с ИИ.
3. Речь идёт не о жизни, а о развитии. У вас есть критерии развития, есть идеал? Так вот, если согласно ним вы будете идеальны - зачем что-то менять? Ведь это будет деградацией. Или, может, вы даже не представляете, куда стремитесь? В таком случае, речь идёт не о развитии - общее развитие как раз процесс по определению направленный, в отличие от той адаптации, осмысленный, куда-то стремящийся. И - имеющий вполне ясный конец.

Mr.Кролик , оптимальность определяется в какой-то системе в момент времени.В следующий момент система меняется и это уже другая оптимальность. Так бесконечно по нарастающей, это и есть развитие. Есть ли смысл? Я верю, что есть.

Матемаг,по пункту один. Я не верю, что возникновение человечества - это случайность. Не бывает таких случайностей, в природе все закономерно. Я верю, что все физзаконы и энтропия направлены именно на то, что мы называем эволюцией. А потому у человечества есть шанс развиться до такой степени, чтобы управлять Вселенной. Вот.Знаю, как это смешно звучит, но когда-то смешно звучали и более простые утверждения.
По пункту два. Я вас понимаю. Точно понимаю))) Мне тоже не хочется, чтобы моя жизнь была напрасной. Но кто вам скзазал, что человек отправиться на свалку? Мы же любим кошек, разводим их (смеюсь). Вы боитесь, что перестанете быть вершиной эволюции? Откуда вам знать, плохо это или хорошо?Кто-то будет заботиться о вас, решать глобальные проблемы в масштабах Вселенной, а вы будете наслаждаться тем, что нравится. Вы же этого хотите? Я в такой исход не верю, но как знать. Нет ни одной теории, предсказывающей, что будет хотя бы через десять лет.
Пункт три. Мой идеал меняется даже во сне. Это нормально, потому что я меняюсь каждую секунду. Расту над собой, что ли. То, о чем мечтала лет десять назад, кажется смешным, оно давно достигнуто.И я не хочу оставаться на этом уровне, даже если останусь единственным человеком на Земле.