Гарри Поттер и Методы Рационального Мышления (джен)

Матемаг, это я так, дополнительно, рассмотрев истинный случай - Гарри же ведь на самом деле участник "виртуальной" реальности типа "книга"))
А в предоставленной ссылке утверждение Юдковского, что текстового канала связи достаточно, чтобы супер ИИ вышел из под контроля.
Там же результат эксперимента, где он играл роль ИИ, а тот, с кем он переписывался типа не должен поддаваться и выпускать его. В обоих случаях "ИИ" в итоге был выпущен.
Но разумеется, это пропаганда, Юдковски не является супер И, ему не уговорить Серьёзно настроенного не выпускать человека.

>"людей, пишущих про возможность уничтожения 50% населения Земли"
Поступать гуманно - значит выполнять чью-то ценность. А в чём она состоит? - Вопрос до сих пор толком не решённый. Рассматривая этот вариант, я выбрал спасение как можно большего числа людей.(пока никто не спасался)
PS: если истина состоит в том, что ты не нужен и самым логичным решением является аннигилировать, то такую "истину" похоже что следует перепроверять до бесконечности, исправить-то такой шаг, если что - невозможно, и "если что" само не появится, нужно продолжать захватывать материю во вселенной, чтобы всякие там инопланетяне не мешали проводить исследования по поводу того, а равно ли 2*2 четыре))

Мр.Кролик:
По ссылке нет собственно диалога эксперимента и я так понимаю автор так и не стал его раскрывать :) Надеюсь лишь, что по прошествии 10-ти лет, непосредственно диалог где-то всё таки был опубликован.

Greyswandir, читала Ефремова, что-то не понавилось. А ненаравится мне социализм и комунизм то что они были достаточно агрессивными течениями...Вот не нравятся именно попытками любой ценой навязать "щастье".

ТемныйСвет,
Вы таки уверены, что эти попытки и агрессивность являются частью именно коммунизма, а не общественного представления о нем?

Подчеркну, что вопрос этот задаю не потому, что питаю любовь к коммунизму. Вообще мне не особо интересно обсуждение конкретно коммунизма. А вот обсуждение, направленное на попытки преодоления предубеждений - интересно.

Коммунизм, Трансгуманизм...
http://lesswrong.ru/w/
Споры_об_определениях
Слова_как_скрытые_умозаключения

По поводу бессмертия вспомнился мне один небольшой рассказ (может, кто-нибудь вспомнит, чей?) Человеку в руки попадает некий артефакт, исполняющий любые желания. Сначала он требует дворцы, усыпанные алмазами-изумрудами и прочие материальные ценности, потом понимает, что важнее всего Здоровье и Вечная Жизнь, просит и получает. И тут же оказывается на какой-то жутко каменоломне с киркой в руках. Ему объясняют, что за всё надо платить и теперь он должен вкалывать целую Вечность (бессмертие у него уже есть, крепкое здоровье тоже в наличии). Работа же его никогда не закончится, потому что "всегда найдется идиот, который захочет дворец, усыпанный алмазами-изумрудами".
Иногда Бог нас наказывает, исполняя наши желания... :)

Мr.Кролик, просто у меня вызывают опасения люди, которые стремятся решить этические проблемы чисто математически. Такие люди разрубят-таки младенца (из известной притчи о Соломоне и споре двух женщин) пополам! 50% одной мамаше - 50% другой, всё честно! Получите-ка по два кило человеченки в каждые руки! :(((
За абстрактными цифрами так легко не увидеть конкретных мужчин и женщин...
Настоящий Человек(достойный, на мой взгляд, бессмертия) откажется продлить свою жизнь за чужой счет, как и настоящая мать откажется резать по живому. А менее благородный духом найдет, что сказать своей совести и это даже будет выглядеть, на первый взгляд, более справедливо (как в случае с фальшивой матерью - "ни тебе, ни мне!"). Премудрый царь Соломон использовал идею математического деления пополам в качестве теста на истинность, и с блеском решил свою задачу. А какое прилагательное стояло бы возле его имени, если бы он и вправду разрезал младенца!? Что-нибудь нецензурное, как справедливо заметил Матемаг.:)
Вопрос "можно ли убить 50% населения, что бы другая половина жила вечно" для меня тоже из разряда тестовых. И считать среднее тут так же некорректно и абсурдно, как вычислять среднюю температуру тела больных в городской больнице.:)
Если уж кто-то так хочет жить вечно, пусть использует другой метод, а этот выбросит из головы как дичь несусветную (как это сделал Гарри, кстати). И тогда этому кому-то не придется считать в килоджоулях, сколько тепла может выделить человеческое тело его товарища, которого он может, облив бензином, заживо запихнуть в печку вместо закончившихся дров, чтобы продержаться в 60 градусный мороз до прихода помощи...>:/ Потому что если кто-то выживет именно так, то зачем вообще ему жить? Есть вещи похуже смерти... :( Хотя, чисто математически, хоть один, но спасся же, ведь правда, Мr.Кролик? :)

Greyswandir,
странные у Вас представления о математике :(

Greyswandir: История называется "Кое-что задаром" Роберта Шекли :) Забавно, но, на мой взгляд, в общем и целом это скорее юмористический рассказ, а не басня с глубинным смыслом.

Greyswandir, а по мне так этот ваш пересказ как раз говорит о том, как важно с математической точностью сформулировать свои пожелания. Если бы он сумел соответствующим образом включить истинную систему своих ценностей, а не первую пришедшую в голову благую идею, то богу просто некуда было бы вставлять наказания, не неисполнив загаданное.

Greyswandir, в чём-то вы правы, в в чём-то - не совсем. Если выбор безальтернативен, как то: или умрут все, или выживет половина за счёт смерти другой половины - то, полагаю, придётся кем-то пожертвовать. Потому что сохранение человечества как такового всё же важнее тысяч слезинок невинных младенцев. Человечество может, позже, и миллиарды этих младенцев наделать. А вот если оно из гордости погибнет, то будет уже не важно, плакали при этом дети или нет.

Сенектутем, я даже не знаю. Мне не нравятся любые идеологии которые пытаются навязать свое виденье мира.

Greyswandir, ну рассказов подобных описанному на тему бессмертие-бяка к сожалению много.

loonyphoenix, спасибо! :) Действительно, Шекли. Но в каждой шутке... :) Даже если не искать глубинных смыслов... :)
Mr.Кролик, дело тут не в точности формулировок, а в ненасытности человеческих желаний и в расплате за эту ненасытность. Герой рассказа не захотел слушать предупреждения (а они настойчиво пытались достучаться до него!), т.к. нутром чуял, что артефакт заберут и не получит он желаемое.
Сенектутем, да я понимаю, что нет у меня тут никакой математики, сплошные аллегории.:) Я хотела лишь сказать, что в делах человеческих математика, как инструмент познания истины, должна быть в руках Человека (именно с большой буквы Ч :)). А жонглирование сухими цифрами процентов, без учета, чего ты считаешь - мешки с картошкой или человеческие жизни - абсолютно не допустимо. Это реальная жизнь, а не задачник по арифметике.
Матемаг, Вы подменяете две совершенно разные проблемы. Бессмертие для человечества и бессмертие для индивидуальной личности. Друзья мои, согласитесь, вы все хотите именно второго! Чтоб не застыло все, что пело и боролось, сияло и рвалось...:) Потому что человечеству не нужно бессмертие, чтобы выжить, оно и так прекрасно справляется. Более того, смерть индивидуума для человечества в целом - залог его, человечества, дальнейшего процветания. Такова моя позиция, как человека и как биолога. Понимаю, что вы не согласны. Понимаю, что не хотите умирать. Сочувствую. Но лично мне бессмертие не нужно, даже если никому не надо за него умирать. :)

to Greyswandir: Вы второй человек, за последние сутки, от которого я слышу, что он не хочет бессмертия. :) Мне это крайне удивительно, но... ок :)

Greyswandir, по-моему, это вы путаете. Я (и вы, смотрим ваше изречение про 60-градусный мороз) говорю не о цене бессмертия, а о цене жизни. Разные вещи. Думаю, что если в индивидуальном порядке (несколько человек, группа) лучше до последнего полагаться на "счастливый случай", то есть не убивать ради выживания других, то когда речь идёт о сотнях тысяч человек, такое убийство (половины ради жизни остальных) вполне оправдано. С индивидуальной точки зрения, оказаться в числе обречённой половины, конечно, плохо, но с точки зрения того же правителя всех этих людей, такой "размен" выгоден - кто-то всё же останется жить.
Насчёт бессмертия - да, бессмертие индивидуальной личности жажду. Потому что я всё же индивидуальная личность, в первую очередь, а уже потом часть человечества. Возможно, вы мыслите себя, прежде всего, частицей человечества, каплей океана, возможно, в вас нет индивидуальности и индивидуального инстинкта самосохранения, а есть лишь коллективный. Но не говорите за всех. Да, получение индивидуального бессмертия здорово замедлит темпы развития человечества. Но, имхо, это соразмерная цена, потому что человечество - для меня - это не муравейник с коллективным разумом, а мириада отдельных и взаимодействующих миров, психик, недобровольная гибель каждой из которых (ну, за малым исключением) есть зло.

Я почему-то сомневаюсь, что бессмертие замедлит прогресс. Сейчас значительная часть человечества неработоспособна — дети и старики. Они приносят в мир меньше, чем берут из него. Если же старики исчезнут, а детей станет пропорционально меньше... Вы представляете образовательную систему, которую можно будет построить для молодежи? На каждого ребенка можно будет тратить столько же средств, сколько сейчас тратится на целую школу, срок обучения продлить раза в три. А ещё надо учесть, какими многоплановыми и всесторонне развитыми люди будут при желании становиться годкам эдак к двустам... А теперь вообразите — лучшие ученые прошлого вроде Эйнштейна и Ньютона до сих пор живы и все это время занимались наукой.

loonyphoenix, хорошо, мне надо было уточнить - социальное развитие. Научное - вохможно, ускорится... а, может, и нет. Дело в том, что неясно, как будут вести себя люди значительного возраста. У них уже сложилась система ценностей, привычное окружение - им тяжелей принимать нововведения. Да, всегда будет активная молодёжь... но она будет под влиянием авторитетов - именно старейших людей, уже в силу возраста и опыта находящихся на высоком посту. Я не настолько оптимистичен, чтобы утверждать, что большая часть этих людей будет беспредельно развиваться внутренне. Скорее, напротив, большая часть будет костенеть, кто-то медленней, кто-то быстрей... И таких людей будет всё больше и больше, поскольку смертность крайне низка, а рождаемость, я подозреваю, не так уж и велика. В итоге мы имеем громадный груз людей, которые в обычных условиях умерли бы, людей чуть ли не прошлых эпох. Нет, развитие человечества это вряд ли остановит. Но замедлит точно. Особенно в перспективе, когда таких действительно старых (век, пять веков... тысячелетие... два, три...) будет всё больше и больше. Примерно так я вижу будущее нестареющих людей. Нет, конечно, будут и активно развивающиеся поселения где-нибудь за пределами земли, всякие колонии и прочее, но в колыбели человечества, где сосредоточены основные научно-технические мощности и политические центры, будет так.
Да, я при этом подразумеваю, что ИИ не выйдет на уровень свободного творчества, а если и выйдет - их будет относительно мало - даже если не мало, то они не будут иметь значительного политико-социального влияния. Разумеется, если ИИ будут направлять развитие человечества, то все эти выкладки бессмысленны.
Знаменитые и гениальные учёные? Ха, не думаю, что такой учёный будет заниматься наукой больше 200-300 лет. Просто надоест - хотя, возможно, я и не прав.

Действительно, наличие сверхразума все предсказания сводит на нет :) А так как рано или поздно сверхразум должен появиться, вопрос только в том, какой он будет и когда именно это произойдет...

loonyphoenix
>> А теперь вообразите — лучшие ученые прошлого вроде Эйнштейна и Ньютона до сих пор живы и все это время занимались наукой.

Утверждается, что подавляющая часть научных открытий сделана учеными в возрасте то ли до 30, то ли до 40 лет (точно не помню). Работы по фотоэффекту и СТО Эйнштейн опубликовал в 27 лет. Работы по ОТО - в 35.

Ньютон: Закон всемирного тяготения - примерно в 25 лет (даже чуть раньше), расщепление света - 23 года, "Математические начала натуральной философии" вышли, когда ему было 43.

Поэтому довод сомнителен.

Многие авторы художественной литературы наоборот утверждают, что короткий срок жизни крайне стимулирует - чтобы было, что оставить детям (инстинкт заботы о потомстве никто не отменял :)) человек старается что-то делать. Если впереди вечность - ради чего бороться?

>> Вы представляете образовательную систему, которую можно будет построить для молодежи? На каждого ребенка можно будет тратить столько же средств, сколько сейчас тратится на целую школу, срок обучения продлить раза в три.

Мы и текущие сроки обучения неэффективно используем :)

Т.е. лично я бы не отказался от личного бессмертия. Но честность заставляет меня признать, что я сильно сомневаюсь, что человечество от моего бессмертия что-то выиграет :)

loonyphoenix, но до этого момента развитие будет замедлено по сравнению с постоянно человечеством, у которого сменяются поколения.
Alaric, не уверен, но где-то читал, что нервная система начинает стареть - то есть деградировать - после 30 лет или что-то около того. Если будет достигнуто бессмертие, то физиологической деградации не будет. А вот психологическая...

Лично я не особо желаю вечной жизни. Я, пожалуй, соглашусь с Alaric в том, что другим это ничего не принесёт. И личного желания у меня тоже нет. Просто - зачем? Многое ли оно мне даст? Даже если вечная жизнь будет подана с вечным здоровьем, в чём я сильно сомневаюсь, многого оно мне не даст. Я просто довольна тем сроком, что уже есть.
Так что, Jack Dilindjer, я буду третьей)