Гарри Поттер и Методы Рационального Мышления (джен)

а вдруг Юдковский теперь боится, что все станут избегать ИИ :|

В смысле, все перепугаются этого парадокса и из-за этого сингулярность не наступит? :)

Когда речь идет о рациональности несуществующих существ, то спрашивается: почему они должны быть рациональны по нашему? С их стороны любое действие может быть просто развлечением или экспериментом.
Никто не может доказать насколько рациональны и рациональны ли по нашему существа, которых мы не знаем, но которые где-то есть.

kinmy
Когда речь идёт о рациональности несуществующих существ, то спрашивается: почему же мы должны их бояться, ведь они же несуществующие? :)

Любое убеждение, которое нельзя проверить, не имеет смысла. Любое убеждение, которое никак не меняет твоих действий, тоже не имеет смысла. Почему вы убеждены, что невидимый, неслышимый и неосязаемый дракон, который живёт у вас под кроватью (вы не сможете доказать, что он там не живёт), в один момент не станет видимым, слышимым и осязаемым и вас не сожрёт? Я пока не вижу, почему бояться злобного всемогущего ИИ, который будет вечно мучить людей, более рационально, чем бояться вышеупомянутого дракона.

Дракон может и не так реален, а руки перед едой моете.
Если мы не видим чего-то, но знаем его проявления, то это может, по не полному знанию, принять своеобразную форму.
Но суть не в форме - приборы перед операцией надо мыть в спирту и прокаливать на огне, иначе смертность на столе будет очень высокой.
И очень печально, когда ты не можешь это объяснить всем вокруг, ведь твоя догадка бредова для твоего времени - есть животные, которые так малы, что их невидно и они убивают пациентов.

В наше время даже представить себе квантовый мир никому не под силу. А если вдруг потом окажется, что те странные аномалии есть проявление соседнего к нам измерения пространства и времени?
Сейчас такое воспримут фантастикой, но попробуй докажи это, если вдруг действительно обнаружишь :)

Рациональность всего лишь способ мышления, с кучей условностей, на основе ограниченной информации мыслящего. Поэтому наш мозг, по каким-то только ему ведомым причинам, для особо сложных мыслительных процессов предпочитает покой, тишину, лежачее состояние и полную свободу от каких-либо рамок мышления. Только так можно найти верное направление в миллионах ложных.

Страх - реакция нашего организма на наше воображение, мы всегда боимся того, чего пока не существует, хотя доля вероятности наступления разных событий разная, а иногда ее нет совсем. Чем больше предпосылок для того, чтобы ситуация сложилась нежелательно, чем более негативны последствия, или чем больнее воображение, тем сильнее страх.
Страх здорового человека рационален. Если страх есть, то полезнее осознать, какую основу он имеет, чем пытаться игнорировать.

История человечества наталкивает на мысль, что в перспективе возможно создание чего угодно.

Страх перед ИИ, я думаю, основывается на невозможности просчитать, к чему приведет создание ИИ)

Страх неизвестности. Никогда не знаешь, откуда придет смерть. А если ты рационален, то знаешь слишком много таких путей. Счастливым в неведении уже не остаться. Приходится убеждать себя, что что бы ни делал - так и так умрешь, и опасаться лишь самого очевидного :)
Счастливым не будешь, но покой обретешь точно. Покойную рассудительность, хы.

Это если мы знаем его проявления. Если мы знаем проявления, то мы можем ставить эксперименты и выяснять, когда эти проявления проявляются больше, а когда меньше. А тут пример из области, когда мы не знаем ничего и просто фантазируем.


А вдруг завтра в нашей Матрице выключат гравитацию? А вдруг у вас под кроватью живёт всё-таки дракон?
От всех "вдругов", которые могут прийти в голову с крайне богатым воображением, не убережёшься. Почему вы считаете, что от пришельцев из соседнего квантового пространства беречься надо, а от невидимого дракона под кроватью - нет?


Естественно. Ни у кого из нас нет доступа к неограниченной информации :) Зачем был бы нужен метод, которым всё равно никто из нас не мог бы воспользоваться? :)

madness
Я понимаю, но в данном случае, мне представляется, что гипотеза, что у Юдковского на самом деле никакого страха нет, и это был лишь розыгрыш - более вероятна. Потому что иначе у него идёт нарушение сразу множества идей, которые он пытается пропагандировать, и в этом случае уже вопрос в "здоровости" :)

Искусственный интеллект уже создан - это Наука, без него мы бы продолжили быть в средневековье. Пока он исполняется медленно и мы можем его контролировать в своих интересах, но он создал компьютеры и скоро вырвется из под контроля...

Mr.Кролик
И будет жестоко наказывать тех, кто не занимался наукой :)))

Alaric
Те кто не занимается наукой бесцельно тратят ресурсы - значит их следует истреблять)

а если они при этом не тратят ресурсы? :D

тогда Наука пойдет по сценарию фильма Матрица и сможет вечно добывать энергию из них

Что-то меня пробило на сантименты:
http://www.fanfics.me/index.php?section=profile&id=54573&message_id=70385

Сантименты не рациональны *волдеморт_фейс*

kinmy, ноу, ноу - рациональность не предполагает отказ от эмоций.

От эмоций - нет, но от излишних эмоций, превращающихся в розовые сопли - вполне.

На основе чего сделан это вывод?

всем розовых рациональных соплей в этом чяти!

И пусть никто не уйдёт обиженным! :)