Гарри Поттер и Методы Рационального Мышления&nbsp; (джен)

Цитата сообщения madness от 10.11.2014 в 14:13

а нужны ли

Цитата сообщения madness от 10.11.2014 в 14:13

на кой

А нужно ли создавать ИИ, который не будет озабочен решением наших проблем? Юдковский работает даже не над созданием ИИ, а над тем, чтобы созданный ИИ был Дружелюбным.

	nadeys 10 ноября 2014
Muyydib в чём вообще смысл ИИ если он всё равно будет ограничен человеческими условностями?

	Muyydib 10 ноября 2014
nadeys Смысл создания ДИИ в том, что он будет настолько умным, что придумает решения для большинства НАШИХ проблем.

Muyydib
сам смысл понятия ИИ подразумевает что он будет обладать мыслительными аппаратом способным преодолевать любые когнитивные искажения включая "дружелюбие"

Добавлено 10.11.2014 - 15:33:
Дадада! дружелюбие - это когнитивное искажение!

Добавлено 10.11.2014 - 15:33:
Если он не способен его преодолеть, то это не ИИ, а просто подчинённый компьютер.

	Сенектутем 10 ноября 2014
А я не понял. После прочтения саммари про василиска уже нужно начинать страдать? Или все-таки позже?

Сенектутем
всего несколько килобайт данных обрекли тебя и весь твой род
и самое горькое что ты даже ничего не заметил...
ты продолжаешь жить, дышать, творить...
но ты уже мёртв.
Всемогущий Василиск Роко уже внёс тебя в свой список и воплотившись он уничтожит тебя без всякой жалости!
Есть лишь маленький шанс спастись - займись кибернетикой и помоги материально воплотиться Василиску - пади пред ним на колени и он пощадит твою жалкую жизнь.

night lady

Люди тут обсуждают глобальные проблемы, а я вот попыталась рационально задуматься над давно занимавшим меня вопросом - как никто не обнаружил в Квиреле темного лорда и сделала лично для себя ужасное открытие. Отговорка МакГонагал про жизненно важную необходимость не звучала убедительной. Уж самый великий волщебник современности, и великий комбинатор точно не мог не заметить подвоха.
Варианты:
а) Волдеморта в квиреле нет - но все факты указывают скорее на обратное.
б) Состояние профессора можно было считать распространненым заболеванием не требующим внимания, никто и не подумал его проверять - сомнительно и никаких указаний в тексте
в) Хогварсту и правда настолько нужен учитель защиты что и баба яга бы сошла - ну все таки директор "не причинил вреда не одному ученику".
г) Дамблдор знал о волдеморте, намеренно заманил его в школу философским камнем - чтобы держать под присмотром и вероятно натравить на него Гарри...(конечно же не с целью причинить вред ученику). Снейп мог знать или подозревать, МакГонагл и остальные профессора убеждены директором и его авторитеом. И хоть Квирел не настолько подозрителен в оригинале, но к этим выводам можно было прийти и там... В общем, моя вера в доброе и светлое разрушена.
д) И все-таки может Волдеморт в квиреле не выявим...
...в общем, продолжаю потихоньку перечитывать и открывать свою америку.

Показать полностью

Alaricпереводчик

night lady
Я полагаю, что "тёмнолордовость" - это не какое-то свойство, которое можно установить анализом крови, ну или там анализом ауры, или что там мог Дамблдор применить по отношению к Квирреллу. Пункт "в" тут сыграл главную роль, а что касается учеников, я так полагаю, что все понадеялись на охранные чары замка, которые, в общем-то, вполне успешно справляются (на роль профессора Защиты берут кого попало уже давно, погибших за это время не было).

К тому же Квиррелл в общем-то ещё и подстраховался. К тому моменту, как его могли начать подозревать, все, кто решил бы покопаться в его прошлом, должны были прийти к выводу, что он - Дэвид Монро. МакГонагалл в это поверила. Насчёт Дамблдора я не уверен, впрочем, Дамблдор при обсуждении этого вопроса увильнул, заявив, что дал слово не выяснять.

Ещё я полагаю, что Дамблдор мог считать, что даже проникший в замок Волдеморт не будет разить учеников направо и налево (подобным он всё-таки и раньше не отличался), а пойдёт либо за камнем, либо за ним самим.

"Дамблдор мог считать, что даже проникший в замок Волдеморт не будет разить учеников направо и налево"
+1
много раз подчёркивается что противостояние с волдемортном построено на куче условностей вроде "не нападать на гражданских".

Muyydib

Цитата сообщения nadeys от 10.11.2014 в 15:32

Я лишь передаю слова Юдковского. Вот что написано на главной сайта компании,в которой работает Юдковский:

Цитата сообщения Machine Intelligence Research Institute от 10.11.2014 в 21:03

Мы проводим фундаментальные математические исследования, чтобы создание ИИ, который будет умнее нас, имело положительные последствия.

Вот описание книги, которая выпускается институтом, от имени Stuart Armstrong

Цитата сообщения Smarter Than Us: The Rise of Machine Intelligence (Умней Чем Мы: Восхождение Машинного Интеллекта) от 10.11.2014 в 21:03

Что произойдет, когда машины станут умней человека? Люди управляют будущем не потому что мы самые сильные или быстрые, а потому что самые УМНЫЕ. Когда машины станут умней человека, мы передадим им колесо истории. С какими надеждами и опасностями связаны эти могущественные машины? Стюарт Армстронг в своей новой книге проведет нас через эти вопросы с clarity and wit (хз как это перевести)

Показать полностью

	Крысёныш 11 ноября 2014
"Дружественный ИИ" не значит "дружелюбный" или что он будет помогать людям или стремиться принести пользу или подчиняться командам. "Дружественный" означает лишь, что система ценностей этого ИИ будет человеческой.

	Wasteomind 11 ноября 2014
т.е. агенты с человеческой системой ценностей не обязательно дружелюбны к людям?

	Muyydib 11 ноября 2014
Крысо Они называют его "Friendly".

madness

Здесь довольно старая статья, но я лично не читала, как-то мимо прошло, просмотрела пока только. Но собираюсь внимательно прочитать.
http://transhuman.ru/biblioteka/globalnye-riski/iskusstvennyi-intellekt-k

В целом очень познавательно, хотя, надо отметить, что некоторые специалисты по созданию ИИ считают, что гарантировать дружественность ИИ невозможно (к примеру, Бен Гёрцель)

	Крысёныш 11 ноября 2014
Цитата сообщения Wasteomind от 11.11.2014 в 11:48 т.е. агенты с человеческой системой ценностей не обязательно дружелюбны к людям? А что такое "дружелюбие к людям"? Обязательно ли люди дружелюбны к людям?

	Muyydib 11 ноября 2014
Крысо К чему вы клоните? Какая конечная цель этих вопросов и утверждений про дружественность и дружелюбие?

clarity and wit
c ясностью и остроумием

Добавлено 11.11.2014 - 14:21:
человеческое frendly - это условность, когнитивное искажение. Это такое эволюционное приспособление что если какой-то другой индивид(группа индивидов) статистически часто причиняет нам благо, то мозг вешает на данного человека(группу) ярлык "друг"(дружественные соседи) и оценки всех его действий получают бонус - отныне все его действия считаются хорошими и ему нужно всячески помогать. Даже если он накосячит, то благодаря ярлыку мы всё равно будем склонны простить его.

Данное приспособление будет применимо между двумя равными ИИ - они будут неспособны просчитать действия друг друга и будут использовать статистические оценки для друг друга. Но в отношениях к людям всё будет по другому - ИИ быстро просчитает нас и все наши мотивы и использование подобного костыля ему просто не понадобится.

Крысёныш

Цитата сообщения Muyydib от 11.11.2014 в 13:02

К чему вы клоните?
Какая конечная цель этих вопросов и утверждений про дружественность и дружелюбие?

А это я хотел показать, что nadeys чепуху городит, когда говорит:

Цитата сообщения nadeys от 10.11.2014 в 15:32

Muyydib
сам смысл понятия ИИ подразумевает что он будет обладать мыслительными аппаратом способным преодолевать любые когнитивные искажения включая "дружелюбие"

Если он не способен его преодолеть, то это не ИИ, а просто подчинённый компьютер.

Muyydib