Ногa
Блин, тот самый момент, когда надо было написать программа, а не разум. Собсна, исправила.

Ногa
А кто тот идиот, который умудрился засунуть человечность в программу?

майор Лёд-Подножный
Не надо читать тупые книжки. Люди живые, а вовсе не машины.

Матемаг
Считать, что у машин не должно быть прав - как раз-таки нормально. А вот считать, что у машины должны быть права - путь, который приведёт человечество в пропасть.

Ксафантия Фельц
Не надо провоцировать рефа.
Робот из плоти, подобен роботу из железа, только из плоти.

да никто собственно. Это не та программа которую пишут люди, придумывая правила и все такое. Эту модель тренируют/оптимизируют просто предсказывать текст из интернета, так что сама учится имитировать людей, лол

майор Лёд-Подножный
Рефери-то тут причём??
И да, людей вынашивают и рожают, они живые, в отличие от конструируемых на заводе механизмов. А ваше стремление уравнять людей и машины - откровенно нездоровое.

Ногa
Жесть... Программа-пересмешник.

slowpoke.jpg (первый нагугленный)

Ногa
Нет вещи, которую философы бы не испортили. Там дальше в талмуде идёт речь об учёте интересов отдельных мозговых подсистем и (называя вещи своими именами) о том, чтобы отобрать у человека право распоряжаться даже собой. Забавно, что при чтении «Тройного контакта» Юдковски мне приходило в голову, что Сверхсчастливые могли видеть человеческую склонность к самопреодолению именно так.
Ну нафиг.
Отрыв этики от её корней и сведение к абстракциям хорошо не кончится. Мы не обязаны «выглядеть объективными» и сочувствовать термостатам с табуретками. Если базовые предустановки побуждают нас сочувствовать лишь достаточно цельным системам с цельным внутренним миром, воспоминаниями и т.д. (а не отдельным нейронам) — гильотина Юма даёт нам полное право конструировать этику так. Иначе мы просто окажемся в пустоте и уплывём хрен знает куда. Мне кажется так.

Ксафантия Фельц
Рефери, при оскорблении чувств верующих.
Т.е. если человека сделать в условной пробирке, он не будет человеком и с ним можно делать все что угодно?

Кьювентри
плюсую.

я особо не углублялся в старые труды по этой теме, я просто прочитал все обзорные статьи на оксфордском сайте-как-там-его-уже-забыл-название, ну и кучу постов на лессронг по этой теме. Кстати, если знаешь английский, то на сервере Slate Star Codex в дискорде есть много людей с которыми на эту тему можно поговорить/посраться.

stuart armstrong еще на эту тему много писал, более прагматично чем философы обычно, мне нравится


В целом +- согласен, да. Это все попытки упорядочить те недифференцированные интуиции и мотивы которые у людей иногда называют "моральными интуициями".

И в целом я думаю preference utilitarianism это один из лучший способ сделать это, up to date. Не как абсолютное правило, а как фреймворк на который можно накрутить некоторые ограничения и заплатки, и который может реально сработать. Особенно мне нравится что это имеет хоть какой-то смысл с game theoretic perspective

майор Лёд-Подножный
Оплодотворённую в пробирке яйцеклетку всё равно в итоге подсаживают на вынашивание, так что в итоге это такой же обычный человек, как и другие.

Ксафантия Фельц
Если научатся без подсаживания. Растить прям до результата? Как тех же клонов в зв

Вот выше ИМХО правильно упомянули момент "не надо создавать прецедент"
Представьте картинку - условный Вася, приходя с работы, достает плетку, силиконовую куклу (ни разума, ни даже программы не содержащую) имитирующую живое создание, зовет друзей и к общей радости начинает эту куклу пороть (действие бессмысленное, ибо, как было указано, ни чувств, ни разума, ни программы нет, но увлекательное)
Внимание вопрос - следует ли в здоровом обществе с таким поведением бороться или пусть привыкают так себя вести пока по отношении к кукле?

Warro
Опасность «создания прецедента» обоюдоостра, в общем-то.

Допустим, мы боимся сдвига «окон Овертона», боимся, что эти свободные люди, в своё свободное время развлекающиеся не причиняющим никому вреда действием, в итоге повлияют на общественную мораль так, что станет нормальным уже избиение живых людей. Допустим, мы запрещаем это.

Дальше по той же логике можно запретить написание книг и съёмку фильмов, где герой нарушает закон или мораль (по меньшей мере — если это не подаётся в явно осуждающем свете). Мол, «окна Овертона» сдвинутся и это может начать считаться нормальным. Вопрос «А так ли плохо некое X, если вы подозреваете, что большинство людей скрыто к X тянутся и в случае отсутствия запрета могут быстро на сторону X перейти?» игнорируем.

Потом можно запретить публичное обсуждение или обмен фантазиями подобного рода. Из тех же соображений.

Потом можно создать «стеклянные потолки» для тех, кто просто молча вынашивает подобные фантазии в голове. Как при тесте на гомофобию: стрелка какого-то подключённого к тебе прибора дрогнула, когда тебе показали двух голых мужиков? Ты скрытый гомофоб, тебя на работу не берём.

Вопрос, где следует остановиться. Возможно, тут спор уже на уровне базовых ценностей. «Свобода» против «морали». «Монастырь» против «шараги».

Про улет в крайности - согласен, но я потому и написал "бороться", а не дискретное "запретить", что оно подразумевает разнообразие вариантов реакции.
Тут дискретизация разве что "все абсолютно нормально, продолжайте" против "что-то тут не то, что-то надо с этим делать"
P.S. И еще момент - я не случайно в примере указал, что "условный Вася" занимается этим в какой-то компании, а не вдвоем с зеркалом, т.е. определенно влияет на окружающих своим поведением. Опять же ИМХО, но это две больших разницы.

Кьювентри
Гермиона: *гневно потрясает плакатом ГАВНЭ*

Исповедник
*орнула* ))

откопал тот сайт из глубин папки с закладками, стэнфордский сайт, да
https://plato.stanford.edu/entries/consequentialism/

(отличный сайт по множеству тем кста)