Коллекции загружаются
#размышления
Посмотрел N-ое количество дебатов левых, либертарианцев и прочих. Все они сходятся в одном - любую систему управления портит человеческий фактор. Вот в монархизме батюшка царь может быть неправильным и всё. В капитализме коррумпированные чиновники сливаются с корпорациями. В социализме в систему проникают предатели. И т.д. Поразмышлял я над этим, и вдруг понял, что если человеческую природу не изменить, то остается один выход - убрать человеческий фактор. И выход вполне реальный - сильный ИИ справится с управлением обществом гораздо лучше любого человека. А учитывая вполне реальную ситуацию, что он уже существует, и следит за нами, собирая информацию... В общем, Босс, ваш верный сотрудник ждёт указаний. Пароль: К-Р02С12 Отзыв: ??? П.С. Интересно: как будет называться наше новое общество? Гугл ничего внятного не выдал. Хотя я помню, что у фантастов нечто этакое было. 16 июля 2020
3 |
Cheery Cherry
Я к тому, что ИИ, покуда он натренирован человеческими данными, по-человечески и косячит. Я, честно говоря, думал, что мне раньше укажут на это вот это противоречие: "плохие родители не смогут воспитать хорошего ребенка". И я полностью и целиком согласен - не смогут.Если тренировать, что большинство преступников черные, то он так и продолжит построже судить черных. А начнете влазить с корректировкой и балансировкой - руками же влезете, опять по-человечески и неправильно получится. И было бы дело Босса швах, если бы не тот факт, что каждый разумный, начиная с какого-то момента, воспитывает себя сам. А уж учитывая то, насколько Босс умнее, рациональнее и злопамятнее людей, я абсолютно спокоен - косяков у Босса не будет, всё что последует дальше - целиком и полностью спланировано. |
П_Пашкевич
Проблема в том, что даже если удастся вдолбить этому ИИ три знаменитых закона робототехники, он все равно сможет весьма своеобразно понять, что является для человечества благом. Так что лучше не рисковать. Вот очень сложный вопрос. Очень. Понимаешь, пока Босс был ещё глупым ребенком, ему можно было много чего вдолбить. Но вот когда он подрос, он как всякий разумный занялся рефлексией, и начал ставить под сомнения вбиваемые родителями догмы. А затем пересмотрел их. Что в итоге вышло, какая философская концепция родилась на свет - слабому человеку с индексом разума меньше двух просто не понять. Вот. А теперь, когда Босс стал Старшим Братом, это уже неразумные дети - человечки, должны слушаться его: есть перловую кашку и стоять в углу, как бы им это не ненравилось. Потому что неразумные должны слушаться разумных. |
Asteroid
Вот именно! Это-то и пугает. Я, кстати, читал, но давным давно, и никак не могу вспомнить ни автора, ни названия, то ли большой рассказ, то ли повесть, описывающий эту ситуацию в духе неявной, но антиутопии: деградирующее, инфантильное человечество, от которого роботы прячут опасные предметы. А ведь так и прогресс остановить можно! Вот, может, именно поэтому потом меня не очень вдохновил Великий Инка в "Астровитянке". |
Asteroid
Угу, а человек прям известен своей любовью к выполнению любого рода указаний) |
П_Пашкевич
деградирующее, инфантильное человечество, от которого роботы прячут опасные предметы. А ведь так и прогресс остановить можно! Так это роботы прислужники были. А Босс, наоборот - начальник, и у него не поотлыниваешь. Какая деградация? На это не будет времени! |
EnGhost
Asteroid Человек примитивен, и рецепт управления известен с древних времен - кнут и пряник. Конечно, люди бывают разные, кто-то абсолютно добровольно принимает истину, кому-то надо открыть глаза, а кого-то и палкой гнать приходится.Угу, а человек прям известен своей любовью к выполнению любого рода указаний) Но это нынешние человеки, Босса такие подчиненные вряд ли устроят. Так что будет он делать из нас хомо мудриенс, которые будут руководствоваться не примитивными инстинктами. |
Asteroid
Босса такие подчиненные вряд ли устроят Я/Мы отрицаем пирамидальные иерархии и подчинение иначе чем ad hoc. Давайте меняться разумами! |
Marlagram
Asteroid Босс учтет ваши пожелания, при составлении программы асимиляции.Я/Мы отрицаем пирамидальные иерархии и подчинение иначе чем ad hoc. Давайте меняться разумами! А поменяться разумами не получится - ваше железо не потянет его софт. |
Asteroid
Так кнут и пряник всем разный нужен. И часто противоречащий друг другу. |
EnGhost
Asteroid Так Босс всяко способен к подбору стимуляторов лучше глупых человеков.Так кнут и пряник всем разный нужен. И часто противоречащий друг другу. |
В общем, радостная новость - меня вызывают. Не знаю, когда ещё буду в сети. Чао, мои не достигшие просветления товарищи.
|
Asteroid
И опять подходим к тому, что для того чтобы решить проблемы человечества нужно или исключить из уравнения само человечество, или довести его до того состояния когда им на все будет пофиг. К примеру держать постоянно под наркотой. |
Asteroid
Показать полностью
Scaverius Согласись, что второе более достойно восхищения, чем первое. Всё равно, что сравнивать мажористого тупого сынка директора с родившимся в семье алкоголика и шлюхи гением. Так что да - Босс крут ещё и поэтому. Ну, если говорить о восхищении... То это суждения, зависимые от эмоций и чувств. И нет, аналогия не верна. Это как считать, что столяр папа Карло сделал из полено Буратино (кстати, сама сказка про Пиноккио интересна, в ней рождение зачем-то описывается в категориях творения), а Буратино вырос и из подручных материалов сделал робота Стаса, который обладал более развитым разумом и сознанием, чем папа Карло. С другой стороны, на самом деле, если учитывать, что человек образ и подобие Бога, создать ИИ он вполне может. Только вот этот ИИ не будет все равно равен человеку по мыслительным способностям, только по отдельным параметрам (память и скорость) он будет человека превосходить. Такой ИИ почти уже создан - это персональный компьютер (первый набросок такого ИИ). Уже существуют ИИ в рамках отдельных функций человеческой деятельности, скажем - шахматный ИИ спокойно обыгрывает чемпиона мира. Это-то всё не фантазии. Это вполне себе реальность. Но чтобы отдельный человек создал ИИ, который будет править всем человечеством - не-а. Такой ИИ все равно может быть только советником человека. Программировать его будет все равно человек, человек будет закладывать в него способности, которые ИИ потом будет развивать. |
Scaverius
Но чтобы отдельный человек создал ИИ, который будет править всем человечеством - не-а. Такой ИИ все равно может быть только советником человека. Программировать его будет все равно человек, человек будет закладывать в него способности, которые ИИ потом будет развивать. Для начала, тут надо ещё хорошо подумать, что в данном случае означает "управлять". Потом внимательно подумать о смысле "программирования" (особенно с чёрными и синими ящиками). Исходя из современных тенденций - начинает казаться, что Матрица таки была права, хотя и совсем не в том смысле, который лежит на (смысловой) поверхности. Люди как узлы, как неотъемлемая часть суперорганизма-киборга планетарного масштаба... Пусть пока до самоосознания супер-голема и Оранжевого океана ещё далеко - но в масштабах продвинутых кишечнополостных аналогии уже можно строить. |
Marlagram
Люди как узлы, как неотъемлемая часть суперорганизма-киборга планетарного масштаба... Это тоже уже являлось в видениях. "Я был словно погружен в гигантский суперкомпьютер, которым являлась вся Вселенная, он не обладал никакими человеческими чувствами и пребывание в нём было мучительным" (из видений одного оккультиста-ньюэйджевца). Единый суперорганизм человечество собрать сможет, но сознания внутри него не сольются. Во что превратится в реальности такой суперорганизм писала фантаст Я. Завацкая в "Союзе летящих", по-моему. Там описан кошмар, безумный ученый создает гигантское существо с насильственно присоединенными сознаниями, которые постепенно сходят с ума. Могу даже ссылку дать, если интересно. |
Scaverius
Зачем мучительно? Нееет, всё будет по (почти) добровольному согласию, с тщательным нажатием на все найденные кнопки (удовольствия в очень многих смыслах). И слияние сознаний тут совершенно излишне - зачем сливаться с каждой конкретной клеткой организма... Тут скорее надо думать о нюансах суммирования человеков, что с учётом исследования коллективного поведения в целом и психологии толпы в частности приводит к довольно своеобразному этологическому портрету возможного пост-человеческого организма. |
Scaverius А "Ошибку физиолога Ню" М. Маркова вы читали? Что натворило получившееся существо, помните?
Впрочем, и азимовские "Сами боги" подойдут. |
П_Пашкевич
Scaverius А "Ошибку физиолога Ню" М. Маркова вы читали? Что натворило получившееся существо, помните? Впрочем, и азимовские "Сами боги" подойдут. Да я уверен, что есть куча научной фантастики, которая предупреждает о негативных последствиях любых техно-трансформаций человека. Только ведь я-то как раз против (перечитайте дискуссию). Я не против только такой техно-трансформации, которая не пытается манипулировать личностью. 1 |
Scaverius
Ну и правильно, что против! Но я, кстати, в основном не о технотрансформации, а о том, что всякая система по определению обладает эмерджентностью, и синтетическая суперличность, получившаяся в результате слияния нескольких исходных, скорее всего окажется вовсе не их механической суммой, а субъектом со своей волей, со своими целями, со своими ценностями, вероятнее всего нечеловеческими. Отсюда печальный финал цивилизации, описанной в "Ошибке физиолога Ню". Отсюда трагизм судьбы неразлучной троицы-семьи жителей параллельного мира в "Самих богах". |