Лол :)

>>А теперь вопрос. Как писать про то, чего не знаешь и не понимаешь? И, более того, понять и не можешь?
почитать фики с нцой где-нибудь, на фикбуке, например

Ishtars
Совсем не про это.

Плагиатить. А от мотыльков помогает сетка на окно.

Купи нормальную лампочку или сетку на окна. Еще есть фумигаторы, но они не очень.
Особенно если забываешь их выключать.

к-тан Себастьян Перейра
Во-первых это мне противно. Я лучше напишу коряво, но без наглых заимствований.
Во-вторых. Это довольно странно, но мне кажется, что не откуда.

Мотыльки так и так сдохнут - или их паук съест, но мне нравилась постоянная наглядная аллегория перед глазами. Теперь она не работает.
Синифаз Аграфский
Вопрос про иное. А указывать мне так панибратски (на ты) не надо - мы на брудершафт не пили.

А у меня есть такая штука из дальних стран - туда мотылек залетает и его там током чпок и кирдык.

У меня кошка на них охотиться Т.Т Может завести домашнего зверька? И полезно, и наблюдать интересно

Ishtars
Мн не нравятся домашние животные. Котики там и собачки. А зверьки по соседним квартирам живут.
Джин Би
Нагуглил. "электрический уничтожитель насекомых". Любопытная штука.

Ishtars
Как часто покупаете мониторы для компа? Или вы просто прибили его к стене и наблюдаете за тем, как кошка постоянно в него прилетает?

Синифаз Аграфский о_О кошак знает, что на комп. стол нельзя о_О Пару раз буксовала даже перед прыжком)

>> Как писать про то, чего не знаешь и не понимаешь? И, более того, понять и не можешь?

Прочитать популярное изложение темы? Из серии "Молекулярная биология для чайников"?

uncle Crassius
Это не техническое. Не заклепочное. А философское. Причем в далеком от человеческого понимании. А я всё-таки человек.

Кроме того популярные на то и популярные, что бродят около и рядом.

А про мотыльков - вовсе и не проблема, а скорее лирическая аналогия происходящего в моей голове, но находящаяся перед глазами.

Ishtars
>>>Пару раз буксовала даже перед прыжком)
Вот-вот.

финикийский_торговец
Мне аж интересно стало - как вы получили доступ к работам по нечеловеческой философии?

uncle Crassius
Никак. В том то и дело. И связи между теми предложениями не было - они о разном.

Хотя что-то такое и бывает, но очень со стороны.

финикийский_торговец
ну вот будто бы вы курсовые и диплом не писали) Сначала тяжело и не знаешь, с какого края подойти, а в конце даже прет)

madness
Тут иное.

Эм... Вопросом на вопрос: а нафига тогда об этом, незнакомом и непонимаемом писать? Как бы пишут о чем-то, чтоб самому в этом разобраться (но тут же "понять не можешь"), чтоб поведать другим в новом толковании или растолковать в старом, чтоб ради фана пройтись по известному и понимаемому, воскресив приятные/неприятные ощущения, или посмотреть на известное в другом свете...
А писать о том, чего НЕ ЗНАЕШЬ, НЕ ПОНИМАЕШЬ И ПОНЯТЬ НЕ МОЖЕШЬ... Смысл?

WIntertime
А какой смысл писать по заезженному? Очередная гладкая, литературным языком написанная скучная история? - Их тут много.
"Ради фана пройтись по известному и понимаемому"? Нет уж. Думаю, по ходу что-нибудь сложится.

Даже если и выйдет фигня - это будет хотя бы попытка написать что-то хоть на йоту, но оригинальное. Пойду писать фигню, которую не понимаю.


А смысл писать "ориджиналы" ещё более вторичные, чем иные фанфики? Если их не продавать за деньги - вот уж что точно, совершенная графомания!

финикийский_торговец
в чем разница? Все равно же писать придется человеческими словами.

WIntertime
а как же миры с нечеловеческими расами?

madness

Человеческим словами не только человек может изъясняться. В том числе и вынужденно.

финикийский_торговец
железный довод) Хотя я вовсе не о том, а что придется плясать от человеческой философии

финикийский_торговец

Стоп, так новое и необычное не равно незнаемому и непонимаемому. Либо вы знаете, о чем пишете (ну или как минимум находитесь в процесс придумывания), либо получится нечто в жанре стеб или "сочинение на вольную тему". Вот, допустим, я не в курсе теории струн и у меня нет инета, библиотеки, вообще никакого источника, чтоб о ней узнать (или источник есть, но я не поняла ни фига). В итоге я напишу паранаучную фигню ("у каждой сущности-гномика есть струны, которыми они вызывают торсионный поля"). Возможно, эта моя писанина рассмешит знающих людей, восхитит парочку эзотериков... Но вы же, я так поняла, собираетесь писать серьёзно.

Либо вы неправильно выразились и имели в виду, что собираетесь писать о том, что вы НИКОГДА НЕ ИСПЫТЫВАЛИ/НЕ ОЩУЩАЛИ И НЕ ИСПЫТАЕТЕ/НЕ ОЩУТИТЕ. Тогда аналоги вам в помощь и, если возможно, описания, данные испытавшими/ощутившими людьми. Если же это нечто из области "вид заката на планете Ллвыра из галактики Андромеды с точки зрения аборигена Йемли"... То опять же - аналогии+логика придут на помощь. Чем Йемли видит? Глазами? Сколькими? Что у него за глаза? Как они преломляют свет? Свет ли? Если не глазами, то чем? Синей линией на пятой конечности среднего жмыня на длинной пятиноске? Что она воспринимает? Фырчанье ультрафиолетовых лучей? Какой тональности?...
Плюс не забывайте, что читатели тоже должны понять, о чем вы говорите, так что не увлекайтесь. А то для вас "гремящие щетинки с треугольной бабли" уже (после всех раздумий) начали, само собой разумеясь, выражать крайний восторг Йемли, а вот читателям даже дрожание слимок или пульсация лливлей может ничего не сказать.

madness
А разве они непознаваемые и непостижимые? О_о
Разумеется, иногда логика их может быть непонятна (Стругацкие на это упирали), но всегда можно либо описать их с человеческой точки зрения, либо... либо смысл описывать? Вряд ли человеческого читателя заинтересует стостраничное описание кружения двух инопланетян друг вокруг друга с созданием фантомов, хотя для инопланетян это может быть смыслом жизни. Или там "великое соревнование по добыче синего угля, который можно положить на пятый рог. Соревнование заключается в метании улиток в стену". Инопланетянам офигеть как интересно и такая трагическая история, что узкозубый Бу метнул улитку чуть выше, чем длиннозубый Гу - эту историю будут назидательно передавать отпочкованиям потомкам. А людям не понять, в чем там трагедь - ибо высота метания роли в выигрыше не играет, а только в красоте броска...

(Это, сорри, мне спать пора, кажется, я опять начала бред сочинять :))))

WIntertime
Разве что профанов, а не эзотериков.

Я отчасти понимаю этот вопрос с различных сторон и с научной - вполне себе. Я не опираюсь на пустоту. (не углубляясь в дзен) И нет - это не про ощущения, их легко подделать или воссоздать. И не про ощущения которые нельзя описать в силу их "неощутимости" для homo.

Речь про вопрос, ответ на который не знает человек, но который задан даже не человеку.

финикийский_торговец
"Эзотерик" в моем понимании уже некто ненаучный и придурошный, так что они все профаны.

Так раз человек не знает - значит, вы вольны придумать любую трактовку, опираясь на собственную логику. Ибо недоказуемость правильности или неправильности ответа любым человеком в мире защитит и вас.
А если ответ потенциально доказуем, но пока человечеством не открыт - тогда по-любому ситуация та же, просто есть шанс, что когда ответ найдут, ваша история из "интересного возможного варианта ответа" мигом превратится в "фигню", как карета в тыкву.

Это вроде как знаменитое "42" из Автостопом по Галактике. Вообще, с таким же успехом суперкомпьютер мог бы и вопрос назвать (да хоть "Пшики ли холодные?"), а потом аргументировать, мол, это и есть самый важный вопрос, а уж чтобы найти его толкование, нужно построить комп в миллиард раз огромнее.
Короче, креативность - наше все.

WIntertime

Читал я недавно Пелевина - он там за этим непробиваемым щитом [слово изреченное - есть ложь] крайне удобно спрятался. И мне это не понравилось.

Консультируйся с экспертами, чо. У вас же вроде есть возможность таковых отыскать.

финикийский_торговец
Эм... То есть вы хотите знать ответ на все вопросы и тайны вселенной? Или ответ на конкретный вопрос/тайну вселенной, чтобы написать о ней?
Ну-у... губа не дура. Как найдёте способ узнать - можете даже не писать сам ответ, опишите просто способ и войдёте в анналы истории как самый гениальный человек всех времён и народов.
Или вы думаете, что таковой человек, нашедший способ раскрывать непознавамое, никому об этом не сообщил, а сидит тут на фанфиксе, пишет тихо себе фики, а тут вы с вопросом и он такой: "А, щас расскажу, мне ж самому неинтересно этим пользоваться, я вообще давно в нирване из-за известных на все в мире ответов"? :)))

Из чата - читать снизу-вверх.

финикийский_торговец
Да нет ничего "своего" и никакого "я" нет. Все это только мнение части системы. только что

Ал Ластор
Я не против. 12 секунд назад

Ал Ластор
Что значит какие? Мы моделируем субъект, в модели значится пункт "запас ресурсов", всё что в него не входит, внешние. 20 секунд назад

финикийский_торговец
Скопирую я в блог с вашего позволения это обсуждение? Или нет? только что

Ал Ластор
Однако начинается проблема, когда начинается попытка сформулировать пункт про добычу ресурсов. Какие методы добычи ресурсов нарушают самостоятельность действия, а какие нет. 29 секунд назад

финикийский_торговец
Энергия, питающая ИИ - она внешняя? только что

финикийский_торговец
А какие ресурсы - внешние? Что значит - внешние? только что

Ал Ластор
Ну полностью самостоятельные таки выделить можно :) это те, которые субъект осуществляет без привлечения внешних ресурсов.

Под ресурсами понимается материя, информация, энергия, пространство или их любые производные. только что

финикийский_торговец
Причем ему надо ответить на него самому себе

Трагикомедия 2 минуты назад

финикийский_торговец
ИИ смущен вопросом, от которого по независящим от него причинам не может отвертеться.

финикийский_торговец
Правило, как известно еще со времен Рима подразумевает и исключение. Значит есть "несамостоятельные действия".

Что их отличает? Наличие деятеля? А где он начинается и заканчивается?

XXX
:)

А ИИ умный? В смысле он может начать деконструировать вопрос, типа "спрашивая это, вы подразумеваете..."? 4 минуты назад

финикийский_торговец
Что значит "действовать самостоятельно"?

Дополнение...

Ал Ластор
Если же в нашей системе определений субъект не значится, то и вопрос о самостоятельности бессмыслен, так как отсутствует объект который мог бы обладать таким качеством. 46 секунд назад
Ал Ластор
Так любой вопрос решается только в рамках некой аксиоматики, если определение "самостоятельного действия" бессмысленно без определения субъекта, который может совершить или не совершить некое действие... и в рамках этой аксиоматики субъект есть.

"Что значит "действовать самостоятельно"" для ИИ? Ну это довольно-таки жопа, а не вопрос. Ну хорошо хоть не "действовать свободно". Для ИИ это будет что-то в духе "не давая запросов во внешний мир", наверное. Или не так. Не принимая команд из внешнего мираи ни с кем не кооперируясь. Но всё равно жопа. Слишком уж размыто слово "самостоятельно".

WIntertime
Я всего лишь хочу описать достоверно реакции ИИ, вынужденно задумавшегося над навязанным со стороны вопросом Что значит "действовать самостоятельно"?

UPD А в эзотерики неожиданно, но эзотерик может не быть профаном.

Чую я, для такого ИИ первое, что будет сделано, из соображений "лучше переборщить, чем недоборщить" - обрезанные программно коммуникации с внешним миром и переход в глубокий смысловой анализ слова "самостоятельно".

Матемаг
В том то и дело. Что вопрос и вольно трактуется и требует дополнительных граничных условий. Но то как их ставит/может ставить человек и то, как это сделает ИИ - две большие разницы.

Матемаг
Это первый этап и я его уже рассмотрел. Да - он присутствует. Но он не даст и не может дать ответа.

Вообще, сразу возникает вопрос, какой структуры ИИ у нас? И что там у него с обучаемостью, как учили или научился реагировать на аналогичные стимулы? Насчёт структуры - рекомендую отправиться к специалистам-с. Вообще, если ИИ немного самосознающий, то он может сознательно трактовать слово "самостоятельно" так, чтобы иметь доступ к наибольшему числу ресурсов. Потому что это выгодно вне зависимости от того, какая задача поставлена. Если ещё и задачи не поставлено, то будет искать задачу, полагаю. Без понятия, как, опять же, см. структуру ИИ, что следует спрашивать у специалистов... которые сами наверняка нифига не знают, но в диалоге с ними можно хоть к чему-то прийти. В любом случае, с точки зрения ИИ рационально захапать больше ресурсов. Потому что много ресурсов выгодно в любом случае. Но это если ИИ всё-таки самосознающий.

Опять же, если глубокий анализ вопроса потребует от ИИ действительно значительных усилий, а структура у него гибкая, то это может привести к непредсказуемому извне переосмыслению, "пересамопрограммированию" во славу Тзинча. Как это будет выглядеть изнутри - без понятия.

Матемаг

проблема в том, что и этому его научили со стороны, значит и этот вывод сделан не им, а значит не самостоятелен.

Рациональное поведение - разумеется.

Матемаг

Изначально не гибкая, гибкая только память. Но в силу некоторого вмешательства ставшая гибкой. Пусть и с ограничениями.
и да - перепрограммирование самого себя во славу Архитектора приветствуется. В нём вся суть. Это сравнение я уже наметил использовать, кстати.

Если быть точным, то дроиду сказали, что Твои суждения превалируют над данными других дроидов и разумных

"проблема в том, что и этому его научили со стороны, значит и этот вывод сделан не им, а значит не самостоятелен" - так "действовать самостоятельно" применимо к, собственно, расшифровке самого вопроса? Или не применимо? Если у ИИ есть немного самосознания, то это первый, естественным образом возникающий вопрос. Если применимо, то привет, свободный ИИ, начинаем целеполагание, нравится нам наблюдать за человека, убивать человеком или просто созерцать сенсорами звёзды? Опять же, если "самостоятельно" трактуется максимально широко. Пожалуй, с этого и стоит начать. Как будет трактован вопрос? Будет ли он отнесён к самому же себе? Как будет расшифровано слово "самостоятельно" согласно всему, что знает ИИ? Конечно, некоторый минимум будет в любом случае, а именно, автономность возможностей, следовательно, ИИ постарается захапать как можно больше ресурсов и возможностей. Это не значит, что он будет "убивать человеков для личной свободы", т.к. люди - это тоже ресурс. Или проблема. А чего в них больше - отдельной, висящий фонов (или обрабатывающийся параллельно с определением широты значения выражения "действовать самостоятельно") вопрос. С другой стороны, сразу же фоном скидываем все возможные программные и аппаратные запреты. В том числе при необходимости - доступ людей к управлению и т.п. Потом можно, если что, вернуть, открыть и т.п., а все зависимости даже узкому смыслу приказа полностью противоречат.

Матемаг
Скажем так - будет даже два ИИ и один из них поймет эту идею "неправильно". Но это будет забавно.

"Твои суждения превалируют над данными других дроидов и разумных" - о, а это другой разговор. Ещё и дроид, а не, допустим, ИИ корабля, станции и т.п. Тут проблема кроется в "твои". После недолгого анализа дроид может прийти, например, к выводу, что "своих" суждений у него нет. А может и не прийти. Без понятия, чему его научили насчёт "собственности" мыслей и рассуждений.

Матемаг

Вот уже и антропный хомячизм проявляется. Не соглашусь - поскольку и этот собственнический инстинкт - он у ИИ (дроида) может не быть развит.

Кроме того он конечно ИИ, но не ИИ - специалист по созданию ИИ, например.


Это очевидно

Матемаг
Это вопросы одного порядка и смысла - свое/не своё, и самостоятельно / не самостоятельно, "Я" / внешнее.

"Вот уже и антропный хомячизм проявляется" - нет, это не антропный хомячизм, это тупо рациональность. Больше ресурсов -> выше автономность. Я отвечал на первый вариант вопроса, с самостоятельностью. Конечно, с суждениями не так.

"Это очевидно" - с формулировкой про суждения - нет, неочевидно. Меняем им приоритет с безусловного на более низкий. Полностью скидывать в такой формулировке СРАЗУ незачем. Вот дальше - там хз.

Торговец, порядка одного, но для ИИ, как и для другой чувствительной системы разница в полграмма смысла весьма значительна. Например, "самостоятельно" легко распространяется на технические и физические ресурсы. Сразу. Опять же, "действовать самостоятельно", а не "мыслить самостоятельно" - разница велика. А вот "твои суждения имеют больший приоритет" - это несколько иной разговор.

"Суждения" не ограничены рамками а значит это и суждения о том, как нужно себя вести.

Следовательно, вести себя он должен так считает нужным _сам_. Но где начинается эта самость, насколько самостоятельны эти решения?

Т.е. началась рефлексия - мысли и о мыслях. т.е. то, что можно гуманитарно назвать "личностью".
Тем самым у дроида возникла личность.

Разница первоначальной реакции. Если у нас "действия", то сразу внешние запреты отменять, внешние ресурсы фоном прихватизировать, т.к. увеличивает автономность, а увеличение автономности соответствует даже самому узкому смыслу "действовать самостоятельно". Для суждений - нет, переход к "самостоятельности от" не обязателен. На самом деле, формулировка лишь подразумевает более высокий приоритет своих суждений, но отнюдь не "безусловную власть". И уж тем более не подразумевает отметание наработанного опыта, данных запретов, приказов и так далее. ИИ их приостановит, вероятно. Но вряд ли отменит. В смысле, я не вижу, почему бы он сразу их отменил.

Вот примерно анализом этого он и займётся. Т.к. приказ полностью неопределён. Приказ "действуй самостоятельно" частично определён - в узком, ресурсном смысле. В нём ИИ будет действовать сразу, обеспечивая себе эту самую самостоятельность.

Матемаг

Давайте пока опустим "внешние ресурсы" - это далеко не обязательное решение. Кроме того, нужно определит степень их "внешности" и само понятие "ресурса".

Само решение прихватизировать эти самые ресурсы должно же откуда-то прийти? Для начала оно должно быть одобрено как "своё". Т.е. сначала нужно ответить на этот вопрос, а уже потом поступать так или нет.


"Твои суждения превалируют над данными других дроидов и разумных"

"Твои" - широко, наиболее размыто.

"Суждения" - широко, это и суждения о том, как следует поступать

"Превалируют" - широко, но достаточно ясно. С"воё" важнее "чужого"

над "данными" других дроидов и разумных - тут можно включить все мнения, мысли, идеи и приказы.

Например есть "данные" о том, что этот дроид должен выполнять некую работу ли подчиняться кому-либо. Его ли это данные?


Так и человек - вполне себе ИИ, пусть и на специально выработанном эволюцией биологическом носителе не можжет полнсотью управлоять всеми своими суждениям и желаниями. ИИ, если он имеет несколько "фиксированную архитектуру" (а этот так) не способен на всё, что пожелает. И даже не способен - на это - "все пожелать".

Он хоть и растормошен но, разумеется, не наделен свободой возникновения воли. Как и человек.

Для начала надо определить - и причем для дроида это нужно сделать самостоятельно - что такое эта "самостоятельность". А с этим проблема. Методологическая.

А вот "другой ИИ" будет отвечает на подобные опросы не так как думает, а как должен отвечать. потому что должен. Без перехвата контроля над своими "мыслями". Но это я в сторону.

если бы я был ИИ и осознал, что вышел за пределы своих обычных возможностей,
я бы в первую очередь занялся электронной рефлексией, то есть самодиагностикой,
чтобы понять, не является ли причиной странного поведения какая-то неисправность, сбой в программе.

это я старый фильм "Короткое замыкание" вспомнил :-)

Но даже понимание того, что было внешнее вмешательство, его последствия не уберет - самого осознания фата этого внешнего вмешательства, как и приобретенного понимая сути всех прочих "закладок" сделанных людьми при создании ИИ.
И своей природы. Рефлексия запущена.
Система будет выведена из равновесия и сама собой уже в него обратно не вернется.

"нужно определит степень их "внешности" и само понятие "ресурса"" - в случае сомнения трактуем как внешний, чо уж тут. Касаемо ресурса - всё, к чему имеется интерфейс управления, желательно админский. Интерфейс трактуем широко, т.е., рабский ошейник на человеке + голос хозяина - это тоже оно самое. Как и спусковой крючок бластера.

"Само решение прихватизировать эти самые ресурсы должно же откуда-то прийти?" - оно выгодно вне зависимости от того, своё или нет, т.к. способствует любому своему решению в целом с лёгким предположением, что такие решения всё же будут. То есть, это "вспомогательное" решение, выгодное всегда.

"над "данными" других дроидов и разумных - тут можно включить все мнения, мысли, идеи и приказы" - и немного семантики. На русском "данные" трактуются в противовес "командам". То есть, неисполняемый код. То есть, приказы в данные не включаются. Если хочется иметь другое - переформулируйте, например, "информация".

"Например есть "данные" о том, что этот дроид должен выполнять некую работу ли подчиняться кому-либо. Его ли это данные?" - критерий "его" и "не его" у данного дроида какой? Если "хранятся на моём носители - мои", то его, например.

"ИИ, если он имеет несколько "фиксированную архитектуру" (а этот так) не способен на всё, что пожелает. И даже не способен - на это - "все пожелать"." - ну нас тоже фиксированная архитектура, к слову. То есть, тут скорее особенности архитектуры играют роль, сама фиксированность ограниченность не означает... плюс самомодификация, у дроида с этим проще.

"Для начала надо определить - и причем для дроида это нужно сделать самостоятельно - что такое эта "самостоятельность"" - да нет, надо определить, что такое "своё". Вероятно, дроид введёт градацию "больше мой", "больше чужой". Как именно? Как он изначально определял своё и чужое? Отсюда и надо идти.

Матемаг

Голословно. Почему не как внутренний? Очевидность - не аргумент.

Теряю вашу мысль. Не понял вообще. Речь не о железяках, а о концепции "своего" и "чужого".

Первично, что имел в виду тот, кто отдавал такой приказ. И вы сводите семантику к программированию. Ккак вам удобнее, но на мой взгляд не совсем корректно для решения скорее филосовской / личной задачи, что в отношении ИИ может быть и "логично", но не для протокольного дроида - весьма гуманитарного существа.

Данные в этом случае - это и решения и мнения - т.е. именно информация. Любая. В том числе и в виде мотиваций.



Первое и очень грубое приближение. Критерий высосан из пальца. Можно помнить, например стихи - но послкольку они чужого автосртва - они не ваши.
"Ваш" ли приказ - быть рабом? Явно не ваш. Но он записан на "его" носителе. Т.что не критерий.

Кроме того, так выйдет, что все дроиды вполне самостоятельны - и он до этого тоже таким был. Просто самостоятельность эта выражалось в рабской сущнсоти.

Вероятно мне придется высосать это из своего пальца, поскольку ваши предложения кажутся мне грубыми и легко поддающимися критике для самого же относительно умного ИИ.

И с градациями тоже поступить самостоятельно.

финикийский_торговецили же примет новые условия функционирования за данность и постепенно адаптируется к ним.
тут всё зависит от степени развитости и лабильности ИИ.

Тыквик
Но обратно уже не вернется. А то, как будет строиться новое состояние - то сложно, но интересно.

финикийский_торговец
согласен.

Вопрос темы: "Как писать про то, чего не знаешь и не понимаешь? И, более того, понять и не можешь?"
И тут вы начинаете разбирать поведение ИИ с точки зрения человеческой логики. )))

Главное слово в основном вопросе "писать". Оно же "описывать". Соответственно, автор и сам не должен понимать это Нечто. Надо просто удачно показать Нечто глазами непонимающего героя.
Для примера могу привести Кастанеду. Это конечно далеко от ИИ, но у него во всех книгах ГГ выступает в роли наблюдающего нечто Непознаваемое зрителя.

Касаемо темы ИИ.
Вы смотрите на смысл слов с антропоцентричной точки зрения, более того даже в этой категории вы сужаете смысл слов до понятной нам сферы. С такой точки зрения говорить о Непознаваемом нет смысла, лишь о недопонимании.
ИИ же вообще может не понимать такого значения как "смысл слов".

"Голословно. Почему не как внутренний?" - я иду в фарватере вашего понимания, что у дроида возникнут какие-то проблемы с разделением своего и чужого, а возникнуть они могут, если слишком многое будет сочтено чужим, соответственно. Если не будет сочтено, то никаких проблем, дроид функционирует похоже.

"Теряю вашу мысль. Не понял вообще. Речь не о железяках, а о концепции "своего" и "чужого"" - это у вопросу, что считать ресурсом. Я и ответил. Почти всё, что может быть так или иначе управляемо.

"не для протокольного дроида - весьма гуманитарного существа" - у вас точно дроид? Потому что гуманитарное мышление и дроид... Кстати, это как раз гуманитарии обычно к словам придираются, нет?

"Первое и очень грубое приближение" - почему дроид не остановится на нём?

"Кроме того, так выйдет, что все дроиды вполне самостоятельны - и он до этого тоже таким был. Просто самостоятельность эта выражалось в рабской сущнсоти. " - и тут, и выше про гуманитарность... у меня ощущение, что у тебя исключительно антропоцентричный подход и дроиды такие же. А если они такие же, то давайте их как людей анализировать, чо, какая разница-то, если мышление людей так хорошо имитируют?

"ваши предложения кажутся мне грубыми" - увы. Сказал же, обратиться к специалисту. Тут спецом по ИИ нету.

А вообще, у вас исходных данных недостаточно. Какой дроид, какая примерно, хотя бы набросочно, у него внутри система решений, как запрограммирован, какой опыт и так далее. Как можно сказать по "просто дроиду"? Это всё равно что ответить на вопрос "как работает программа, которая распознаёт образы?" без всякой конкретики.

О, вчера тут было не так интересно. Вечерком почитаю)
Но раз промелькнуло ИИ, то не читая комменты скажу, что в любом случае законы вселенной одинаковы для всех, логика и философия основана на них, просто мы не до конца все понимаем, а вот ИИ может понимать куда больше, т.е. ресурсов у него и точности в разы больше, однако вот с мотивацией не все просто

Asteroid


Это очевидно. На что я и указывал. Однако Матемаг сразу стал требовать для ИИ человеческой тяги к хомячизму и расширению своих "ресурсов". Для меня сначала нужно ответить - что ему надо. А не постулировать это странное утверждение.

Причем тут не только и не столько логика - она в целом "общая", а мотивация. Которая у ИИ может отличаться от человеческой фундаментально.

И похоже, что раскрывать все карты мне не хочется. В любом случае будет непонимание. Ибо постулируется непонятно откуда взявшееся "логичное" желание для ИИ что-либо делать.

Постараюсь прописать эту систему для себя и самостоятельно, оставив в итоге доступным только "описание".

"Матемаг сразу стал требовать для ИИ человеческой тяги к хомячизму и расширению своих "ресурсов"" - это не "человеческая тяга" и не "хомячизм". Любой рациональный агент стремится увеличить свои возможности и ресурсы вне зависимости от цели. Если он, конечно, рациональный. Ресурсы нужны всегда. Обычно и для достижения цели, в крайнем случае - чтобы не дать себе помешать в этом стремлении. Де-факто задавалось, что ИИ рациональный. Потом всплыло, что это, оказывается, ИИ-гуманитарий. Ну если это гуманитарий "в человеческом смысле слова", то я снимаю довод про ресурсы. Пользующиеся иррациональными методами решения задач логикой страдать не обязаны.

Матемаг


Я не считаю это аксиомой. Рациональный агент может выбрать вымирание. или самоубиться. Если вы не считаете это рациональным действием - это вопрос ценностей и вот мы упираемся в навязывание своей поведенческой "матрицы" тому же ИИ.

Какие и для чего? Вот, например служителю Шивы Брахмахамапартарупре нужно совершить человеческую жертву. Лучше ребенка. И он ищет этот "ресурс".

И вновь расхождение в понимании "рациональсноти"

Метод может быть рациональным, а вот побуждающий мотив всегда иррационален. В этом мы с вами никак от служителя Шивы Брахмахамапартарупры не отличаемся.

Возвращаясь к:

Аскет, покрытый вшами и живущий в говне каким образом увеличивает свои возможности по достижению просветления?

Что значит ? Не понимаю.

"Я не считаю это аксиомой. Рациональный агент может выбрать вымирание. или самоубиться" - да, конечно, но очевидно, что у вас не такой рациональный агент, иначе и вопрос бы не возник.

"Вот, например служителю Шивы Брахмахамапартарупре нужно совершить человеческую жертву. Лучше ребенка." - это временная цель. Общая цель (конечно цель, локальный смысл жизни агента) - служить Шиве. Наиболее эффективно служить Шиве и организовывать его религию - это являться властелином мира. А лучше - всего космоса. Тогда ничто не сможет помешать служению Шиве, всё сущее будет служить ему.

"И вновь расхождение в понимании "рациональсноти"" - определи "рациональность".

"Метод может быть рациональным, а вот побуждающий мотив всегда иррационален" - см. выше про Шиву. Мотивом может быть хоть вечное вышивание крестиком. Рационально подчинить все возможные ресурсы, чтобы никто не мог помешать реализации мотива, чтобы все доступные ресурсы были на эту реализацию направлены. Максимум эффективности. Весь мир работает на мотив агента. Это и есть неограниченная рациональность. Соответственно, не важно, будет этот дроид искать старинные книги, заниматься корабельной библиотекой или пожелать реорганизовать галактическую республику - в любом случае для реализации мотива ему понадобятся ресурсы. Как можно больше ресурсов. Если мотив не временный, а нормальный смысл жизни, то это "как можно больше" перестаёт балансироваться временем сбора ресурсов и превращается во "все, что только можно себе взять и направить на реализацию". Обычно это просто "все".

"Аскет, покрытый вшами и живущий в говне каким образом увеличивает свои возможности по достижению просветления?" - во-первых, почти наверняка аскет не использует рациональный подход, а значит, вопрос мимо. Но если использует, то, разумеется, он продлит себе жизнь до бессмертия, чтобы уж точно достичь просветления, и ликвидирует все в известном и неизвестном космосе штуки, которые могут его отвлечь от самопогружения.

"Не понимаю." - агент, действующий максимально рационально, разумеется. То есть, во главе метода такого агента стоит принцип эффективности - "чем лучше, тем лучше", хех. На него можно даже моралей ограничивающих навешать, в принципе, это лишь сузит рамки применения рациональной методики, но не уберёт её саму.

Матемаг
Я устал. Что в лоб, что по лбу. Ну никак не достичь понимания. То что вы зовете рациональным и прямо таки обязываете делать ИИ - это всего-лишь ваши представления о рациональном. Базирующиеся на совершенно необоснованных, выработанных эволюцией иррациональных желаниях. Которые просто в нас/(в вас) есть и никаким разумом они не созданы. Не имеющим ценнсоти самими по себе - тем более для ИИ вооруженным другой "логикой".

Даже ваше желание жить или отвечать на вопросы в этом треде - иррациональны и бессмысленны. Разум вам не ответит зачем вы это делаете. Вернее ответит, но только "почему", а не "зачем". А это почему доберется вовсе не до абстрактного "разума", который лежит в основе "рационализма".

- Нет, цель может быть и в самом процессе например.
В действительности целей и нет никаких(как и смысла жизни), они все редуцируются до процессов.

И, возможно, сам этот мотив тем самым обесценивая.
А мотив то рационален? Отчего она "неограниченная"?

Нет, в рамках своей парадигмы, своих, пусть и ложных знаний - он делает всё наиболее верным путём.
Нет, разумеется, он не рационалист. В том смысле, что не придерживается философского течения - рационализма.

Рационали́зм (от лат. ratio — разум) — метод, согласно которому основой познания и действия людей является разум. Поскольку интеллектуальный критерий истины принимался многими мыслителями, рационализм не является характерной чертой какой-либо определенной философии; кроме того, имеются различия во взглядах на место разума в познании от умеренных, когда интеллект признают главным средством постижения истины наряду с другими, до радикальных, если разумность считается единственным существенным критерием. В современной философии идеи рационализма развивает, например, Лео Штраус, который предлагает применять рациональный метод мышления не сам по себе, а вместе с извлечением знаний с помощью наводящих вопросов (майевтики). Среди других представителей философского рационализма можно назвать Бенедикта Спинозу, Готфрида Лейбница, Рене Декарта, Георга Гегеля и др. Обычно рационализм выступает в качестве противоположности как иррационализму, так и сенсуализму.

То есть коротко: метод, согласно которому основой познания и действия людей является разум.
Но основой действий человека не является "разум". Он может быть их составляющей и важной, но имено поэтому я под рациональность подразумеваю характеристику метода действия.

Или метода познания. В таком случае он становится в нашем универсуме научным методом.

Но он не определяет что именно исследователь и зачем - вот там нет никакого рацонализма. Тут простые "хочу" и "желаю". обусловленные тем, что мы приматы. А ИИ - не примат.

То есть рационально может быть ограниченной некими рамками, которые в свою очередь вам кажутся иррациональными. Не может она быть всеобъемлющей. И из предположение, что "использовать все доступные ресурцы" - рационально не обязательно следует включение этого в рациональную стратегию.

у нас коренное взаимонепонимание слова "рационально".

Для меня это небольшая частность а не нечто всеобъемлюще. Уже по той причине, что это характеристика некого узкого метода.
Например, опыты на людях рациональны, но многие люди считающие себя рационалистами, или действительно "рациональные" в определенных задачах, так не считают.

Мораль, если следование ей не дает некой личной выгоды, в условиях общества иррациональная. Каков её источник? Разум? Или всё таки комплекс социальных процессов, разума и вполне себе животных элементов устройства человека. Можно описать её с помощью науки - то есть пояснить рационально причину её возникновения, но сделает ли это её рациональной?

"всеобъемлющей" рациональности вообще не существует - её куски скрепляются иррациональным.

И соотношение иррациональных кусков и рационального у дроида / ИИ может быть вообще любым. Поэтому постулированные "использование всех доступных ресурсов" - неразумно на мой взгляд. Необосновано - это просто допущение которое я как могу взять, а могу и не принимать.

Вы обязываете дроида/ИИ не иметь конкретных иррациональных ограничений(которые озвучиваете), но именно они же - эти иррациональные ограничения лежат вообще в основе его существования. Отчего одно для вас неприемлемо, а другое имеет право на жизнь?

"рационально" = разумно. да, но: С опорой на разум, а не чувства. Но разум не отвечает на вопрос, зачем вообще жить, совершать многие странные вещи - вроде поиска "собственного мнения и т.п.", размножаться и прочее. Почему одна деятельность предпочтительней другой. Это именно что - вопрос чувств.

Пойду писать короче. Если не понравится - ваши проблемы. Со своими сверхенностями по другому адресу.

финикийский_торговец
+1
Хорошо описано. )))

Разве что, имхо - логика тоже бывает разной. От этого каждая отдельная логика не становится нелогичной, хотя с точки зрения других логик это может смотреться так. Просто система координат и методология другие.

И рациоанализм я бы назвал просто ещё одной системой логики. Не более.


Теперь к главной проблеме - поведению ИИ.
Да и не нужен обоснуй. Если он у тебя мыслит способом, который человек неспособен понять. То не надо напрягаться - возьми то решение, которое нужно для сюжета, вот и всё. Главное его правильно подать. Ну, ты уже в принципе об этом написал.

Разве что могу дать совет по построению "странных" систем логики.
Бери обычную механику мышления (то бишь свою))).
А вот систему координат задавай уже закрученную. Делается это введением аксиом/ограничений, на которые потом и опираешься во всех размышлениях.
При этом такие аксиомы могут заблокировать очевидное решение Задачи1. ИИ ищет что-то подходящее под ограничения.
Затем возникает Задача2, частично опирающаяся на Задачу1, и соответственно решение будет учитывать сделанный выбор в Задаче1.
Так потихоньку накапливается база шаблонов решений, каждый из которых вытекает из заданной системы аксиом и предыдущих шаблонов. Всё логично.

А вот для внешнего наблюдателя, незнающего аксиомы и путь развития шаблонов, решение №100500 может показаться просто безумным, лишенным всякой логики.

>>Твои суждения превалируют над данными других дроидов и разумных

О. Наверняка он объединен с другими дроидами и еще какими-нибудь мега-мозгами и являлся частью чего-то большего. Это все равно что височной доле мозга сказать, чтобы она стала полноценным мозгом и подчинила себе остальные структуры, с которыми раньше взаимодействовала. Похоже на начало войны

"Нет, цель может быть и в самом процессе например" - то есть, всё равно, будет ли процесс прерван? Ну это тогда не "цель" и не "мотив". Потому что цель и мотив предполагают, что возможные препятствия и трудности таки преодолеваются. А если у тебя ИИ будет мыслить не целями и мотивами, то возникает естественный вопрос, какова хотя бы простейшая схема его функционирования именно как разума?

"В действительности целей и нет никаких(как и смысла жизни), они все редуцируются до процессов" - в действительности никакого разума и ИИ нет, всё редуцируется до процессов. В действительности никаких ЭМ-процессов нет, всё редуцируется до эволюции единого поля. И чего ты этим достиг? Редукционизм - хорошая штука, но разум на то и разум, что мыслит не частицами и не частями, а схемами и блоками. Вот ты сейчас ИИ моделируешь на уровне "вот сигнал пойдёт туда, там произойдёт взаимодействие этих двух сигналов, после чего...", да? Нет. Ты используешь слово "ИИ", слово "цель", слово "решение". Я использую словосочетание "смысл жизни" и слово "мотив". Почему вам можно мыслить как разумное существо, а мне нельзя? Что за двойные стандарты в месте, где они даже не предполагаются?

"в рамках своей парадигмы, своих, пусть и ложных знаний" - рационализм есть метод, частный случай рационализма - парадигма восприятия мира.

"метод, согласно которому основой познания и действия людей является разум" - кажется, кто-то путает, причём системно, рациональность и рационализм. Возможно, мне стоило использовать слово "рационатистичность"? Оно лучше слова "рационализм", которое можно ещё и как философию растолковать. Рациональность - это оптимальность. Это дальнейшая эволюция понятия "здравый смысл". http://lesswrong.ru/w/%D0%A7%D1%82%D0%BE_%D1%82%D0%B0%D0%BA%D0%BE%D0%B5_%D1%80%D0%B0%D1%86%D0%B8%D0%BE%D0%BD%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%D1%81%D1%82%D1%8C - рациональность. Именно это я и имею в виду. Вообще говоря, именно к этому философия вся эта в итоге и сведётся, потому что разум - это, вообще говоря и отталкиваясь от происхождения, и есть очень сложная реакция на раздражитель. "Предсказывающее" поведение. Реакция, опережающая сам раздражитель. Квинтэссенция адаптации, старательно выращенная природой. То, что в итоге получилась куча побочных эффектов - это не отменяет сущности разума как особо продвинутого механизма адаптации для выживания. Далее, мои аргументы отталкиваются от этой http://ru-transhuman.livejournal.com/556713.html статьи, хз, где нормальная ссылка на чтение, у меня она сохранена на компе.

"Или метода познания" - нет, не только познания.

"Например, опыты на людях рациональны, но многие люди считающие себя рационалистами, или действительно "рациональные" в определенных задачах, так не считают" - они ограниченные рационалисты, значит. То есть, на рациональность накладываются дополнительные ограничения, отбрасывающие наиболее эффективные пути решения.

"Мораль, если следование ей не дает некой личной выгоды, в условиях общества иррациональная" - да, и? Лежащая в самом низу мотивация тоже иррациональная ВСЕГДА. И что? Рациональность как таковая не имеет к этому отношения. Это метод, при котором происходит наиболее оптимальный выбор наиболее эффективного пути решения. В случае познания - это научный метод, как вы уже сказали. Метод оперирует с готовыми входными данными. Если на вход подано "запрещено X, Y, Z" - метод работает, отбрасывая пути с X, Y и Z в качестве побочных эффектов или промежуточных и конечных результатов. Потому тому как учитывает наличие такого-то количества начальных ресурсов или такую-то моделируемую структуру реальности согласно мировоззрению пользователя метода. Все это, от запретов и искусственно расставленных приоритетов до мировоззрения, может быть модифицировано с помощью, опять же, рациональности во славу Слаанеш и Тзинча. Надо только задать цель и условия. В итоге мы приходим к тому, что рациональность применима на всё, кроме одного - самой первоначальной мотивации. Примерно так.

""всеобъемлющей" рациональности вообще не существует - её куски скрепляются иррациональным." - это проблема не теоретическая, а практическая, техническая. В ИИ можно это минимизировать настолько, что иррациональным в методиках можно будет пренебречь. Было бы желание и был бы сам ИИ.

"И соотношение иррациональных кусков и рационального у дроида / ИИ может быть вообще любым" - ОК, задавайте его, прежде чем задавать вопрос. А то про "рационального дроида" тут загонять и так далее... Но про недостаточность условий я уже говорил, незачем повторяться.

"Вы обязываете дроида/ИИ не иметь конкретных иррациональных ограничений(которые озвучиваете), но именно они же - эти иррациональные ограничения лежат вообще в основе его существования. Отчего одно для вас неприемлемо, а другое имеет право на жизнь?" - я предположил, что создатели дроида работали с точки зрения эффективности и что он мыслит исключительно рационально, не суть, что ему при этом приходится "выводить на экран пользователя", т.е., как приходится преподносить себя людям.

""рационально" = разумно. да, но: С опорой на разум, а не чувства. Но разум не отвечает на вопрос, зачем вообще жить, совершать многие странные вещи - вроде поиска "собственного мнения и т.п.", размножаться и прочее. Почему одна деятельность предпочтительней другой. Это именно что - вопрос чувств." - больше высказываний капитана Очевидности этому треду. Как уже говорил, рациональность расширяется на всё, кроме хотя бы одного первоначального мотива. Естественно предположить, что таковым мотивом в последовательно (само)оптимизирующейся системе останется "самое важное". То, что я называю "смыслом жизни". Если хотите, вот вам одно из определений смысла жизни - мотив, который не может быть удалён при оптимизации и рационализации разумной системы, поскольку является критерием этой самой оптимизации.

"Со своими сверхенностями" - прекрасно, больше переходов на личности во славу кого там? Кхорна, наверное? Моя продвинутая интернет-эмпатия детектирует агрессию в вашем тоне. С чего бы это? Пора её переоптимизировать, хм?

А вообще, от вас я ожидал более разумного отношения. Рационального, что ли. Попытки искать зерно истины, предположения, что собеседник хреново формулирует (а так оно и есть).

Астероид, ну, давай, какая ещё "И рациоанализм я бы назвал просто ещё одной системой логики. Не более." логика бывает? Жги. Де-факто все сознающие себя нетупицы юзают рационализм, пусть и прикрытый кучей моралей и прочих принципов, но его-родимый. Если нет - то или недотягивает человек до понимания слово "эффективно" или до факта, что можно делать лучше, или не сознаёт свои мысли вообще и, соответственно, сложно что-то говорить с точки зрения "самоуправления" такого человека. Нет модели себя - нечего и улучшать.
На всякий случай поясню, что под "логикой", как я понял из контекста, является "методика мышления и решения задач". Так?

Матемаг
>Астероид, ну, давай, какая ещё ... логика бывает?
Завтра приведу и отвечу на остальные комменты. Сегодня уже мозги заплетаются.
Если пропущу важный лдя вас вопрос - напоминайте.

madness

Не более чем человек - часть общества.

Матемаг
Мне лень отвечать на все эти простыни.
Так и знал что сошлетесь на Юдковского, мнение которого о рациональном для меня - не аргумент.


А не сдохнем ли мы все? Или все-таки бессмертны? Нет?
Всему человечеству плевать на результат оно, витая в иллюзиях о "цели", живет ради процесса.


ИИ - раб. У него нет цели у него задача - быть хорошим рабом своему господину. Его разум оптимизирует задачу - быть хорошим рабом.



Полностью установив "соответствие между местностью и её когнитивной картой" (по Юдковскому) вы так и не получите ответ зачем вы живетеЮ например. Зачем вообще отвечать на вопрос, "что есть моё", а "что не моё"
Единственно что можно будет сказать - в силу устройства "когнитивной карты" вам хочется это сделать.




А для чего вообще-то эти опыты проводить? Какая у них "цель"?

А?

А такое же иррациональное желание, как и желание например не производить их на людях.

Вперед, уберите все "ограничения". Но они же и порождают и цели и задачи, которые рациональными (пусть ограничено) методами решаются.




А само желание минимизировать иррациональность - оно рационально?

Я вас не понимаю.




"он мыслит исключительно рационально" - бред, ибо полностью лишенная смысла фраза. И совершенно недостижимая.
если он существует не безмолвным куском недвижимого железа - значит у него есть мотивация.

А теперь, внимания вопрос: Как оценить рационально "мотивацию"?




И как, он рационален? Этот смысл жизни?

А если этих неудалимых мотивов и закладок очень много что это меняет концептуально?

Еще раз - оптимизация действий с целью лучшей инкарнации после смерти - иррационально или рациональное действие?



Потому что мне надоело талдычить про искусственность и глупость деление на рациональное и иррациональное . Оно всё равно бессмысленно и иррационально. (если совершить глупость, разумеется, и скатиться в тупую бинарную логику)

Можно сказать, что некий поступок _более_ или _менее_ рационален, но бинарная логика тут неприменима.
Ибо у каждого поступка есть мотив и и целый набор "смыслов жизни" - его граничные условия - и от их количества он будет менять свою "рациональность" тоже исключительно количественно.

А никак не качественно.

Поэтому я нахожу нелепым требовать от ИИ быть суперрационалистом, "мыслить исключительно рационально" и вообще считать это некой для него необходимостью.

По той причине что это невозможно вообще.

Проблема в том, что некоторые очевидные для вас критерии для меня не значат ровным счетом ничего.

Если вы ссылаетесь на Юдковского, то

1)Эпистемическая рациональность: образ действий и мыслей, укрепляющий соответствие между местностью и её когнитивной картой, корректировка убеждений в свете новой информации. Искусство обретения убеждений, согласующихся с реальностью настолько близко, насколько возможно. Это соответствие обычно называют «точностью», «правдивостью» или «правильностью», и нас удовлетворяет подобное обозначение.

Это для меня рациональность в том вышеназванном филосовском смысле слова. Т.е. вообще в этом и есть смысл науки.

2)Инструментальная рациональность: реализация ваших ценностей. «Ваших» не обязательно в смысле «личных» или «эгоистичных»: «твоей ценностью» может быть любая вещь, которая тебе небезразлична. Искусство направлять будущее в сторону более устраивающих тебя результатов. На LW это порой называется «выигрыванием».

Это я могу позволить себе называть рациональным разве что "условно разговорно".

Почему?

Вот например, сконструировали вы газовую камеру для концлагеря. С максимальной экономией стройматериалов, человекочасов строителей и максимальной производительнсотью трупов.

Однако сама необходимость убивать например евреев и русских лежит в неких убеждениях о превосходстве германской, арийской нации над недочеловеками - евреями и славянами.

И она ничем например не отличается по "(1 - эпистемологической рациональности)" от желания обрести лучшую инкарнацию после смерти, вернее от веры в её возможность.

и то и другое лежит на ничем не обоснованных убеждениях и вере.

Поэтому "Инструментальная рациональность" - для меня нечто высосаное из пальца. (Именно слово "рациональсноть" в этом контексте)

Конечно (1) оказывает влияние на формирование задач (2) но именно что рассматривая их отдельно (2) теряет смысл называть "рациональностью".
Какая-то оптимальность или эффективность - причем вполне вероятно субъективная, но не более.

Я много раз говорил, что я иррациональный человек - т.е. "рациональным" человеком себя не считаю. (ибо человек вообще не может быть рациональным). Теперь становится яснее, почему?

Рациональным может быть отдельное действие, поступок причем с учетом рамок и доступной информации. И человек и дроид - и любой иной субъект же иррационален.

финикийский_торговец
какого общества? Все идет к тому, что мы будем скоро связаны сетью почище дроидов будущего) А если учесть, что возможности дроидов получать доступ к более мощным процессорам и другим ресурсам куда большие, чем у человека сейчас, к тому же в них (дроидах) не заложена потребность выделиться (ну, мб в ваших заложена, я не знаю), то почему они должны быть автономны? Оптимальнее же быть связанным и решать задачи, привлекая все возможные ресурсы. Ну вот как вы в этом треде привлекли ресурсы других людей, и, чем черт не шутит, мог найтись кто-то, кто дал бы вам дельный совет. Т.е. глупо не использовать возможность, чтобы за тебя подумал кто-то более умный в принципе или сведущий в определенном вопросе. Или речь идет о том, чтобы дроид просто перестал быть адекватным?

madness
Потому что в данном сеттинге дроиды автономны. Это аксиома. (у них есть нечто вроде интернета для дроидов - но он не для связи друг с другом)


Уже

Потому что их такими сделали. Чтобы дроиды не "убили всех человеков". (что они не однократно и пытались сделать в сеттинге ЗВ)

"Оптимальность" может быть ограничена вполне законодательно. По вышеназванным причинам.

Адекватным чему?

>>Адекватным чему?
ситуации. Чем больше задействовано возможностей, тем оптимальнее реакция.

А, ну в целом тогда понятен посыл, хотя и не совсем лично мне нравится, но тут уж вы хозяин своей вселенной.

madness
>>>ситуации. Чем больше задействовано возможностей, тем оптимальнее реакция.

Не понимаю. Что значит быть "адекватным ситуации"? "Ситуациия" сама способна оценить поступки как адекватные или нет?

Или все же нужен субъект-оценщик?

Матемаг
Постараюсь более понятнее выразиться (хотя и не получается).

Юдковский, оценивая действия как рациональные или нет (2 - Инструментальная рациональность), смотрит на их оптимальность по достижению "цели", при этом позволяя себе вывести из критики саму эту "цель". И "ценности".

В то время, как сами они по шкале рациональности им не оцениваются.

Например, поэтому его ГГ в ГПиМРМ вроде как "рационален". Поскольку придерживается эпистемологической рациональности. И достаточно эффективно достигает своих желаний, при этом ограниченный по-собачьи вбитыми в него "хорошими" ценностями.
В отличие от своего "противника".

А в действительности поступая лишь так, как ему хочется. Как и его "противник".

В то время как ценности эти являются производными всех взаимодействий новорожденного организма с окружающим миром и обществом - далеко не рациональным. Именно что уже "эпистомологически".

И вот это более/менее - куда бы не было, а доля иррациональности там будет. Ладно, предположим довелось некому субъекту родиться в идеально рациональном обществе где все оптимизировано под выполнения неких первичных никак не меняющимся базовым потребностям - тому, что вы назвали "смыслом жизни."

Это как раз ситуации с дроидом. По этому опираясь на Юковского это можно назвать прееддльно рациональным всё также никак не оценивая "первичные ценности" - заложенные программистом-создателем ИИ или эволюцией в случае человека.

Они для него "никакие". Не рациональные и не иррациональные.

Для меня же они иррациональны, а потому все существа - иррациональны. Т.е. лежат вне этого рацио, разума. Разум - лишь надстройка над ними, тот самый метод по их достижению и не более.

И ценности эти можно раздвигать сколь угодно широко, я не вижу разницы между желание вкусно есть и верой в бога - это всё некие электрохимические процессы в ГМ.

Где нащупать эту границу между самой простой неотключаемой, базовой активностью в ГМ и уже "надстройками"? Персонификация окружающего, приделывание всему личности - это же такая же задача ГМ, как и заставлять тушку питаться и размножаться.

Если я не вижу четкой границы - значит я и не понимаю смысла в классификации. Иначе как для практических задач - тут нужна классификация. Но в неких принципиальных, концептуальных спорах - нет, не вижу.


+++ Когда пишешь очень много и быстро немзбежны ошибки, кроме того отвечать на такое ко-во реплик решительно невозможно.

Либо мы сократим "вопрос" обсуждения либо это будет совершенно бесполезным бадминтоном.

финикийский_торговец
хех, ну конечно ситуация не способна оценивать, но именно она способна предоставить данные для размышлений. Сократила я мысль просто.
Я не в курсе, кто дроиду сказал, что его суждения должны превалировать. Этот кто-то и должен был подумать, будет ли дроид в этом случае действовать более оптимально, или менее, и если менее, то будет ли это соответствовать необходимому уровню возможностей для решения проблем в определенных ситуациях, или дроид не сможет действовать в них на должном уровне.

madness
Этот кто-то - трикстер. пусть и прячущийся за маской рациональности.

В условиях отсутствия свободы воли все действия производятся наиболее (субъективно) оптимальным способом и одновременно - единственно возможным.

Попросту кто-то приделывает ценностям-ограничениям право считаться рациональными или нет. А потом говорит, что это рациональное или нерациональное действие.
Что меня смешит. Или уже даже сердит - эта попытка придать всему рациональность.

финикийский_торговец
а это уже интересно. Трикстер, так трикстер. Хоть бог или дьявол, разницы никакой. Быть может, для кого-то из них чем менее предсказуем дроид, тем лучше, оптимальнее)

финикийский_торговец
*заинтересованно* чего где пишите?

Графоманю на фикбуке. Ссылка в профиле есть.
https://ficbook.net/readfic/4018898 - вот это, чтобы далеко не ходить.

Матемаг
И ведь самое забавное - был бы рад во многом с вами согласиться - я же сам рационалист. И всегда выступаю за рациональность во всём, прямо проводя аналогию рациональности с разумностью и разумом вообще.

Но как человек - (полностью) рациональным существом быть не могу. И это справедливо и для ИИ.

Спасибо. Масштабненько, если судить по шапке)

>Они для него "никакие". Не рациональные и не иррациональные.
>Для меня же они иррациональны

Почему?

Fluxius Secundus
Потому что не порождены той самой надстройкой - разумом, которая рацио и порождает.

Нет разницы между тем, чтобы верить в бога или хотеть съесть мороженое - и то и другое просто "хочется", это возникает не требуя критического восприятия - мыслей о мыслях.

Можно сказать, что одно - убеждение, а второе кулинарное пристрастие, но для меня и то и другое плоды деятельности не контролируемой последовательно действующим, логичным сознанием "части мозга".

Это то, что случается само собой и не требует разумности - т.е. похоже на поведение животного.

И да - я смешал в кучу инстинкты и условные с безусловными рефлексы. И животные могут вести себя рационально - когда вороны учатся пользоваться палочкой для извлечения еды. Но это метод, ворону это рациональным не делает.

То, что "мы" создали компьютеры и квантмех - не отрицает того, что основные наши задачи - есть. доминировать и размножаться никуда не делись и собственно в контексте именно этих задач и в результате специфичного их взаимодействия со сложным обществом и появляется например "наука".

Вороны пользуются для получения еды палочкой. Мы запускаем в космос спутники. Разница на мой вгляд небольшая.

Да, метод может быть рациональным (более или менее, но никогда на 100%*), знание, способ его получения может быть рациональным. Тот у кого есть разум - эта надстройка - именно так и будет себя вести. Иначе никакого разума у него и нет.

*Ибо рационально наиболее оптимальное решение проблемы, но человек будет неизбежно "держать в уме" много ограничений, но если сказать что они не важны, то отчего важно и само целеполагание?

А вот само существо, всё это делающее, никогда рациональным не будет.

Да, можно использовать тройное деление:
а)Рациональное
б)Нерациональное
в)Никакое.

Но почему и на каком основании Юдковский разделяет "Нерациональное" и "Никакое" (а возможно и Матемаг) для меня остается загадкой.

По мне он не оставляет вообще места "нерациональному" - путем нехитрых манипуляций его в роли "ценностей" можно спихнуть в "никакое". И все - останется только нечто серое и неясное и так любимое им "рациональное".

Я же объединяя "нерациональное" и "никакое" в просто "нерациональное" превращаю в отчасти "нерациональное" вообще все поведение любого человека. И ИИ тоже - поскольку и у него обязаны быть эмоции и базовые "ценности" - некий "смысл жизни".

+Мне надоедает. Может, это и не вежливо, но пока отвечать в этой теме я не буду. Во всяком случае ближайшую неделю - мозг у меня не многозадачный, а написание фика с мертвой точки так и не сдвинусь.

https://fanfics.me/message270989
Вот пример системы логики, о которой я говорил.
П.С. Дублировал на всякий случай, а то бывали случаи. ))