↓
 ↑
Регистрация
Имя/email

Пароль

 
Войти при помощи
Asteroid
1 августа 2017
Aa Aa
"Нелогичная" логика

Наверняка вы иногда задумывались над примерно таким вопросом: "Как писать про то, чего не знаешь и не понимаешь? И, более того, понять и не можешь?" (взято из поста Финикийского Торговца)
Инопланетяне с Альфа Центавры, Искусственный Интеллект, другие непонятные нашему разуму субъекты, как они поступят в той, или этой ситуации?

Здесь я рассмотрю один из способов нахождения ответа - построение "странной" логики.
Такая логика для непосвященных в её суть внешних наблюдателей кажется "нелогичной" и даже "безумной". Но на самом деле, внутренне она непротиворечива, что позволяет автору точно понимать - как поступит описываемый в той или иной ситуации.

Начну с примера.
Представим себе недалекое будущее, и профессора робототехники, на досуге разрабатывающего искусственный интеллект. Своим хобби он занимается исключительно дома, так как по некоторым причинам власти запретили гражданским всё связанное с ИИ. А мечта жизни нашего профессора - создать идеального андроида. Вот и нарушает закон потихоньку.
Важно упомянуть некоторые подробности о главном герое. Человек он добрейший, никто и никогда не мог сказать о нём злого слова. Даже недоброжелатели признавали, что профессор и мухи не способен обидеть. Некоторые коллеги могут припомнить случай, когда он, получив пощечину, на самом деле взял и подставил другую щеку. Такой вот он был человек, этот профессор.

Профессор не являлся специалистом в области создания ИИ, но ему удалось достать заготовку у своего хорошего знакомого (всё таки робототехника тесно связана с ИИ). А для финальной настройки он использовал топограмму своего мозга, ведь со вторым собой он точно сможет найти общий язык.

Жил он в частном коттедже в пригороде. И потому не столь удивительно, что пропажу заметили не сразу.
Представьте себе, каково же было удивление сотрудников полиции, когда, войдя в дом, они обнаружили замученного насмерть профессора и безумного андроида, напавшего на них. Робота удалось обезвредить, хотя один полицейский в итоге умер.

И вот вы детектив. И вас мучает один единственный вопрос – почему? Почему робот, созданный добрейшим на свете человеком, сотворил такое со своим создателем?

А теперь, сделав клиффхэнгер, я перейду к основам метода. )))
Начинается построение системы с аксиом – это не оспариваемый набор утверждений, признаваемых окончательной истинной.
Далее мы создаём предысторию персонажа – ряд последовательных вопросов, и соответственно, ряд выводов. Каждый из которых запоминается, и становится шаблоном решения для всех похожих ситуаций.
Набор таких шаблонов вкупе с аксиомами и есть наша система логики.

Вернёмся к примеру.
Наш профессор был искренне верующим человеком. Соответственно, и в картину мира своего ИИ он прописал базовые истинамы: существование Бога, Ада и Рая, а главное – Души. А в качестве морального комплекса Новый Завет.
Что могло пойти не так?

А всё пошло не так после знаменитого вопроса: «А есть ли у этой платформы душа?» )))
Ответ искренне верующего человека мог быть только отрицательным. Ведь только Бог мог дать Душу. А наш профессор не был подвержен гордыни.

А теперь цепочка рассуждений ИИ:
- цель ИИ - помогать людям;
- Душа ценнее всего, а главной задачей человека является попадание в Рай;
- на вопрос: «А попадёте ли вы в Рай?», создатель лишь печально улыбнулся и упомянул грехи молодости (он ещё и скромный был);
- у ИИ нет Души, значит он не может согрешить;
- из Завета известно, что принявшие мученическую смерть невинные наверняка попадут в Рай;
- профессор уже очень стар, неизвестно сколько ему осталось, надо как можно скорее помочь ему спасти Душу;
- ИИ должен помочь своему Создателю.

Остальное вы можете представить сами. Главный момент в этой цепочке рассуждений то, что сам ИИ мучая человека не совершает грех. Ведь у него нет Души, а значит, он не может нарушить заповеди.

Вот такой простенький пример наглядно показывает работу метода «странной» логики. И теперь вы сами можете понять, что же ответил нашему детективу пойманный андроид, когда его спросили: «Почему ты убил своего создателя?»
#размышления #писательское
1 августа 2017
20 комментариев из 31
не понял, что тут нелогичного?
А если бы с теми же условиями, но профессор - атеист?
Semantica
Смотрите Я робот.
Почему робот, созданный добрейшим на свете человеком, сотворил такое со своим создателем?

Грубая логическая ошибка, возможно намеренная. Условная "добрейшесть" создателя не может влиять на поведенческие модели создания.
uncle Crassius
Кстати да. Сколько сволочей детей у добрых родителей...
Уже заговорив о некой "добрости", вы похерили начальный посыл поста.
>> упомянул грехи молодости
>> принявшие мученическую смерть невинные
Противоречие в условиях

>> создатель слишком слабоволен, чтобы решиться на отчаянный, но необходимый шаг
Лемма противоречит аксиоматике нового завета, и никак не связана с предыдущими и последующими пунктами.

Логически правильная схема должна выглядеть :
- профессор уже очень стар, неизвестно сколько ему осталось, надо как можно скорее помочь ему спасти Душу;
- ИИ должен помочь своему Создателю.
Абалдеть. Только заметил что рассказ Гаррисона по ссылке расположен на религиозном сайте. Прикол.
Тыквик
Ага. Только в этой книге ничего про такую ситуацию нет...
читатель 1111
а в других книгах этого цикла тоже нет?
впрочем, я давно читал, так что действительно мог перепутать с Гаррисоном.
опять же, у Гаррисона нет роботов...
короче, дело тёмное :-)
Тыквик
А я не все книги читал... Их столько...
читатель 1111
кажется, у меня появился шанс :-)
Экспекто Дементум
>не понял, что тут нелогичного?
В том то и дело, что когда смотришь изнутри, то всё логично. И именно так смотрит автор.
А вот читателю можно показывать лишь внешнюю сторону, и для него поведение субьекта будет именно странным, нелогичным.
Semantica
>А если бы с теми же условиями, но профессор - атеист?
Это будет другой случай. Каждая система "странной" логики разрабатывается под конкретный случай. Мне надо было показать простой, но показательный пример, и я его придумал за пять минут.

А в случае атеиста, нет полных условий: что требуется показать, каковы ограничения, и т.д.
Потому что систему не придумаешь по принципу "сделаю что-нибудь непонятное". Автору нужна цель, которая будет руководить построением.
финикийский_торговец
>Уже заговорив о некой "добрости", вы похерили начальный посыл поста.
Да нет, плохой (с вашей точки зрения) пример не делает таким сам метод.
Возможно дело в том, что я забыл упомянуть - проф пытался сделать ИИ максимально похожим на себя.
uncle Crassius
>Логически правильная схема должна выглядеть...
Ну, у меня сначала так и было, но потом решил разжевать для особ одаренных, и добавил неудачный кусок.
Уберу.

>Противоречие в условиях
Вот тут - нет.
Проф явно искупил все грехи молодости, но как истинно смренный христианин на может заявить, что де уж он-то точно в рай попадёт.
Я, возможно, не лучший писатель, и показать это в тексте не вышло (хотя вроде бы привёл кучу намеков для понимания).
uncle Crassius
>Грубая логическая ошибка, возможно намеренная. Условная "добрейшесть" создателя не может влиять на поведенческие модели создания.
Писал чутка второпях, забыл добавить, что проф пытался сделать поведение ИИ максимально похожим на себя.
Спасибо на указание, добавлю.
Вообще, это все еще очень даже человеческая логика, только под другим углом

Про упоротую логику можно посмотреть Шекли(У него местами дико упорото) и Стругацких(Малыш, Улитка на склоне - тут скорее изменены базовые основы, и от них пляшут выводы)
Экспекто Дементум
Я говорю о нелогичности внешней. То что и требовалось начальными условиями.
Можно конечно писать и странные переходы внутри системы, но это уже другой уровень. Тут либо ты сам это можешь, либо нет, никто тебя не научит.
К примеру Алиса в стране чудес. Шикарное в этом плане произведение.
ПОИСК
ФАНФИКОВ











Закрыть
Закрыть
Закрыть