↓
 ↑
Регистрация
Имя/email

Пароль

 
Войти при помощи
StragaSevera
15 апреля 2019
Aa Aa
#плоды_неоднозначного_подхода
Одна из сложностей, касающихся написания произведений с персонажем-ИИ - ИИ всегда можно скопировать.
Один из самых простых способов хуманизации персонажа-ИИ - сделать это невозможным.
15 апреля 2019
95 комментариев
Desmоnd Онлайн
Так в чем сложность? Для ИИ прерывание процесса функционирования будет смертью. Загрузится другой ИИ.

Меня у Шумила в "Драконах" умилял план побега из тюрьмы - переписать сознание в дракона, а самому в тюрьме сдохнуть.

З.ы. А насчёт тиражирования ИИ, у нас вон нейросети обучают, так и тут - каждый ИИ обучается
> Для ИИ прерывание процесса функционирования будет смертью. Загрузится другой ИИ.
...
Такого взгляда на проблему я еще не видел. Про людей так думают некоторые, но вот про ИИ...

> З.ы. А насчёт тиражирования ИИ, у нас вон нейросети обучают, так и тут - каждый ИИ обучается
Прикол в том, что никто не мешает скопировать уже обученную нейросетку хоть пять тысяч раз.
StragaSevera
Если вот этот момент, "одна личность = один непрерывный процесс", написать внятно и с должным градусом эмоциональности - то всё получится как надо. И заставит задуматься тех, кто пишет про различных "ментальных попаданцев", кстати говоря. Т.е. для попаданческих сюжетов этот момент не катастрофа, даже если попаданца в виде чистого сознания подсаживают в чужую тушку: сам-то он не будет понимать, что он копия, а не оригинал. Но вот обыгрывать эту идею можно шикарно.
П_Пашкевич
Люди после клинической смерти становятся другой личностью?
StragaSevera
А кто его знает? Равно как и то, останавливаются ли за эти несколько минут те самые процессы в мозгу.
П_Пашкевич
Лично мне эти рассуждения кажутся просто повторением старой сказки о душе, хех. И тем вдвойнее странно видеть их примененными к ИИ.
Чем "бессмертие через бэкап" людям не нравится, что они не считают его бессмертием, хотя бы понятно - воспоминания с момента последнего бэкапа теряются. Но вот почему люди считают прекращение функционирования с последующим восстановлением не-жизнью... и как они при этом ухитряются думать, что люди после клинической смерти - все те же люди...
Desmоnd Онлайн
StragaSevera
Прикол в том, что никто не мешает скопировать уже обученную нейросетку хоть пять тысяч раз.

Разумеется. Как и "никто не мешает скопировать уже установленный МС офис хоть десять тысяч раз". Но есть, как грицца, нюанс.
StragaSevera
Ну, я вам постарался изложить свою позицию. А вообще это для меня сложный вопрос, не особо поддающийся ответу. Возможно, потому, что сам процесс поиска ответа происходит в том самом сознании :) - ну, ограниченны у него возможности.

Здесь когда-то на эту тему большая дискуссия была, кстати говоря.
Desmоnd
И какой же, хех?

П_Пашкевич
Ну, к сожалению, я его не понял. Потому что "процессы", проходящие в мозгу, можно понимать по-разному - так-то в любом физическом объекте они проходят =-)

Меня просто изумило применение этой концепции к изначально дигитальному ИИ, хех.
Desmоnd
Не совсем корректный пример. Винда привязана к уникальным идентификаторам компьютерного железа, а мсофис хранит в виндовом реестре свои настройки. Кстати, если я поставлю мсофис в wine в отдельный префикс, я потом смогу тиражировать его в работоспособном состоянии вместе с директорией этого префикса сколь угодно много.
П_Пашкевич
Именно. Или еще проще - docker ;-)
StragaSevera
Ну... Насколько удачно этот гипотетический ИИ воспроизводит личность, настолько, имхо, для него и актуальна проблема непрерывности. А в том, что восстановленная из бэкапа личность не заметит, что она новая, я не сомневаюсь, даже если речь идёт о личности человеческой. Та же история, что с ложной памятью.
Desmоnd Онлайн
StragaSevera
Хех, я вот в детстве, ссука, от мысли "просыпаюсь ли я тем же человеком, что и заснул?" получал натуральные приступы паники, а ты говоришь "клиническая смерть".

Но, насколько помню, процессы в мозгу не останавливаются. Если мозг помер, то всё.

Но для различных попаданцев, а также при существовании гипотетической "души" проблемы как раз нет. Непрерывность процесса никуда не девается - просто в этом программно-аппаратном комплексе основной контур - душа - находится на метауровне. И при переселении или смерти отключается часть оборудования.

Для меня во всей трансгуманистической НФ главным фактором взрыва пукана было то самое "переселение в компьютер". Прикидывал, каким образом это могло не быть "просто смертью". Пришёл к тому, что только в формате "подключен комп к мозгу с переносом данных, мыслительным процессом на биологическо-кремниевом компплексе, с постепенным заглушением биологического".
StragaSevera
С docker дела не имел, а вот с wine - частенько.
Desmоnd
Вот примерно так же. И то не уверен, что там нет какого-то незаметного и неприятного нюанса.
Desmоnd
Хех. А я в детстве понял, что так как никогда не смогу понять, что такое "тот же самый человек", то это просто значит, что любая копия и есть я. =-)

Останавливаются или нет - факт в том, что личность останавливается, ты с этим согласен?

Ну, это вопрос семантики. Можно сказать, что на момент отключения ИИ / клинической смерти личность умирает, просто потом воскресает, если тебе удобнее.
Desmоnd Онлайн
StragaSevera
Какой? Да куча, на самом деле. Выковырять, выкорчевать кучу всего из реестра, обойти привязки, защиты от копирования, разобраться с dll-hell. Что в случае с ИИ тоже неизбежно.

Да, трудности большей частью технические, но всё же.
Desmоnd
Снятие образа с жесткого диска и запись его на другой жесткий, вставленный в комп с теми же параметрами - и у нас остаются лишь ИСКУССТВЕННЫЕ ограничения вроде регистрационных ключей. О которых я и писал в ОП-посте.
Если будет ВЫГОДНО копировать ИИ, то при технической возможности, это будут делать тоннами. Поэтому, если вам нужен ИИ как персонаж, желательно сделать невозможность техническую.

(БТВ, меня в трансгуманистическом скайфае отталкивает именно это - почему люди не клонируют свои разумы нафиг постоянно? Я бы сделал пару копий меня ^_^)
Desmоnd Онлайн
StragaSevera
Ты так говоришь, что искусственных ограничений не будет или они быть не должны.

Опять-таки, я представляю себе более-менее сложный ИИ программно-аппаратным комплексом. И в определённый момент "сделать копию" становится приблизительно так же легко, как вырезать гланды через анус.

Сколько сейчас есть различных устаревших контроллеров, прог на допотопных осях, которые поддерживают с помощью различных костылей? Особенно к специализированному оборудованию?

Я просто сталкивался - от прог до колорирования в представительстве производителя красок до сушки древесины. И там, скажу тебе, местами такой пиздец, что ни в сказке сказать.

Знаю пример человека, занимающегося поиском и покупкой старых материнок ещё 286 что ли? Или 386?
В общем, древнего говна определённой модели, чтобы был запас доноров, когда всё это наебнётся.

Это при том, что я с действительно пиздецовыми случаями, типа разных авиадиспетчерских или ж/д, знаком лишь по слухам.

А ведь в случае с развитием на уровень "создания ИИ" подобные сложности возрастут по экспоненте.
Показать полностью
StragaSevera
А вы возьмите вместо мсофиса изначально свободный от искусственных препятствий LibreOffice :) - у него даже специальные portable- сборки есть, не требующие инсталляции.

Но только к проблеме уникальности и непрерывности человеческого сознания это отношения не имеет.

Задумался вот над чем. У Коваленко в "Кембрийском периоде" Трурль и Клапауций для разрешения своего спора мало того что создают несколько планет, воспроизводящих реалии разных столетий земного средневековья, и мало того, что населяют их людьми с ложной памятью о предшествующей жизни (одни только воспоминания базилиссы Анастасии чего стоят!), так ещё и запускают на каждую из планет по неудачно попавшемуся геймеру в теле игрового персонажа (пообещав вернуть в прежнее тело на Землю при наличии должных достижений). А я теперь вот о чем думаю: а что если эти личности геймеров - изначально не оригиналы, а копии, и куда их в таком случае возвращать? А они-то об этом не знают... Впрочем, Трурль и Клапауций - существа честные :)
Что-нибудь типа принципиально, на уровне физических законов не копируемого (и разрушающегося при полной остановке или попытке изучения) blue box с квантмехом внутри довольно популярно уже в НФ.
Ну и что-нибудь в духе "как бы ASIC" с однократно конфигурируемыми связями и без возможности нормального (и тем более неразрушающего) копирования есть, будет и популярно местами...
Desmоnd
Вообще-то, в ОП-посте я говорю как раз об обратном.

> Сколько сейчас есть различных устаревших контроллеров, прог на допотопных осях, которые поддерживают с помощью различных костылей? Особенно к специализированному оборудованию?
> устаревших
Ключевое слово.

П_Пашкевич
Не читал, хех.
Возвращать - туда же, куда хотели бы вернуться оригиналы. Конечно, оригиналы от этого удивятся, но... =-)

Marlagram
Ну да, собственно, именно поэтому это в НФ и популярно.
Marlagram
Ну, если привлечь ещё и квантовую механику, то мы рискуем прийти к идее о неизбежном влиянии процесса копирования на содержание объекта (уж если даже наблюдатель влияет, а тут ещё и действие осуществляется).
П_Пашкевич
Хех. Прикольная идея!
StragaSevera
Забавная идея. Оригиналам вряд ли понравится :)

Upd: это я о возвращении копии туда, где уже есть оригинал :)
П_Пашкевич
Ну, мне бы понравилось. Но я вообще странный, хех, и немножко нарцисс ;-)
StragaSevera
У ГГ там как раз весьма сложный этап отношений со своей дамой...
П_Пашкевич
Ну будут они даму навещать по очереди, хех ^_^ Шучу, конечно.
(А был бы это хентай, то навещали бы и не по очереди, и даме бы это понравилось ^_^)
StragaSevera
Представил себе всё это... Не, такой фик я все-таки писать не стану :)
П_Пашкевич
А жаль. Такого кинка с "физическим раздвоением личности" я еще не видел ;-)
StragaSevera
Интересно, Янус Полуэктович в "Понедельнике" женат был?
П_Пашкевич
А-Янус - возможно. У-Янус - вряд ли. Но они и визуально были разные, и личностно =-)
StragaSevera
И все равно были одним и тем же человеком. Оригинал и копия тоже сразу же начнут накапливать различия, а У- и А-Янусы незадолго до начала этой самой контрамоции будут тоже чрезвычайно похожи.
П_Пашкевич
Парадокс Тесея, хех. Прямо незадолго до начала - будут. В описываемое время - точно нет.
StragaSevera
С оригиналом и копией ситуация в чем-то похожа. Только, в отличие от Янусов, с течением времени сходство будет не нарастать, а уменьшаться
StragaSevera
А тут вся тема разговора вокруг этого парадокса и вертится :)
StragaSevera
Ну будут они даму навещать по очереди, хех

П_Пашкевич
Представил себе всё это... Не, такой фик я все-таки писать не стану :)

StragaSevera
А жаль. Такого кинка с "физическим раздвоением личности" я еще не видел ;-)

Напоминаю про нарутофики и технику теневого копирования с всеми фанонными производными - и да, емнип PWP на тему более чем популярно "в кругах"...
:-)))
Marlagram

Ну, я-то в эти круги не вхожу - могу быть и не в курсе :)
П_Пашкевич
Факт, согласен.

Marlagram
Хыхыхы, ничто не ново под луной, выходит ;-)
Desmоnd Онлайн
Marlagram
В Наруто происходит реинтеграция после рассеивания клона. Там нёх, чакра, проблем не возникает.

Более того, у Наруто не возникло проблем с реинтеграцией темной шизы на водопадах правды.
FluktLight
Напомнило мне видоизмененный углерод - у каждого человека чип в башке, на который он регулярно бекапится...
А между звёздами путешествуют в основном путем пересылания содержания бекапа...
FluktLight
А насчёт ИИ, зависит от метода реализации...
Нисходящий возможно (пусть я сомневаюсь в ИИшности такого ИИ), а восходящий... Думаю что вряд-ли, учитывая что скорее всего он будет постоянно изменятся в реальном времени, а копирование вряд-ли будет мгновенным...
FluktLight
> скорее всего он будет постоянно изменятся в реальном времени, а копирование вряд-ли будет мгновенным
Клиническая смерть, хех.
Desmоnd Онлайн
FluktLight
Хотел это дело помянуть, но решил не делать.

Там не бекап. Там основная аппаратная платформа на инопланетной нёх - это и есть сам человек, а непрерывность обеспечивается на чипе.

А бекапы там тоже есть - олигарх, которому уничтожили чип. Но это получается не сам олигарх, а его духовный наследник.
Desmоnd Онлайн
StragaSevera
Ещё раз напомню, что во время клинической смерти работа мозга не прекращается.
Desmоnd
Что такое "работа мозга", начнем с этого? =-) Не циркулярное ли это определение?
Напомню что тема - философский боян и зовётся проблемой тождества личности.
финикийский_торговец
Напомню, что можно прочитать ОП-пост, который касался литературной проблемы, а тождество личности развернули комментаторы.
И да - личность это процесс, ибо тело - корабль Тесея и "мыслительные эксперименты" с половиной атомов это демонстрируют ещё лучше.

Напоминаю, чтобы если кто не интересовался, то мог найти все боянные аргументы и контраргументы.
Desmоnd Онлайн
StragaSevera
Протекание электрохимических реакций, кмк. И клиническая смерть содержит слово "клиническая" до тех пор, пока не начинаются из-за кислородного голодания, необратимые изменения в работе этого органа.
Desmоnd
Ок. Если не отключать ИИ от питания, а просто засуспендить, то электрохимические реакции в нем продолжат происходить ;-)
А если серьезно, то это и есть циркулярность. То есть клиническая смерть клиническая, если пациента удалось воскресить. А если не удалось, то она сразу же не клиническая.
Desmоnd Онлайн
StragaSevera
Если не отключать, а устроить супенд штатными средствами, то уверен, да.

Что касается клинической смерти, то там где электрохимические реакции прекратились, поможет разве что спелл Raise Dead.
Desmоnd
О том и речь. Именно поэтому определение циркулярно.
Ну тот же Проскурин писал про копируемые (с возможностью мерджа) ИИ, и вроде неплохо же получилось.
Fluxius Secundus
Интересно. Он писал _про_ них, или использовал их как фокальных героев? И, да, насколько они были в восприятии читателя хуманизированы?
В Ганц вообще людей телепортируют методом разборки и сборки с возможностью повтора - и иногда забывают разобрать оригинал.
Fluxius Secundus
Почему только иногда? =-)
StragaSevera
Не совсем уловил разницу.
Полностью хуманизированы. Более того, что герои именно ии, а не персонажи фэнтези - они узнают уже в последней книге трилогии:)
FluktLight
Вспомнил, ещё в Черном Зеркале было нечто подобное...
Второй сезон 1 эпизод.
Fluxius Secundus
Я про то, макгаффины ли они.
Спасибо, надо посмотреть-с.
Один из самых простых способов хуманизации персонажа-ИИ - сделать это невозможным

Пойдем обратным путём - копируемость человек его дехуманизирует? Так что это такой обман - придание ценности конкретной тушке дроида/ИИ.
StragaSevera
Потому что телепорт в норме разбирает (с возможностью коррекции) переносимое и может заново собрать убитого ганц-воина по бэкапу, если кто-то потратит на это сотню очков. Но одну героиню он сначала отсканировал, а потом ее откачали (ганц копирует случайно погибших, чтобы использовать их в гладиаторских боях с набежавшими на Землю ксеносами и одновременно готовить армию от полноценного ксеносов вторжения), и в итоге копия жила у ГГ дома.
StragaSevera
Все равно не понял. Макгаффин - это предмет квеста же?
https://fantlab.ru/work104393 - вот эта штука.
финикийский_торговец
Да. Если в слово "хуманизация" вкладывать литературный смысл, один из аспектов которого - удобство ассоциации читателя с персонажем.

Fluxius Secundus
Ну и почему через этот телепорт не наклепали тысячу копий самого лучшего бойца?..

Короче, вкратце - я спрашивал, объекты эти ИИ или субъекты в литературном смысле.
Спасибо, гляну!
StragaSevera
Потому что его контролировали сказочные, сказочные долбоёбы.
Субъекты, конечно.
Fluxius Secundus
В том-то и беда, что я не верю в сказочных долбоебов, если их сказочность явно не подчеркивается автором. К вопросу о том, почему автор должен проговаривать вещи, очевидные для него.
Именно поэтому, читая любую историю про ИИ, я регулярно восклицаю - так почему его не скопировали или он сам себя не скопировал, блин? Это помогло бы решить задачу Х или спасти персонажа Y!
И ответ обычно - "потому что автор об этом не подумал".
StragaSevera
Да нет, там (в ганц) за километр видно, что долбоебы.
В Хоббите герои возможностью бэкапа не пренебрегают, когда она становится доступна.
Fluxius Secundus
Понимаешь, меня очень бесит, когда мне кажется, что видно это только мне, хех. Может, это чисто мой сквик, не знаю.
Desmоnd Онлайн
StragaSevera
Ну, "автор не подумал" - это типичная интернет-телепатия.

Уверен, что копирование ИИ - это в любом случае сложный процесс, требующий не только аппаратных возможностей, но и приводящий к достаточному вороху проблем.

Ну и даже когда серваки бекапят, которые по сравнению с теми ии - просто деревянные счёты, при разворачивании часто возникают мегатонны боков. И виртуализация - тоже не всегда выход.

Меня другие моменты в книгах с ИИ бесят. Когда ИИ кочует с платформы на платформу - хош в сети через модемы по всему миру сидит, хош на кофеварке с блютузом притаился.
Desmоnd
Факт. Но ее не выключить, хех.

В том-то и дело, что это БУДУТ пытаться и БУДУТ получать эти проблемы. Они могут даже упоминаться всего парой слов, но...

Блютузом до точки доступа в сеть, а там по API? ;-)
FluktLight
Desmоnd
Это как в старой доброй НФ, ИИ на аж 4 мегабайта(!)...
FluktLight
Хех. Скоро можно будет делать жанр, "ретрокиберпанк" =-)
FluktLight
StragaSevera
А ещё часокиберпанк)
(Рассказ по которому сняли Живую сталь)
FluktLight
Ну часокиберпанк - он уже давно есть, хех. Вспомните Кагановскую "Жесть" =-)
А вот ретрокиберпанка - как аналога ретрофутуризма - я не видел. А жаль, я бы почитал про хакера, съежившегося в нише мусорного бака на темной улице, бьющего пальцами по кибердеке и молящего, чтобы никто не услышал звука соединения на 33600 бод...
FluktLight
StragaSevera
Хакер что не может убрать динамик?
Хреновый хакер...
FluktLight
Ретро - суть эстетика. Эстетика ведет за собой технологии, а не наоборот - в кибердеках звук соединения производится не динамиком, а является неприятным, но неустранимым побочным эффектом ;-)
StragaSevera
Хех. Скоро можно будет делать жанр, "ретрокиберпанк" =-)

В музыке, клипостроении - уже. В кино похоже вот-вот.
С литературой сложнее, да.
Desmоnd Онлайн
StragaSevera
А могут не пытаться, потому что по дефолту знать, какие это проблемы. Как у нас при перетаскивании добра с компа на комп почему-то говорят об разных документах, конфигах и домашней папке, об установке программ/пакетов, но никто не говорит, даже парой слов, об архивации программ существующих и разворачивании на новом компе, и даже об сложностях с этим связанным.

В своё время неоднократно ловил от подобных тем в комментах фейспалмы. "А чо герой не сделал вот так. Афтарнипадумал!" У меня два фика есть, в которых я с трудом удерживался от ответа "Афтар не подумал о том, что среди читателей бывают долбоёбы ну вот настолько".

Не знаю, что мешает читателю воспринимать очень многие вещи как данность сеттинга, а не приплетать знания нашего мира о физике, магии или там айти".
Кстати, очень часто в дело вступает и жопочтение. Потому что о многих вещах автор сказал в других местах.

Это не тебе лично - т.к. обсуждение не предметное, а сферическое в вакууме, но всё же.
Desmоnd
*пожал плечами* Другая сторона медали, конечно, но все же my point still stands.
Desmоnd Онлайн
StragaSevera
Ну, автор хочет показать совсем не то, что некоторым читателям хочется увидеть - это, я думаю, верно с того самого момента, как на стене первой пещеры поставили первую карлючку.
Desmоnd Онлайн
финикийский_торговец
Ахахахахаха, похоже, сегодня буду смотреть кино. Как-то упустил этот фильм. Хотя, казалось бы, Мэл Брукс, перевод Михалёва. Горе мне.
Обсуждение натолкнуло на идею для кибер-фентези: души как софт, боги как копирайтеры, и некроманты как своеобразные пираты. )))
FluktLight
Asteroid
А клирики официальная техподдержка.
Маги - хакеры.
Asteroid
Некромант - это, вероятно, тот, кто снес с ноута предустановленный линукс и накатил винду. Или наоборот - в зависимости от вкусов автора.
Некромант - это специалист по восстановлению данных с поврежденных носителей.
финикийский_торговец
Нет, это кто-то родственный, но другой. Ну, как называется тот, кто умеет читать мысли покойников, не поднимая их самих? Медиум, что ли?
FluktLight
П_Пашкевич
Спиритик?
FluktLight
Вот, видимо, он.
П_Пашкевич
Вообще некромантия - это умении общаться с мертвыми, форма гадания - как и всякая мантия. С зомби и нежитью не связана примерно никак. Но штампы из фэнтези...

Медиум - отчасти некромант.
финикийский_торговец
А ведь и верно...
финикийский_торговец
>Вообще некромантия - это умении общаться с мертвыми

Некорректное высказывания. Никакого "вообще" не существует. Есть только разные смысловые наполнения понятий, отличающиеся у различных групп людей в разные времена.
Сейчас большинство людей представляет некромантию отнюдь не как умение общаться с мертвыми.
Маги - опытные пользователи, потому что на главное они не покушаются.
Некроманты же посягают на копирование и вообще работу с тем, что принадлежит богам - на души. Например, изготавливают всякие говорящие артефакты.

Боги не сдаются и производят привязку к "железу".
Некроманты находят способ обмануть привязку - для этого надо вырезать ключевую часть железа. Поэтому человеческий череп становится классическим признаком некроманта.
И т.д. и т.п.
FluktLight
Asteroid
И хребет, как графический вычислитель.
Как всегда у меня бывает - придумывается классный мир. с деталями и прочим. И всё. Потому что приключать в нём героя мне абсолютно неинтересно. Интересен только сам мир, идея.
ПОИСК
ФАНФИКОВ











Закрыть
Закрыть
Закрыть