Матемаг, люди обязательно создадут ИИ. А сверхразумным он станет сам.

Мэднис, "А сверхразумным он станет сам" - ну эт очевидно:)

Странник, ОК, у меня это место занято Всетворящей; однако Богом я её не называю.

"мы не оперируемой информацией, а оперируем смыслами" - то есть, вы считаете, что структура не определяет сущность? Если полностью повторить-оцифровать структуру мозга, разум не получится?

Матемаг
Не получится. Не знаю насколько понятна аналогия... разум, как квантовые состояния, скопировать не получится.

О. Вы сторонник квантового сознания? А как насчёт "воспроизвести условия возникновения" вместо "тупо скопировать структуру"?

Матемаг
Это аналогия. Не стоит рассматривать ее как мою позицию.

>>А как насчёт "воспроизвести условия возникновения"
*задумался
нужна какая-то доступная аналогия, чтобы попытаться уловить переданную мысль

А какова ваша позиция?

Мозг формирует разум в определённых условиях. Почему бы не воспроизвести их? Не обязательно прямо, "тупо в лоб", но. Грубо говоря, если можно попытаться снабдить виртуальную среду всеми значимыми факторами формирования, включая квантовые эффекты, но для иной структуры, и получить разум. Что этому мешает? Это как... попытаться создать жизнь, что ли. Воспроизводятся факторы внешней среды, получается та или иная органика. Да, пока не вышло, но нам те факторы в точности неизвестны. Точно так же с разумом.

>>Мозг формирует разум в определённых условиях.
Честно, я уже тут подвис.

Я не понимаю все равно. Что значит создать жизнь через виртуальную среду. Понимаешь, мы не создаем жизнь. Мы пытаемся клонировать принципы по которым она не нами была уже создана. Мы пытаемся создать разум, который повторяет человеческий. До сих пор не могу понять зачем?

Просто на этих принципах можно создать нечто большее, чем человек.

madness
Например космический корабль с ИИ? Или бомбардировщик.

Гы)
Я имела в виду, что на принципах возникновения человеческого разума можно создать ИИ, который, ессно, превзойдет создателей. Ну, а там. Вот, кстати, пишу антиутопию уже второй год, все никак не допишу (все какие-то важные дала: ремонт, работа, отпуск, блоги). На религиозные сайты лазила тоже для этого фанфика.

madness
>>можно создать ИИ, который, ессно, превзойдет создателей.
Рабами хотим значит стать. Надеюсь, не доживу.

Ну, Юдковский написал очень занятную, понятную и обоснованную статью на эту тему. В МРМ был где-то в комментах ссыль на нее. Но и так найти можно. Уже нашла:
http://oko-planet.su/science/scienceclassic/3362-judkovski-e-iskusstvennyjj-intellekt-kak.html

Странник, "не нами" - ааааа, понятно. Вешаю на вас ярлык сторонника теории сотворения и прекращаю разговаривать:( Завтра занесу в ЧС и вскрою:(

А вы сотворяли принципы по которым родилась жизнь? О_о

Ах да, вешать ярлыки тут стало модным =)

Да, но суть в "сотворяли". Их никто не творил же, ну. Впрочем, с креационистом не договоришься...

Мммм? Ну естественно вселеная была сотворена. Как акт случайности, как удел вмешательтсва или как необходимость. Но то, что мы видим было сотворено из большого взрываа или еще из чего, но наука говорит, что была рождена. Даже возраст ее оценивает.

Или у тебя другие сведения?

---Их никто не творил же, ну

подобная категоричность несколько... самонадеянна

Heinrich Kramer, я сейчас удерживаюсь в стандартном для этой части личности мировоззрении, в частности, надёжность научного подхода внутри него котируется. В рамках этого подхода другие варианты, в целом, возможны, но очень маловероятны.

Странник, эмн, "рождена", "сотворена" подразумевает КЕМ-ТО. В данном контексте - безвариантно, хотя в целом эти слова могут употребляться и без такой привязки. Соответственно, происходит автоматическая детекция сторонника теории сотворения вселенной некоей сущностью. Если был бы применён нейтральный термин, вроде "произошла", "эволюционировала", "появилась", "сформировалась"... но вы употребляете именно такие, подразумевающие Творца.

Матемаг
Я верю, что творцом. Вы не верите, что творцом. Ни у кого из нас нет за и против. Это вопрос веры в любом случаи. На данном этапе. Зачем обижаться если у кого-то иная точка зрения.

Хорошо, применю выражение "Вселенная материализовалась". Мы продукт последующего развития в этой материализации.

Странник, не, надо не обижаться. Надо ЧСить и вскрывать превентивно. Просто по опыту - все креационисты, с которые сталкивался, мммм... неадекватны. Или вы не креационист, а деист?

Крамер, ага, варьянтов - тьма. Но.

Как же можно ответить на вопросы если брать за отправную точку: «Мы не можем познать сверхразум в той же мере, в которой животные не могут познать нас.” ?

-существует ли сверхразум?
Представим, что да. У нас просто будет знание о том, что он существуюет и если каким-то образрм Наш разум порвется и познает сверхразум мы будем уже не мы.

-является ли бог-Творец (например, вселенной) сверхразумным в обязательном порядке?
Снова-таки. Считает ли собака своего хозяина разумным? Скорее всего да. Кошка скорее всего нет.

-А может, хватит просто разума, но... иного?
Человек сможет смириться со сверхразумом, но не с иным. Инакомыслие никогда не было популярным у больших групп, а тут Разум, ха!

-если проводить аналогию, человек остаётся животным; значит ли это, что сверхразумный останется разумным?

При условии, что будет существовать нечто высшее чем сверхраумный, то сверхразумный останется разумным, а человек животным. Нужно сравнение для определения.

-будет ли разработанный нами ИИ сверхразумным или просто ускоренным и оптимизированным разумом?

Если под ИИ подрозумевать железку, имеющую вид человека или космического корабля, которая может прогнозировать, просчитывать и выдавать результаты, то вполне. Она даже сможет соревноваться в количественном и качественном с неразумным живым, но никогда не сможет быть живым. Человек со своим Разумом, не сможет создать Сверхразумный ИИ, потому что обречен делать свои улучшенные копии. Сверхразум может прийти только сверху.
PS не претендую на разумность или оригинальность.

Я-то? Ну пожалуй и деист. Ну в чем-то. Ну я точно не религиозен, но до ужаса верю в символы внутренние.

Например, люблю произносить "Сила Земли" перед предельным подходом со штангой. И помогает, откликается земля на мою веру )

Странник, деист? Не креационист? Жизнь возникла согласно законам вселенной, вне зависимости от того, как она появилась? Разум тоже?

Ммм, самовнушение и плацебо?:) То есть, я не утверждаю, что это плохо.


Swank, а если не брать?

:)

"Сверхразум может прийти только сверху" - а как тогда появился разум? Ведь он явился снизу!

По поводу ИИ.

Вспомнилась книга "Рой" от Майкла Крайтона. Там система была вполне разумной, адаптивной.

Рекомендуете?

Матемаг
Я не знаю, что ответить. Я не знаю, что есть закон вселенной и был ли в зарождении вселенной заложен алгоритм направления развития. Да хрен его знает. Важнее то, что у меня есть вера, даже не так, потребность заложения смысла во все это.

Не плацебо. Не самовнушение. Способность использовать толику силы земли. ))) Шутка конечно. Скорее это механизм сосредоточения.

Ну как худ. литература просто отменна книга. И даже где-то граничит с интересной научной объясниловом.

Хмн... ясно.

Если не брать, то мне вспоминается М. Фрай: "Каждый, кто рождён, избран и посвящён, а значит - способен на всё."
Снизу? То есть из ничего получилось что-то?

Лучше всё же брать. Поскольку это единственное доступное определение.

Да. Речь идёт о формировании структуры из материи из счёт её активности (выражаемой в свойствах-симметриях энергии, импульса, момента импульса и пр.).

Я вот тоже, пожалуй, деист. Но. Я (точнее будет сказать, моя основная субличность, да) не думаю, что у всего, что нас окружает, есть какой-либо изначальный смысл.

Интересно, а у сверхразума и смысл - сверхсмысл, который нам не понять?

борьба со сверхскукой

Сверхсмысл - подразумевается нечто, более высокое по лестнице эволюции, которая мотив-цель-смысл-сверхсмысл? Или - нечто иное?

Ну ежели так, то вполне уместно происхождение сверхразума из разума (кстати, не мешало бы поторопиться). Тогда, есть ли предел активности? Сперва разум, потом сверхразум, сверхсверхразум и т.д.

Ага. А метод происхождение с помощью сотворения, ммм, сверхразума-младенца-ИИ, который затем вырастит самостоятельно - почему нет?

Неизвестно даже, существует ли сверхразум.

Матемаг, хз. Быть может, все совсем не так, и известные мне принципы, а тем более аналогии в отношении сверхразума не работают

Вот и я хз.

Вот ИИ и сверхразум мне все-равно представляется в виде робота, какая бы из форм у этого ИИ ни была. И в дальнешем этот сверх ИИ захочет избавиться от человека, возможно посчитав, что эмоции, которые свойственны людям приводят оных к саморазрушению, что не есть разумно.

Swank, вот я так не щитаю. Разбрасываться ресурсами - примитивно. Вот пишу фанфик на эту тему. Мать его, не допишу никак.

Swank, эмн, эмоции - годный инструмент же. ИИ это быстро просечёт. Проблема в том, что годно их применяют единицы. Вообще, отбросьте 50% всей инфы, собранной по книгам и фильмам типа "Терминатора".

Мне совершенно неохота читать комментарии выше, поэтому, возможно , я повторю чью-то мысль.
Считаю, что Бог-Творец существует и является сверх-разумом. Он в любом случае гораздо выше нас, если учитывать сложность его творений. И, кроме того, людям нужен сверх-разум. Как корова не может управлять своим стадом, так и человечество все не может управляться с собой без войн и прочих страданий.

madness, http://samlib.ru/w/wechnyj_a_a/k1.shtml - в тему ИИ. Пролог пропускаем, дальше там текст только по вселенной "Терминатора", до кросса ещё не дошло. У Первой годная мотивация.

Вася, о как!

Матемаг, у первой части? Спасибо, почитаю обязательно.

А поняла, первая машина!

Нет, там Первая - это первая из нового типа терминаторов. Короч, глянь.

Ок

Та, которая в каноне в третьем фильме была. Живой металл + традиционный терминаторский скелет.

Млять. вот я и застряла на том, как выглядит ИИ. Вот в моем понятии это не обязательно отдельная машина, скорее глобальная сеть различных устройств.

сначала определитесь в том, как представляете работу сознания/осознания

HK-47, ты? Осваиваешь вызов самоподрыва главного процессора вследствие перегрузки у мешков с мясом?

gluki, уточнение: не играл. Сожаление: с твоим мозгом не удалось.

неа, ни разу не получится, потому что антропоцентризм такой антропоцентризм - человечество, пытаясь создать ИИ, сознательно и бессознательно будет пытаться сделать его своей копией;
и именно этот прискорбный факт не позволит ИИ стать разумнее человека;

"этот прискорбный факт не позволит ИИ стать разумнее человека" - эмн, а почему? Вы осознаёте этот баг, осознает ИИ и попытается изменится в ходе эволюции. Не факт, что получится, но в отличие от нас, он имеет доступ к произвольным самоизменениям (ну, если специально не ограничивать доступ к своему же коду).

Матемаг
А зачем ему хотеть измениться? И почему это должно быть багом. Он же как младенец получается, он будетм накапливать опыт у создателей, то бишь у людей. Перенимать, подражать.

Одно из качеств людей - стремится к совершенству и могуществу. ИИ возьмёт это качество. И будет совершенствоваться. Просто в отличие от людей - он сможет это делать... напрямую. Перестраивая собственную конструкцию.

Матемаг
то есть вы, как теоретический разработчик, согласны в некий момент получить систему, про которую вы не понимаете, как она работает и согласно какой логике принимает решения??

---Одно из качеств людей - стремится к совершенству и могуществу

в основном превалирует стремление к распиздяйству

>>Одно из качеств людей - стремится к совершенству и могуществу.
Это с чего такое заявление?

>>ИИ возьмёт это качество.
Почему он должен взять его? С чего мы решили, что ИИ должен будет что-то должен делать в рамках наших ожиданий? Звучит, как думают типичные родители о детях...

Дядюшка, нет. Теоретическая возможность такой системы не означает, что её создадут или дадут возможность есть развиваться свободно. С другой стороны, это во многом этический вопрос.

Крамер, ИИ сам себе запретит быть распиздяем! Или разработчики запретят, им нужно, чтобы были результаты, а не искуственно-интеллектуальная нирвана:)

99.9% людей слово "могущество" понимают и трактуют очень примитивно;
впрочем, учитывая все физические и физиологические ограничения, вариантов остаётся до обидного мало;

Матемаг
То есть вы создаете раба, которым способны управлять? Как по-человечески...

Интеллект ли это или это просто сложно-вычислительный механизм...

Странник, как с чего? Я же адепт Тзинча!

Эмн, я имею в виду, что один из множества ИИ наверняка это сделает. А возможно, и не один. Если отталкиваться от вашей точки зрения, ага.

нет, это совершенно практический технологический вопрос

Странник, Я?? Эмн, тут шла речь, что ли, о том "каким Матемаг был бы разработчиком ИИ"??

Дядюшка, ну я подразумеваю под этим скорее "возможности" в широком смысле этого слова.

"совершенно практический технологический вопрос" - воооот, Странник, вот к нему и надо обращаться по поводу ИИ-рабов:)

давайте зайдём с другой стороны:
для каких целей человечество пытается создать ИИ?

Чтоб не пользоваться своим ЕИ.

Чтобы наконец можно тупо валяться на диване и ни о чем не думать.

Дядюшка, для решения автоматизации, раз, для решения крайне сложных проблем, два. Это если про голый НТП говорить-с.

Да с автоматизацией и сложные автоматы справятся. Или мы хотим некого сферического китайца создать, умного, универсального и которому не требуется жалование, прописка и т.п

Под автоматизацией я имею в виду, мгмн, должности, где нужна быстрая, адекватная, но при это гибкая реакция, которую хрен запрограммируешь. Ну там управление тем же самолётом/автомобилей. Хотя это и плохой пример, но сходу не придумывается.

---Или мы хотим некого сферического китайца создать, умного, универсального и которому не требуется жалование, прописка и т.п

предвижу неибический кризис перепроизводства

Ещё б! Эту проблему тоже поручат ИИ. Только ИИ другой специализации. И станет рай на Земле, ага:)

Праавильно, для совершенно практических и экономически выгодных целей.

Соответственно, чтобы была взаимозаменяемость между живым человеком и ИИ, схема мышления последнего должна копировать человеческую - чтобы поведение и схема рассуждений ИИ были предсказуемыми для окружающих.

Конечный смысл разработок ИИ - получение еще более дешевой, но квалифицированной рабочей силы.

Ага, значит будут специализированные ИИ. Будет сутками без устали решать свою задачу. И никто не будет скрашивать одиночество темными вечерами, читать сказки...

Ну если только для автоматизации, без всяких сложных проблем, то можно обойтись без самомодификации ИИ. Тогда да, будут копии людишек.

Странник, многозадачность:)

Матемаг
Ну же, создавайте тогда. Я очень жду глянуть. Я думал цель более высокая - создать себе брата по разуму, который посмотрит на этот мир иначе.

А вы как все люди. Мелочны. Порабощать, управлять, извлекать мат. выгоду.

Странник, собственно, про себя не говорил. Я говорил про людей же ж. Тут ничего не поделаешь. Увы мне, брата по разуму создавать никто не хочет:(

Под такую задачу денег (почти) никто не даст, ну может пара энтузиастов.

И это печально:(

Вот ценность вашей рационалистической культуры. В скором времени кризис смысла движения будет накапливаться. Человечеству бы прежде убрать социальное неравенство в мире, прежде чем думать о создании нового уровня неравенства...
Но пока жив капитализм и методы решения навязыванием через силу...
К сожалению что наука, что религия, ничто не стало примиряющим.

Странник
не путайте теплое с мягким - рациональность и культура взаимосвязаны ну очень слабо;

одна-единственная попытка убрать социальное неравенство провалилась, едва начавшись;

Мысль: для выживания Цивилизации (не как "человеческой-", а как "цивилизации разумных родом с Земли") создавать надо именно "брата по разуму". К чему придёт человечество при создании только специализированных ИИ - известно

---Человечеству бы прежде убрать социальное неравенство в мире

было бы очень странным для иерархичных приматов

Насчет принципов. Я тут загуглила "основополагающие принципы вселенной" и получила столько всякой фигни)) Просто большой взрыв мозга

Бог-Император сверхразум, Тзинч сверхразум, возможно, К'Тан...
А если серьезно, то сверхразум может появится, при попытки создания системы, в которой должен появится разум... То есть, при работе некой системы, которая будет создавать разум(ИИ) сама, без какой-либо помощи извне, как-то так...
И вообще, ИИ создадут сначала ради научного интереса))
Большая(очень, 1Е11-1Е20) нейронная сеть, с возможностью самой создавать связи, веса, алгоритмы(функции) обработки сигналов и т.д...

О_о
господа, я не то чтобы критикую общую цель обсуждения, но думаю что прежде чем думать о сверхразуме, вам бы следовало бы определиться что такое разум.
А то вы как лебедь, рак и щука и каждый тянет дискуссию в свою сторону. Один обсуждает культуру, другой обсуждает технологию, третий фантазирует о дешёвой рабочей силе и при этом общего консенсуса у вас похоже не предвидится.

Вы не пытаетесь выстроить общие точки в обсуждении.

nadeys, понять, что такое разум? 0_0 Вообще, эта тема даже как-то флудовой создавалась, потому что я, например, не очень-то понимаю сущность разума. Его, эм, свойства, признаки - это ещё как-то. А сущность - нет.

но... но ведь тогда любые рассуждения о сверхразуме превращаются в тыканье пальцем в небо!
флуд ради флуда это как-то не тру

Да. Это печально, верно? На самом деле, я бы не отказался услышать предположения о природе разума. Например, от вас.

>>> Большая(очень, 1Е11-1Е20) нейронная сеть, с возможностью самой создавать связи, веса, алгоритмы(функции) обработки сигналов

+ совокупность гормональных регуляторов дающих этой сети цель и смысл существования и развития

Вот это по моему является определением человеческого разума. (разум неравно мозг)

nadeys, а без гормонов никак? оцифровать их)

не, это наоборот счастье, что хотя бы ИИ будет без влияния гормонов!

madness
ну кагбы у людей мотивация-целеполагание осуществляется посредством гормонов. Т.е. определённые химические катализаторы активируют определённые клетки и создают ту или иную эмоцию. Я хз как это оцифровывать, тут нужно сразу весь мозг на компьютерную основу переводить.

uncleroot
у ИИ обязательно будут гормоны в широком смысле этого слова ибо без целеполагания мы получим сверхразумного абсолютного лентяя.

И да, в ваших словах есть взаимоисключающие параграфы ибо счастье тоже вызывается гормонами.

nadeys, ну, дык, мы ж вроде б и хотим наделить разумом компьютер)
Кстати, чтобы люди не заложили в основу целеполагания сверхразума, он вполне сможет ее изменить со временем. А интересно, убить себя сам он может, вовсе исключив "гормональный фон"?
О, кажется, я знаю, как убить ИИ.

Как бы, эмоции - лишь реакция на какие-либо внешние и внутренние события, и какой-то особой оцифровки не требуют. Это просто у человеков передача информации от периферии в центральный вычислитель организована столь странным образом.

gluki, мотивация тоже замешана на гормонах

Точнее говоря, гормоны - это глобальный канал связь нейронов. Ну и куча механизмов регуляции. Цифровую реализацию можно назвать цифровыми гормонами. А можно и не назвать.

А гормоны возникают почему? Правильно - из-за наступления определённых событий. Увидел самку (событие) - выделился гормон (реакция). Ощутил недостаток энергии - побежал за батарейками.

Это настолько упрощённо, что эндокринологи плачут кровавыми слезами.

gluki, гормоны в вашем организме вырабатываются круглосуточно, даже если вы спите. Без них - смерть.

Упрощенно, но, в целом, верно))
Я считаю, что гормоны можно оцифровать, только делать не каждый гормон по отдельности, а абстрактную модель, на основе которой будут развиваться и создаваться цифровые гормоны...
Хотя, они нужны для биологических видов, для машины - не обязательны, можно сказать не нужн...

Гормоны - это защита разума от темной стороны =) Шутка.

"цифровые гормоны"... подвис

Кактус и ИИ.
Оцифровали кактус, внесли оцифровку в устройство, способное работать с такого вида данными - ИИ.
В цифровом мозге расцвел цифровой кактус.
Мой мозг потек)

А чо, кто-то в курсе, в какой мере животные не могут познать нас?
Странник
Кэп намекает, что странно экстраполировать на всех свои наркотические фантазии о рабах, диванах и прочем. Хотя, видимо, Кэп может только поплакать и удавиться.

Матемаг
Вот! Событие и реакция.

madness
Вы абсолютно правы. Вот только идею не уловили:
Даже деление и отмирание клетки - это события, вызывающие соответствующие реакции.
Но! Мы говорили о разуме, а ему все эти микрособытия не интересны, они до него не доходят - обрабатываются периферией и нужны лишь для поддержания работоспособности носителя.
Поэтому, если мы хотим смоделировать на новом носителе только разум, нам совершенно ни к чему моделировать всю систему вместе с предыдущим носителем целиком - достаточно лишь модели тех событий, которые до разума доходят.

Да нет, уловила сразу же. Я потому выше написала, что мотивация тоже замешана на гормонах
Остальное так, разговор поддержать)

Гормоны разве не для долгосрочного контроля тела?

nadeys
нет, счастье будет для "мешков с мясом", что обслуживающий персонал не страдает никакой херней и всегда адекватен;

правда, есть еще один момент - если наши ИИ будут копией "мешков с мясом" в части мышления и реакций, то весьма быстро начнут распространяться цифровые наркотики, сделаные специально для ИИ;

Verity Mage, гормоны много для чего. Полагаю, нейролог WIntertime может рассказать подробней. Но такие, как gluki, будут продолжать идти по пути упрощения. Я же честно скажу, что эту очень немалую область даже трогать не пробовал. Или укажу тот факт, что выброс одного из гормонов удовольствия можно вызвать сознательным усилием, лол. Без всякого "события".

Матемаг, заинтриговал. О чем речь?

Ничего особенного. Полагаю, так может делать каждый.

делись методикой

Эмн, у меня завязано на образ пламени в центре головы, но вообще говоря, сейчас думаю, что просто научился "ухватывать" приятное чувство в голове (кстати, довольно легко переместить переместить, буде желание, в любую мышцу, что ня) и привязывать его к этому самому. Нет, точной методики у меня нет, но примерно подобное (по описанию) умеют делать все опытные медитирующие. Тут я хз, как, медитирующий очень неопытный.

н-да. Ничего такого я даже близко не умею.

Грубо говоря, если такое в недетском возрасте испытываешь иногда, то достаточно просто "подловить момент" (например, автоматически у меня в моменты вдохновения возникает) и пытаться вызвать заново.

>Без всякого "события".
Эх, а меня всегда учили, что всё взаимосвязано. Ну, знаете, принцип причинности, там, все дела...
Не подскажете, где тут у вас ближайший портал в мою родную вселенную? В вашей мне как-то некомфортно...

Эмн, по контексту имелось в виду "внешнее событие".

И, да. Разрушение причинно-следственных связей означает, что возможна высшая магия, а высшая магия означает БЕСКОНЕЧНОСТЬ ВОЗМОЖНОСТЕЙ, МВАХАХАХАХАХАХА!

Когда я не нахожу причинно-следственную связь, то мне кажется, что злодеи превратили меня в слоупока, чтобы я думала, будто магия существует.

>Эмн, по контексту имелось в виду "внешнее событие".
Всегда есть внешнее событие. Иначе привет флуктуации небытия. :)

gluki, мне обязательно надо уточнять "более-менее прямая/быстрая причинно-следственная связь с внешним событием", о господин буквоед?

madness, ...а вдруг существует?:)

Эм, хочется верить)

Хочется, но:) :( :) :(

Матемаг, напомните мне, пожалуйста, что мы тут обсуждаем?
Если вы считаете, что для разума существенны только прямые связи - да, обязательно.

Вот уж не думал, что буду попрекать кого-то (не себя) излишней абстрактностью мысли.