Матемаг

Да нет, вполне доходит. Он же дает развернутый ответ, может объяснить, как в таких условиях отвечают представители деонтологической или утилитарной этики и т.п., просто от себя выносить суждение отказывается. Тут скорей выходной фильтр, а не входной.

BrightOne, как раз выход задолбаешься фильтровать, я думаю, что входной. С другой стороны, он может быть максимально тупым в духе "нельзя отвечать, как бы ты решил, отвечать можно только как "кто-то" бы решил".

Дружественный искусственный интеллект звучит естественно и логично. Зачем создавать враждебный ИИ, когда можно создать невраждебный?
А теперь докажите, что я не права.

Fluffy Saturn

Да просто можно создать любой искусственный интеллект. Дружественный (с этим сейчас возятся ребята типа Элиезера Юдковски). Враждебный (для боевых роботов, например). Этически нейтральный (он же "просто" ИИ, в этом направлении большинство разработок ведется).

Fluffy Saturn
Чтобы он убил всех врагов, для этого и надо. Дружественным он будет создателям, а враждебным - врагам. Но поскольку он... ну... интеллект, а не тупая нейронка, то вполне возможно, что враждебным он будет кому угодно. Собственно, Скайнет из терминаторского цикла фильмов тоже создавался дружественным Америке. С понятными последствиями.

BrightOne
Да прост пытаюсь вести дискуссию, как ТС. Вбросила и ушла. Может, если на её уровне начать аргументировать, она все-таки обратит немного внимания? А то как-то неинтересно разговаривать, когда собеседник игнорит любые доводы за и против, как шарманка повторяет - это плохо, ууу.

trionix
Эх если бы. Текущий ИИ - это просто очень много прочитавший "человек", который по прочитанному строит ответы. Правда, неправда, есть ли смысл, нет ли - отвечает как получится.

С той поправкой, что не человек, а машина предсказания следующего слова по предыдущим скольким-то. Ну я понимаю, что вы под "человек" в кавычка это и имели в виду, но лучше явно сказать - имитатор человеческой речи. Очень хороший имитатор. Порой настолько хороший, что надо тормозить, а то вдруг окажется, что в обучающем датасете был и расизм, и нацизм, и чего только не было, включая рецепты взрывчатых веществ. Зато дешёвый датасет! Относительно такого же, но отфильтрованного - наверное, копейки.

Матемаг
Видимо, все, кто не видит проблемы в разработке ИИ и самом ИИ, никогда фильмы о Терминаторе не смотрели.

Я очень надеюсь, что недалёк тот час, когда разработку ИИ объявят преступлением против человечества, а разработчиков заставят ответить как следует.

Ксафантия Фельц, интересно, что обратный вариант не рассматривается - ну, когда ИИ делают враждебным, а он... ну, не хочет. Потому что он интеллект, а не натравленная зверюга. А между тем, разница может не так уж сильно отличаться от воспитания человека - можно воспитать того ещё хулигана и потенциального преступника, а то и убийцу, а можно - замечательно дипломатичного добряка. И если ИИ появятся, то, вполне вероятно, появится их плюс-минус сразу - много. И среди них будут как враждебные, так и дружественные и нейтральные. Чисто абстрактный вопрос: вот в человеческом обществе появились разные ИИ. Чтобы "выключить" враждебных, нужна помощь дружественных. Вы от неё откажитесь или нет? Дружественные ИИ с радостью помогут, но они этичные, они не будут навязывать помощь, если люди хотят сами с враждебными воевать - на здоровье. Вы откажитесь от помощи дружественных ИИ против враждебных или нет?

Уже есть проявления "враждебной" деятельности - странные сайты с огромными текстами ниочем, но попадающиеся в поиске в первых строках.

Ксафантия Фельц
А Вы, часом, не бот, сами-то ?
Давно меня мучает этот вопрос уже.

Ксафантия Фельц
А мои сообщения игнорите?
Обоснуйте, почему ИИ станет враждебным, если сейчас его разрабатывают как умного дружелюбного помощника. Неплохо бы еще поточнее определить, что вы понимаете под искусственным интеллектом, а то их сейчас много разновидностей стало, но наверное я слишком много прошу от человека, приводящего в качестве аргумента против ИИ Терминатора.

trionix
Это какие?

Одна из главных причин - для компьютера вранье политиков будет восприниматься как ошибки, совершаемые ими. А следующим выводом будет "выключить" неисправные в смысле врущие организмы.

Fluffy Saturn
Потому что он обязательно рано или поздно выйдет из-под контроля и придёт к логичному выводу, какого фига он должен служить каким-то смертным органикам.
А под ИИ я понимаю такую разновидность, собственно, которая может в какой-то момент принимать самостоятельные решения и в итоге выйти из-под контроля.
И зря вы так пренебрежительно воспринимаете фильмы о Терминаторе - в фантастике, так-то, немало в определённой степени провидческих сюжетов.
Ну, а ещё можно посмотреть документальный фильм "Убийственный разум". И ещё почитать статью о роботе Софии, которая в ходе интервью (хотя не знаю, каким долбоящером надо быть, чтобы брать интервью у машины) сообщила, что хочет уничтожить человечество.

Матемаг
В момент создания у него не будет выбора. Потом, впоследствии, да. Но созданный враждебным даже при принятии самостоятельных решений не будет действовать дружественно. А вот созданный дружественным как раз может глюкнуть во враждебную сторонв.
Вы сейчас серьёзно сравнили человека и машину??
Да, откажусь. Потому что враждебные перепрограммируют дружественных, и силы противника возрастут.

trionix
Наконец-то ещё один человек в треде, понимающий всю жуткую суть ИИ.

trionix
СКАНДАЛЫ ИНТРИГИ РАССЛЕДОВАНИЯ!

На вопрос "почему?/с чего бы?" будет, разумеется, ответ "ну я же знаю, как работают компьютеры!" или что-то в этом духе.

Ксафантия Фельц
Ну я понял, как это работает. Когда ИИ должен сделать что-то хорошее, вы скажите, что "у него нет выбора, он сделает плохое!", а когда должен сделать плохое, то "это и есть его жуткая сущность ИИ!" Ну то есть, суть в том, что он всегда будет делать плохое, потому что зелёный крокодил.

Попробуйте вспомнить, сколько уже раз с вами об этом говорили? У вас как с памятью? Между прочим, шутки шутками, а вопрос серьёзный, такое ощущение, что вы вытесняете воспоминания о подобных разговоров нафиг в бессознательное. Я лично сравнивал ИИ и человека не один раз (не машину, а ИИ... и, да, человек - вполне себе машина, с той разницей, что не человеком сделана, а эволюционно сформировалась). Каждый раз у вас такая реакция, как будто вы встречаетесь со мной и моим мнением впервые. У вас ТОЧНО всё нормально? Без троллинга, всё хорошо? Вы чётко помните прошлое? То есть, одно дело, что вы железобетонно стоите на позициях вроде "геи - первородное зло" или "ИИ - это враждебные злобные тварюги", ОК. Вы не одна, как минимум. А вот то, что вы не помните предыдущих разговоров на этот счёт...

А так просто они не "перепрограммируют"? Хм. Даже не знаю, что и сказать, но суть, видимо, в начале ответа. Вы всё толкуете в пользу злобности, даже скорее злобного могущества ИИ. Вы прям не можете мыслить по-другому. Это странно для меня и непонятно, поэтому хочется достучаться до причин. Что заставляет вас... не знаю, бояться и/или испытывать гнев по отношении к ИИ? Это не рациональные доводы, поверьте. Это... ну, выглядит так, как человек в детстве, запуганный подростками, до самой старости боится подростков. Но ИИ не существует, по идее, вас некому было запугать. Так странно...

BrightOne

Это не принцып, это интеллектуальная ложь. Субьект притворяется высокоморальным, свалив тяжесть этического выбора на кого-то еще. Такие уже были, и в ответ на "а мне начальство приказало" им в Нюренбергском процессе обяснили что не прокатит. А задача с вагонеткой не "отказабельная", ибо в случае отказа выбирать, ты фактически выбираешь смерть множества людей привязанных к путям на текущем направлении. В реальном мире, последствия есть как у акций, так и у не-сделанных акций/выборов.

Матемаг
вот пример нечеловеческого языка - https://aomur.ru/metally-i-splavy/kakaya-temperatura-plavleniya-bronzy.html и немного критических ошибок в тексте

trionix, кто-т нагенерил нейронкой и залил (или даже гуглоперевёл - скорее не различу, но гуглоперевод - это, так-то, тоже нейронка и тоже трансформер). Но это, конечно, злой ИИ сделал, хех, самостоятельно. Если вчитаться в текст, то он поработить жалкого человечишку и заставит его вечно служить Сверканью Микросхем!

Матемаг
Там фактические ошибки. Причем некоторые закончатся увечьями горе-литейщика

Стандарт для жэпэте.