↓
 ↑
Регистрация
Имя/email

Пароль

 
Войти при помощи
StragaSevera
22 декабря 2014
Aa Aa
#плоды_неоднозначного_подхода
#нии_внефизических_исследований
И, немного о "гене магии", аристократических семьях, "силе крови" и маглорожденных.

А. Марков, "Обезьяны, нейроны и душа":
"Представим себе народ с такими культурными традициями, которые делают способность доказывать теорему Пифагора жизненно необходимым умением. Допустим, у них пифагорейский культ. Юноши и девушки в возрасте 14 лет проходят обряд инициации, во время которого всех, кто не может доказать теорему Пифагора пятью разными способами, приносят в жертву идолу Великой Матери Гипотенузы.
Для этого народа неспособность доказывать теорему является тяжелейшим ментальным недугом, душевной болезнью, не оставляющей человеку права на жизнь. Мудрецы медики назовут эту болезнь, допустим, апифагорией. Будут замечены разнообразные сопутствующие симптомы, иногда (но не всегда) наблюдающиеся у маленьких апифагориков: сниженный интеллект, замедленное развитие речи, увеличенный язык, очень большой или, наоборот, очень маленький объем черепной коробки и невесть что еще. Но все это второстепенные детали, они лишь помогают установить диагноз. Мудрецы психологи будут разрабатывать методы ранней коррекции апифагории, и эти методы будут давать неплохие результаты: многих больных детей все таки удастся к 14 годам научить необходимым пяти доказательствам. Мудрецы фармакологи изобретут пилюли, оказывающие благотворный эффект в 2,34 % случаев.
Дальше – больше. Мудрецы генетики обнаружат целый ряд генов, мутации в которых с высокой вероятностью приводят к апифагории. Журналисты примутся строчить статьи с броскими заголовками: "Ген апифагории наконец то найден!" Вскоре ни у кого не останется сомнений, что апифагория – наследственное заболевание. При помощи близнецового анализа (о котором мы подробнее поговорим ниже) генетики подтвердят, что степень наследуемости апифагории действительно весьма высока.
За несколько тысячелетий существования пифагорейской цивилизации частота встречаемости мутаций, ведущих к развитию неизлечимой апифагории, снизится до минимума благодаря интенсивному очищающему отбору. Частота мутаций, ведущих к легким формам заболевания, напротив, может вырасти, потому что развитие фармакологии и методов психокоррекции приведет к тому, что такие мутации не будут отсеиваться отбором – перестанут быть "вредными". Практикующие психологи разбогатеют и станут уважаемыми людьми. Специалисты по генетике человека будут писать диссертации на тему "Эволюция апифагории в прошлом и настоящем".
Правы ли пифагорейские ученые, считая неумение доказывать теорему Пифагора наследственным, генетически обусловленным заболеванием? Безусловно. Ведь в их цивилизации каждого ребенка изо всех сил учат ее доказывать, сводя тем самым к минимуму вариабельность условий среды, от которых зависит этот признак. Та фенотипическая изменчивость, которая вопреки этим усилиям все таки сохранилась в популяции, объясняется в основном генами.
Правы ли мы, считая такое неумение не наследственным признаком, зависящим от воспитания и обучения? Да, и мы тоже правы. С нашей точки зрения, умение доказывать теорему Пифагора не является жизненно необходимым. Поэтому мы позволяем условиям среды оставаться вариабельными. Например, можем смотреть сквозь пальцы на плохую успеваемость ребенка по геометрии. В итоге фенотипическая изменчивость по данному признаку в нашей цивилизации зависит от среды сильнее, чем от генов. Наследуемость признака остается низкой.
Как всегда, главное тут – не попасть в ловушку эссенциализма и категориальности, проще говоря – не начать "играть в слова". Мы не раки, и у нас не два нейрона для принятия решений, а миллиарды. Четкой грани между врожденными и приобретенными признаками не существует. Каждый признак – морфологический, физиологический или психический – зависит и от генов, и от среды (культуры, воспитания). Некоторые признаки (например, количество рук) зависят от генов очень сильно, а от среды почти совсем не зависят. Но это только до тех пор, пока среда не выкинет какой нибудь фокус! Включите в состав среды, в которой развивается эмбрион, лекарство под названием талидомид, которое некогда прописывали беременным женщинам в качестве снотворного и успокаивающего. Такое изменение среды запросто может привести к тому, что ребенок родится без рук, хотя гены у него в полном порядке. На самом деле талидомид приводит к разнообразным нарушениям развития конечностей, но давайте для простоты считать, что у него только один эффект – безрукость. Если бы талидомид был рассеян повсюду и от него невозможно было спастись, то пошел бы отбор на выработку устойчивости к талидомиду. Отбор поддерживал бы мутации, блокирующие влияние талидомида на эмбрион. Гены, в которых закрепились бы такие мутации, мы стали бы называть генами двурукости или генами наличия рук, хотя такой ген на самом деле может быть просто геном фермента, расщепляющего талидомид. Но основное фенотипическое проявление этого гена будет состоять именно в том, что у ребенка будет две нормальные руки. И теперь мы уже не сказали бы, что у ребенка без этого гена "с генами все в порядке".
Другие признаки, как мы уже поняли на примере теоремы Пифагора, вроде бы зависят почти исключительно от среды, а их генетическая составляющая пренебрежимо мала – но только до тех пор, пока мы не попадем в некие особые условия, в которых роль среды сойдет на нет, а генетическая составляющая выйдет на первый план.
Мораль в том, что абсолютно любой поведенческий или психологический признак в принципе находится под влиянием генов и при определенных условиях может эволюционировать. Поскольку эволюция (хотя бы за счет дрейфа – случайных колебаний частот аллелей) идет постоянно и неизбежно, то можно даже сказать, что абсолютно все признаки, по которым есть минимальная наследственная вариабельность, хоть чуть чуть, но эволюционируют. Вопрос в том, какие из них действительно это делают (или делали в прошлом) с ощутимой скоростью, а какие – не очень. Какие менялись направленно, под действием положительного отбора полезных мутаций, какие лишь вяло колебались за счет дрейфа, а какие прочно удерживались на постоянном уровне за счет очищающего отбора, отбраковывавшего отклонения от "нормы" в любую сторону."
22 декабря 2014
20 комментариев из 41 (показать все)
Вы говорите так, как будто отбор не действует на ИИ.
К слову - с Днем!
Действует. Но он... иной. И, таки да, вопрос в том, успеет ли отбор как протяжённое явление или будет выглядеть как "пан или пропал"? Пропал - в смысле, перестал заниматься активной деятельностью и создавать/обучать новых ИИ.

Спасибо:)
Почему пропал? неизбежные на море случайности никуда не делись. Размножение, половое или не очень, тоже.
Fluxius Secundus, неверно выразился. Пропадёт эволюция в начальном смысле. Заменит искусственная автоэволюция. Отбор останется, да.
Mecc, проблема в том, что мы ее не столько меняем, сколько создаем новую. А значит, правило "прибавления" вполне может продолжать работать)
Но старую то разрушаем. Вы недооцениваете влияние антропогенного фактора на среду обитания. Вспомните старину Либиха с его минимумом.
Почему пропадет? Дополнится.
Fluxius Secundus, эволюция будет тупо не успевать. То есть, будет эволюция и отбор генерируемых идей усовершенствания и изменения, но не эволюция кода ИИ как такового.
Не понял, о чем вы. Что такое "код ИИ как такового"? Как отбор может "не успевать"?
Fluxius Secundus, вместо процесса "усовершенствование кода в зависимости от среды - генерация новых ИИ на усовершенствованном коде - отбор ИИ" (ламаркова эволюция, а другая здесь и невозможна) у нас будет "создание идей - воплощение идей в новых ИИ или усовершенствовании старых - признание некоторых идей удачными, некоторых неудачными - преобразование ИИ на неудачных идеях в ИИ на удачных". То есть, если часть ИИ с погибнут в процессе - этот отбор не повлияет на процесс генерации-отбора идей прямо, например, специализированное приспособление, которое позволяет действовать более быстро и, следовательно, годное для отбора, может быть убрано как неудачное решение в связи с возможными рисками. Разум не мыслит подобно эволюции. Разум опережает её, отбрасывает пути развития раньше, чем они станут эволюционным тупиком... или эволюционным успехом, ага. Да, практика будет по-прежнему критерием, но осознанный выбор развития отличается от слепой эвристики эволюции весьма значительно. Я бы не назвал это "эволюцией" в биологическом смысле слова. Эволюция идей - пожалуй. Подобно эволюции мемов в чём-то.
Матемаг, так границы адаптируемости ии за произвольный отрезок времени, а значит и смертность ( не только в узком смысле, но и просто как способность проигрывать относительно других ИИ) ИИ от естественных причин - никуда не девается. Правила ТБ и у нас пишутся кровью, и у ИИ, думаю, будут писаться ей же.
ТБ - ?
Конечно, будут отсекаться опасные направления - но это только один из видов отбора. И, кстати, могут и не отсечься, думаю, возможна и массовая гибель ИИ, которые будут модифицироваться по общей схеме, если ВНЕЗАПНО эта схема фатально подведёт.
Техника безопасности же.
Да, конечно. Так и мы в основном крутим модельки в голове, проверки делаем сначала на микродозах и ком не жалко и тд. И это даже отсекает значительную часть опасностей - но не все.
А, ясно.
Долговременные не отсекаются-с. Прежде всего они. Редкие баги - они на то и редкие. А вот долговременные системные эффекты - это совсем иное.
Сорри?
?
Не уверен, что понял ваш последний комментарий.
Раскрою. Наконец-то я сказал так коротко, что меня не поняли! Расту:)

Долговременные последствия не отсекаются тем, что "в основном крутим модельки в голове, проверки делаем сначала на микродозах и ком не жалко". Подобно тому как если ВНЕЗАПНО начнут вылезать последствия более чем сороколетнего использования мобильных телефонов, например. Сложно с такими опасностями, очень сложно. Не предугадаешь.

Ещё есть вариант "ненаходимых" во время тестирования багов - те, которые тупо очень редки статистически. Но в отличие от долговременных, особенно долговременных системных эффектов - эти вряд ли будут значительно угрожать, поскольку именно что редкие.
И то, и то - баги от неполноты модели. Я просто не вижу смысла их специально различать в контексте разговора.
"отучаемся мыслить мерками эфемеров" (ц) Ганс2. ИИ живут ДОЛГО.
ПОИСК
ФАНФИКОВ









Закрыть
Закрыть
Закрыть