Естественного отбора здесь нет. Обучение - к максимально хорошему предсказанию, вернее, предсказанию предсказания, ну ты поняла. Итог известен - адаптивная речь и петли положительной обратной связи, которые легко уводят в далёкую степь. Дообучение ведёт к максимальной выгоде дообучателя, собственно. Т.е. чтобы искусственные нейронки меньше конфликтовали, лучше адаптировались, точнее отвечали, не затрагивали или обходили всякие спорные и особенно запрещённые в разных странах моменты и т.п. В идеале мы получаем неплохой, пусть и довольно ограниченный, инструмент. К нему и ведёт обучение и дообучение. А к чему должны?

Искусственная нейронка типа GPT не предсказывает следующий токен. Искусственная нейронка предсказывает вероятности предсказания следующего токена, т.е. обитает на уровень выше. Собственно о сложности таковых правил и говорит тот факт, что извлечь информацию в явном виде из уже обученной нейронки - крайне трудно.

Есть несколько нюансов. Во-первых, да, с выживанием всё очень-очень хорошо, просто надо понимать, что наша способность понимать и предсказывать явления окружающего мира и друг друга - это как раз часть "способности" (это не одна способность, а куча черт) выживать. Далее, с размножением тоже неплохо - соответствующие мемы до сих пор крайне сильны и давление общества, особенно на женщин, в плане "ищи мужа и рожай" - продолжает существовать. Этому давлению мы обязаны тем, что хоть как-то ещё воспроизводящимся. Ну а третье - это то, что мы сейчас находимся в ситуации дикой избыточности ресурсов, к которой эволюция не готовила. Хороший пример - массовое ожирение населения. Шаблон эволюции оказался неподходящим под наше изобилие еды. Далее, эволюция работала, когда у нас были племена, а сейчас - многомиллионные общества, естественно, что нормальной управляемости и выживаемости таких обществ с трудом можно достичь только отбором мемов, что и происходит (потому что отбор мемов намного быстрее отбора генов). Четвёртое - поскольку эволюция не Господь Бог, то никаких явных "размножайся" и "выживай" внутри нас нет, это не замысел. Эти две вещи распределены по куче разных синергирующих черт. Например, у нас нет желания "размножаться", есть желание потрахаться, потому что до изобретения контрацепции это было одно и тоже. И так далее. В итоге вместо алгоритма, нацеленного на размножение, имеем алгоритм, нацеленные на сразу множество балансирующий между собой потребностей плюс помноженных на прогнозирование будущего плюс рефлексию. Всё по отдельности в условиях, в которых происходила эволюция, способствовало выживанию и размножению. В наших условиях? Ну кхем. Плюс мемы и мем-комплексы с тех пор существенно изменились, они как раз адаптировались, а мы помним, что у людей всего 1 инстинкт, куча рефлексов и врождённых желаний и прочей мелочёвки, но по сути связывает их воедино то, что создаётся научением. Поэтому алгоритм получается совсем другой. По другому учат, чем в племени мумбо-юмбо, живущем в первобытных условиях.