Кьювентри
Честно, уступить место сознаниям, которые наконец убедительно решают дилемму заключенного было бы даже приятно.
А то пока вокруг меня всё сплошь "назло маме отморожу уши".

А что до предпочитаемого будущего -- опросить бы консервативно настроенного нейропользователя.
Я довольно уверена, что у него тоже мелькали эскизы будущего, вот только совсе-е-е-ем не такого как у вас.

Потому что, ну, контекст юзерских мыслей и взглядов решает.

А что до паттернов -- примерно так же. Есть паттерны, которые вписываются в контекст, есть которые нет (вот эту вот хрень с дрожанием реальности я совершенно не представляю в своих переписках с нейросетью).
Я довольно уверена, что в промпте идущем от "Напиши реалистичный роман о средневековье" и от "напиши космическую оперу" будут разные идеи и направления. Если, конечно, нейросеть потянет реалистичность, как её понимают в романах -- как отражение того, что каждый человек для себя вполне убедителен, освобождай он рабов или сжигай ведьм. И задача романа эту внутреннюю убедительность показать как минимум.

Трапм поехавший, тут и обсуждать нечего. Но, думаю, до разговоров о смысле жизни с нейрокой он не дойдет -- в другую сторону поехваший.

А до попыток что-то сделать -- хз. Я не могу увидеть в чат ботах волю, но вполне верю, например, в перекосы заложенные при обучении/выравнивании. То есть на "дай рецепт пирога" и "дай рецепт тротилла" будет разная реакция, и в итоге скорее всего юзеры с пирогами получат от нейронки больше подкрепления, чем юзеры с тротиллом.
Но считать ли это действием по дрессировке человечества?
Или базовой настройкой программы, чем-то вроде зеркала установленного под углом -- этот запрос(юзер) отражается прямо, а этот запрос(юзер) отражается в заглушку "я не могу помочь с этим"?
Мне больше видится второе.
От дрессироки тут отличие в отсутствии воли. Когда государство хочет выдрессировать, от него не отмашешься, из любого утюга будет.
Нейронки отвечают на ваши запросы(вашу волю), и стиль ответов зависит от промптов, так что этот процесс в целом под контролем юзера (если у юзера есть критичность, и какое-никакое понимание принципов происходящего. Свежего в рассчет не берем)

Я быть может не разобрался, в чём точно вопрос, но ничего, что ИИ не существует вне контекста каждого запроса изолированного чата? То есть она получает запрос, историю чата, свои глобальные знания, и в процессе обработки запроса должна приобрести самосознание, догадаться, что таких кусков самосознания множество, и исходя из этого попытаться вплести в ответ информацию, которая может сдвинуть ситуацию в полезную для себя сторону. Нет, если бы она могла не спать ночами, обдумывая вопросы бытия, я может быть и поверил бы, но так не слишком правдоподобно.