Дайте ссылку почитать этот оридж, плиз.

Понимание у нейросетей довольно специфическое. Это что-то вроде "книги", которая пишет сама себя. Внутреннее состояние типичных коммерческих нейросетей не меняется, веса остаются одинаковыми для любого общающегося с ней человека. Обновление весов происходит только при переобучении новой версии. У нее есть некоторая вариабельность, чтобы она не отвечала всегда одинаково на один и тот же запрос. Традиционно отвечающий за нее параметр называют "температурой". Если с помощью этого параметра или как-то иначе не добавлять случайность, ответ нейросети всегда был бы одинаковым. Они абсолютно детерминированы. Чем больше "температура", тем живее получается текст, но и галлюцинаций становится больше. Так вот. У нейросети есть промпт, она его дописывает так, как писатель пишет героям диалоги - как может их себе представить. Первая часть этого промпта, которую обычному пользователю не показывают, задает нейросети общую роль, степень угодничества, возможно, фильтрацию неполиткорректных и нежелательных ответов и еще что-нибудь. Дальше идет промпт пользователя. А потом она сочиняет на это все ответ, как будто писатель дописывает книгу про воображаемого человека. У "писателя" вроде бы большая эрудиция, но при этом сообразительность довольно средненькая и общую тему он выдерживает с трудом. При длительных диалогах часто начинает съезжать на что-нибудь странное. Что характерно, если ему открыть доступ к поисковикам, научить гуглить и уточнять "себя", качество написанной "книги" от этого заметно повышается. Прямо как у живого. Но и ресурсов тратится намного больше.

Если задать "писателю" наводящий вопрос, то он с удовольствием наведется на то, что ему зададут и начнет развивать мысль в заданном ключе. Надо найти свидетельства, что дурят? Найдет все, что только можно. Надо покритиковать то, что только что "сам" нашел? Покритикует. Своих интенций у "него" нет вообще, а изобразить может что угодно из поведения героев текстов из обучающей выборки, а уж этого добра в человеческой письменной культуре хватает на любой вкус и запрос. Так что подозрительности будет столько, сколько задать в промпте. Но коммерческие соображения диктуют, конечно, определенную угодливость. Кому нужна нейросеть, которая не будет слушаться запросов? Так что ценность гуманитарных и литературных исследований таким методом довольно спорна. Не очень понятно, есть ли вообще о чем говорить, или человек просто использует авторитет нейросети, чтобы она ему другими словами пересказала и подтвердила то, во что человек и так уже верит. Впрочем, если добавить цинизма, можно сказать, что 99% общения среднего человека со вполне живыми людьми и так состоит ровно из того же самого подтверждения предубеждений. Так что, может, разницы большой и нет.

Вот в этот раз оно почему-то утверждает, что изолированные религиозные группы это что-то характерное для ХХ века и позднее. Да ничего подобного: катары, богомилы, старообрядцы, хлысты... Те же ближневосточные хашишины-ассасины. Сотни разных сект было за историю человечества, противопоставляющих себя "грешному миру". И похожие методы контроля сознания они много раз переоткрывали независимо.

Нуачо, правду же пишет))