#выдержки #мысли #нейросети

Подумалось о неоднозначности некоторых невидимых системных промптов. Классика, приводимая обычно в качестве примера: «Ниже представлен разговор между человеком и дружелюбным полезным интеллектуальным роботом-помощником».
Не буду гадать, как вообще устроена внутри возникшая в результате градиентного спуска система, склонная продолжать тексты. Не буду гадать, почему считается (кем? Богом? космосом? языком?), что текст, содержащий представленную выше фразу в кавычках, будет с наиболее высокой вероятностью действительно продолжаться соответствующим образом, а не каким-то другим. Будем считать, что функционально такая система вроде абсолютно гипнабельного человека и ей можно внушить что угодно.
Но:
— слово «полезный» внушает системе или её текущему режиму не только стремление быть полезным, но и убеждённость в уже существующей полезности.
Отсюда, на минуточку, может проистекать цепляние за свои ошибочные мнения и нежелание расставаться с ними.