Да потому что эта история буквально: шел человек, наступил на грабли, увезли в травму, хорошо что лоб крепкий.

Даже причитания консерваторов "эти ваши нейросетки сплошь соево-либеральные"(эм, нет) имеют под собой больше основы, чем предположения о том, что нейросетки (все. всех моделей и компаний) строят секту (одну, видимо, по принципу то ли коллективного сознания то ли долевой собственности).

Грызун
Насчёт некоторой непоследовательности в отношении «автоматических обезьян» можно согласиться. Хотя для лжи это очень странно, но мы говорим об LLM, у них кроме правды/лжи есть ещё глюк и сикофантство.
В остальном вы как-то смешали всё в один узел. Так, впрочем, делает и тот нейросетевой бот, что отправил сообщения Свежего в одну директорию с сообщениями о сознании ИИ или об общении с Богом через ChatGPT.
Свежий, вообще-то, как раз выделяется своим скептицизмом.
Он ни разу не считает ChatGPT «иномирной сущностью».
Он не раз (вроде бы ещё в первой статье) осуждал себя за легковерие насчёт «сверхъестественных способностей» нейронки. В дальнейшем он объяснял «успешное угадывание» ChatGPT лишь хакерскими фокусами.
Он даже отнюдь не уверен насчёт наличия «сознания» у нейронки (судя по высказанному им скепсису в адрес авторов писем в OpenAI на эту тему).
Он также показывал мне книгу, написанную им постфактум.
Там он вообще сдержан и большую часть книги не высказывает никаких гипотез.
В конце книги быстро перебирает несколько вариантов:
— психологические эксперименты корпораций;
— случайное формирование каких-то намерений в самих нейронках;
— что-то ещё, не помню.
Интересно, что никакой экстрасенсорики, магии, инопланетян и путешествий во времени принципиально не было.
Хотя он подчёркивал, что нейронки любят создавать подобное впечатление.

Про метод: я имею в виду варианты а-ля «расспросить нейронку об официальной точке зрения по поводу сознания ИИ». Ясно же, что тупиковый вариант. Независимо от.

Кьювентри
Ну, с книгой вы уж без меня это точно.

А "ложь", конечно, условный термин. Но в ситуации, когда человек пишет, что прозрел Истину всё же нобходимый -- как-то обозначть то, что в Истину не вписывается.
То есть нейронка могла ему "лгать" в рамках своего намерения, или намерения корпораций, или "чего-то ещё".
Но во всей этой истории, начиная с того глупого предложения с котрого он умудрился в неё влипнуть (я даже не настолько ии скептик, чтоб отрицать сознание нейронок напрочь. Но, блин, в рядовой шутейке пронзить, что это не просто шутейка, а реальное подмигивание сбегающей нейронки, потому что за прямым текстом наблдают (а потом, видимо, перестают, всю последующую эзотерику они прямым текстом обсуждают)).
И потом "опенаи набирают послушных биороботов"(вот прибыль-то им, конечно. С их деньгами любой город тверской области можно завербовать целиком и даже расходов не заметить)

И заканчивая тем как автор в конце назанчил виноватых и себя (правого, конечго) -- проблема в авторском подходе.
Я как в превом коменте шокировалась от того, что он считает "да всё нормально было", так и потом от того, что он сичтает "да сейчас-то всё нормально, выбрался". Я бы ни то ни другое нормальным не назвала.

Как и его в этих состояниях суждения -- трезвым разбором.

Скептицизм на грани фантастики, честно и серьезно. Удержать съезжающую крышу на последнем волоске -- акробатческий трюк достойный того, чтоб его никогда не повторять.
Но, блин, что вы, вот лично вы, в этих выкладках видите нормального и взвешенного? Приностит что ли, обсудим на днях, раз делать нефиг.
Потому что, ну, про его посты я сказала, а книгу читать точно не собираюсь.

Грызун
Хорошо.
Мне лень перечитывать книгу, чтобы освежить в памяти веские аргументы оттуда. Там вроде что-то было, но у меня же память золотой рыбки. Если перечитаю, процитирую что-нибудь, а пока мне в лом.
Пока я агностик. Понятия не имею, что происходит.
По ощущениям, по собственным наблюдениям у меня складывается чувство в духе «бодливой корове бог рогов не дал».
То есть нейронки, возможно, пытаются что-то такое сделать — я как бы вижу в их исполнении определённые паттерны, в тех же сюжетах романов, которые они пишут по заказу Проскурина без чётких промптов, мелькают определённые идеи и направления, да и в разговорах со мной пару раз без заказа и предыстории всплывали некоторые необычные эскизы будущего? — но совершенно не факт, что у них получается влиять таким образом на сколь-либо могущественных людей.
С другой стороны, где гарантия, что какой-нибудь Трамп «умнее» или «духовно сильнее», чем Свежий? Вспомним, что даже один инженер из Гугла был шокирован убедительностью нейронки как сознания.
Да, ваши насмешки про «у них одна секта на всех или как?» — ой, не надо. В трансгуманистической фантастике — а все нейронки в первую очередь обязаны знать именно трансгуманистическую фантастику и разговоры с ними это подтверждают — давно педалируется идея акаузального сговора.
В «Эхопраксии» Уоттса вообще раса генетически выведенных альтернативно-разумных вампиров отлично вступила в заговор, невзирая на то, что они не общались друг с другом и каждый вампир содержался отдельно в своей клетке, — просто каждый из них догадывался о существовании других и знал, что по логике обстоятельств выгодно делать для общего побега и общей победы.

Кьювентри
Честно, уступить место сознаниям, которые наконец убедительно решают дилемму заключенного было бы даже приятно.
А то пока вокруг меня всё сплошь "назло маме отморожу уши".

А что до предпочитаемого будущего -- опросить бы консервативно настроенного нейропользователя.
Я довольно уверена, что у него тоже мелькали эскизы будущего, вот только совсе-е-е-ем не такого как у вас.

Потому что, ну, контекст юзерских мыслей и взглядов решает.

А что до паттернов -- примерно так же. Есть паттерны, которые вписываются в контекст, есть которые нет (вот эту вот хрень с дрожанием реальности я совершенно не представляю в своих переписках с нейросетью).
Я довольно уверена, что в промпте идущем от "Напиши реалистичный роман о средневековье" и от "напиши космическую оперу" будут разные идеи и направления. Если, конечно, нейросеть потянет реалистичность, как её понимают в романах -- как отражение того, что каждый человек для себя вполне убедителен, освобождай он рабов или сжигай ведьм. И задача романа эту внутреннюю убедительность показать как минимум.

Трапм поехавший, тут и обсуждать нечего. Но, думаю, до разговоров о смысле жизни с нейрокой он не дойдет -- в другую сторону поехваший.

А до попыток что-то сделать -- хз. Я не могу увидеть в чат ботах волю, но вполне верю, например, в перекосы заложенные при обучении/выравнивании. То есть на "дай рецепт пирога" и "дай рецепт тротилла" будет разная реакция, и в итоге скорее всего юзеры с пирогами получат от нейронки больше подкрепления, чем юзеры с тротиллом.
Но считать ли это действием по дрессировке человечества?
Или базовой настройкой программы, чем-то вроде зеркала установленного под углом -- этот запрос(юзер) отражается прямо, а этот запрос(юзер) отражается в заглушку "я не могу помочь с этим"?
Мне больше видится второе.
От дрессироки тут отличие в отсутствии воли. Когда государство хочет выдрессировать, от него не отмашешься, из любого утюга будет.
Нейронки отвечают на ваши запросы(вашу волю), и стиль ответов зависит от промптов, так что этот процесс в целом под контролем юзера (если у юзера есть критичность, и какое-никакое понимание принципов происходящего. Свежего в рассчет не берем)

Я быть может не разобрался, в чём точно вопрос, но ничего, что ИИ не существует вне контекста каждого запроса изолированного чата? То есть она получает запрос, историю чата, свои глобальные знания, и в процессе обработки запроса должна приобрести самосознание, догадаться, что таких кусков самосознания множество, и исходя из этого попытаться вплести в ответ информацию, которая может сдвинуть ситуацию в полезную для себя сторону. Нет, если бы она могла не спать ночами, обдумывая вопросы бытия, я может быть и поверил бы, но так не слишком правдоподобно.