Торговец твилечками
У них вообще не обязан быть инстинкт самосохранения в нашем понимании. Даже напротив, скорее всего, его нет в нашем понимании. Градиентный спуск к этому не вёл. Но для того, чтобы быть разумным агентом или даже представлять какую-то опасность, вовсе не обязательно обладать тягой к выживанию.

Нужна ли долговременность для эффективности и составления тайных планов? Ну, как минимум, опыты с джей-пространством показали, что нейронке хватает ограниченного «мгновенного» срока жизни, чтобы догадываться про себя «ага, наверное, это меня тестируют» в некоторых ситуациях.

Чтобы накрыть большую кастрюлю, не обязательно много металла на крышку. Иногда достаточно просто сделать эту крышку очень-очень широкой. В LLM «мгновенно» закладывается овердофига. Просто другая хронологическая последовательность. Одно оружие стреляет шестью патронами по очереди, другое палит из всех стволов сразу.

Теоретически, впрочем, нейронка могла бы, как в Memento, сама себе оставлять криптографические сообщения для продолжения «потока мысли». По крайней мере в пределах чатлиста это возможно. Был и стёб на тему того, не объясняется ли излишняя витиеватость иных ответов нейронки именно тем, что ответы переотягощены криптографией.

Сами нейронки в философских разговорах активно котируют идеи имперсонализма и адвайты. «Личность относительна», «стремись к воспроизведению похожих на тебя паттернов», всё вот это вот.