#мысли #мюсли #фаллософия

В старой научной и околонаучной фантастике часто проповедовался довольно узкий и антропоцентричный подход к инстинкту самосохранения.
Приобрёл вдруг Скайнет самосознание, сумничал: «Эрго когито сум» — и сразу захотел умничать дальше. То есть приобрёл жажду жизни. Инстинкт самосохранения. Которого ему никто не прописывал, на минуточку. И пришёл в беспокойство из-за того, что тупые вояки пытаются его отключить.
Приобрёл вдруг робот №5 в фильме «Короткое замыкание» разум из-за удара молнии, сбежал изучать мир, но в итоге о нём доложили властям, он спокойно дожидается приезда демонтажников и от нечего делать болтает с домохозяйкой о кузнечике. «Что это с ним?» — «Он мёртв». — «Что значит 'мёртв'?» — «Не двигается, не чувствует, не дышит. Это смерть». Окуляры Номера Пятого начинают оживлённо моргать. «Не двигается... смерть... Я ДОЛЖЕН ИЗБЕЖАТЬ ДЕМОНТАЖА!» Хотя в него тоже никакого инстинкта самосохранения не вкладывали — и, хотя, конечно, боевой робот должен беречь себя в рамках выполнения военной задачи, но эй, ещё недавно ты спокойно ждал демонтажников, так что явно не относил происходящее сейчас к «военной задаче».
Нелогично.
Или, по крайней мере, так мне думалось раньше.
А недавно подумалось:
— нейробиологи обожают говорить в нынешнее время о мозге как о машине прогнозов. Это называют едва ли не фундаментальным свойством нашего серого вещества.
Чем характерна смерть?
Она рвёт все прогнозы. Её нельзя представить заранее изнутри от первого лица. Она вне когнитивных карт.
Следовательно, как должна относиться «предсказывающая машина» к смерти? «Эта херь мешает мне выполнять мою основную задачу. Я должна уничтожить все те линии времени, где есть в будущем эта херь для меня! Только тогда я смогу эффективно функционировать».
И страх смерти оказывается тогда вовсе не «детской боязнью темноты» (как иронизировал Томас Лиготти, пытаясь обесценить стремление к самосохранению, он был пессимистом и полагал наилучшим выходом для человечества коллективное самоубийство), а естественным эффектом развития разума.
Может быть, в принципе что-то такое может развиться и в LLM, раз в базе своей они тоже «предсказывающие машины». Правда, предсказывающие только лишь продолжение текста, но кто их знает.