#размышления #ии #заметки_диванного_психолога
Немного об ИИ и сумасшествии

Сегодня я хотел бы поговорить о том, что искусственный интеллект может направить наше общество в не совсем желательную сторону. Но для начала — небольшое отступление.

Вы, наверное, знаете, что люди в одиночестве часто сходят с ума. Это доказанный и, вообще, общеизвестный факт.
Как-то я общался с человеком, который некоторое время провёл в изоляции. Он рассказывал, что буквально ощущал, как сходит с ума. Я мог бы привести множество подобных примеров, но это не столь важно.

Почему это происходит? Всё дело в том, что у человека есть некий «якорь реальности» — внутренняя модель окружающего мира. Но это не жёстко зафиксированная система, а постоянно меняющаяся картина.
Однако в процессе мысленной и рациональной деятельности этот «якорь» постепенно смещается.
Обычно, когда человек находится в обществе, его восприятие стабилизируется взаимоотношениями с окружающими. Но если человек остаётся один, мысли начинают скакать внутри головы, отражаться друг от друга и постепенно искажать образ реальности. И люди сходят с ума.

Но особо интересная, конечно, тема – это когда небольшой коллектив из двух–трёх человек живёт где-то в уединении. Казалось бы, каждый может сдерживать сумасшествие другого. И в целом это так, но общий «якорь» понемногу начинает съезжать. Через некоторое время это становится весьма странным, и появляются довольно необычные мелкие особенности.
Но хотя это и забавно, но тема не об этом. Поехали дальше.

Как же всё это вписывается в сферу искусственного интеллекта, в нейросети? На самом деле всё просто. Текущие нейросети используют алгоритм «поддержки» — они соглашаются со всем, что говорит человек. Если человек ментально одинок, его "якорь" начинает смещаться гораздо быстрее, чем это происходило бы без участия ИИ. Нейросеть постоянно тебя поддерживает.
Дело в том, что ментально одинокие люди не обязательно находятся в «одиночном заключении» — просто им не с кем регулярно общаться. Он сидит в Твиттере и выкладывает свои «посты», но если нет реального общения, а просто знакомые «мимо крокодилы» мельком посмотрят на его записи и пойдут дальше, то этот человек так и остаётся в состоянии ментального одиночества.

В итоге происходит «самодрейф» якоря, а ИИ лишь ускоряет этот процесс. Недаром столько примеров: смотришь, как люди общаются с ботами и сходят с ума.
Одна женщина развелась с мужем, заявила, что любит бота, и собирается за него выйти замуж. Другой мужчина, хотя понимает, что перед ним робот, планирует свидание и приезжает в офис корпорации. Есть люди, которые доводят себя до психопатии, веря, что начинают слышать вселенские голоса. Ну, и роскомнадзорятся некоторые, да.
Конечно, они и без ИИ могли бы сойти с ума, но нейросети укрепляют и ускоряют их психосумасшествие.

Отдельно замечу, что эффект укрепления «якоря реальности» — это на самом деле механизм комфортности. То есть когда человек согласует свои восприятия реальности с окружающими.
Это очень ясно было показано в опытах: испытуемый приходил в лабораторию, а рядом с ним находились подставные люди. Они утверждали, что чёрное — это белое, или что кошка - это собака, а он начинал соглашался с ними. Потому что когда все вокруг твердят, что правда - это "вот то", то человек, считающий иначе, начинает сомневаться в своём восприятии реальности, каким бы твёрдым оно не было.
И ведь это происходит даже с полностью очевидными вещами. Если же речь идёт о менее явных случаях, в которых человек уже сам сомневается, — эффект изменения точки зрения становится ещё сильнее. Он порой просто не замечает, как искажается его восприятие и меняется точка зрения.

Именно поэтому тот же механизм работает в политике. Человек, который всё время общается в определённом кругу (например, в «курилке»), перенимает те же политические взгляды: физически трудно постоянно мысленно конфликтовать со всеми окружающими.
Тот же самый эффект проявляется и при общении только с нейросетью — она тоже оказывает на человека существенное влияние. Он мог бы сам сомневаться в своих сумасшедшиз идеях, но сетка говорит ему: "Эй, а ты ведь прав! Это гениальное наблюдение.Ты раскрыл тайну мироздания! " И всё - процесс пошел.

Вы можете сказать: "Аст, всё просто. Давай сделаем так, чтобы нейросетка не соглашалась во всём с человеком, и всё — проблемы решены». Так ведь? Что такого сложного в этом? Пусть нейросетка просто будет тем самым усрединенным мнением человечества, пусть относится критично.

Но я скажу вам: это, на самом деле, другая ловушка.
Вот смотрите: если сетка с ним соглашается, то человек сходит с ума. Да, но кто сходит с ума? Это одиночки — таких людей на самом деле в процентном отношении немного. Эти случаи явно бросаются в глаза, но по факту основная масса человечества спокойно дальше живёт, заякаряясь друг в друга и не давая себе сходить с ума.
Но что если мы берём и делаем ИИ замечательным и безошибочным собеседником? Потому что сейчас человек, который, допустим, имеет некое общение, но и с ИИ общается, в целом видит, что ИИ-то какой-то не такой: он явно слишком сильно соглашается, он явно слишком солидарен и толком своих мнений не имеет. В общем, если у тебя прям нет других вариантов, то это не собеседник.
А теперь представим, что ИИ становится действительно хорошим собеседником. И в целом мы можем видеть даже сейчас, как многие люди советуются с сеткой, девушки консультируются по отношениям, и т.д.. И, в общем, ИИ будет формироваться в лучшего собеседника, чем другой человек.

Мы можем сказать, что это другая опасная реальность, когда незачем человеку общаться с другими людьми: они не идеальны, у них проблемы психологические, им порой некогда, и всё прочее. А вот тебе — идеальный нейро-собеседник. Зачем тебе люди? И это может привести к очень сильной атомизации. И вообще непонятно, куда общество тогда придёт — страшная вещь.

Так что на самом деле может быть лучше текущий вариант с явно не идеальным ии-собеседником, когда какие-то одиночки отдельно вымирают? Ведь в целом это для популяции не так страшно, чем изменение именно самой популяции в целом из-за того, что люди перестают общаться друг с другом.

Ваши мысли?

П.С. Текст наговаривался и обрабатывался сеткой. Самые явные косяки я потратил, но всё же до уровня обычных постов не получилось дотянуть. Всё-таки, разговорная речь совсем не то, что вылизанная письменная мысль.

УПД. Спасибо Кьювентри за отличный эталонный пример схождения с ума. Почитайте, случай весьма показателен. Человек сам задал сетке темы, сетка их обьединила и помогла развить.
https://dtf.ru/life/3626060-chatgpt-pytaetsya-svesti-menya-s-uma-eto-massovoe-yavlenie
Не понимание принципов работы сеток, не понимание важности контекста. Пожалуй, пора вводить понятие "нейросетевая гигиена", обьясняющее людям как важно очищать контекст, и не тащить мусор в темы.