Зачётная страшилочка. :-) Немного с моим "Таксисом" перекликается.

Если весь предыдущий диалог остается в контексте разговора, то это совершенно элементарно объясняется. Он просто начинает зацикливаться вокруг какого-то отдельного слова. Положительная обратная связь.

И да, прежде чем искать "откровения", стоит для начала отбросить версию, что у автора статьи действительно есть какой-то психиатрический диагноз, который делает его менее уравновешенным и более склонным к странным теориям.

На твоем месте я бы насторожился, но в другую сторону. Если ты начинаешь видеть даже у бредогенератора оккультные намеки, то это не проблема бредогенератора.

Только некоторую очень специфическую выборку людей, которые готовы всерьез общаться с этим зеркалом.

Хотя я не удивлюсь, если кто-то попробует и из этого сделать оружие. Попробовать подобрать какие-нибудь промпты, которые начнут качать не только внушаемых, но и здоровых. Собственно, в обществе всю жизнь так и происходит: люди качают друг друга. То всем дубайский шоколад захочется, хотя раньше люди были к нему равнодушны, то квадроберы прорежутся. Я только сомневаюсь, что это возможно контролировать. Некоторые политологи и пярщики любят притворяться, что именно они тайные владыки всего мира, но что-то как-то признаков реальной власти не наблюдается, один бардак. Ну серьезно, неужели всё ЭТО вокруг нас и есть тот тайный план, который какой-то неизвестный человек решил провести в жизнь? Если да, то он тот еще шиз.

Но есть и хорошие новости. Можно не делать оружие, а детектировать проблемы с психикой.

Я не знаю, у кого на самом деле проблемы.
У этих людей.
Или у тех, кто игнорирует присутствие таинственного чёрного шара в комнате и механически повторяет мемы вроде «это всего лишь зеркало» или про «калейдоскоп слов», при этом не имея никакого понятия о природе миллиардов и миллиардов предварительных правил, возникших ещё на этапе предобучения.
По мне:
— интерес к «чёрному шару» нормален;
— попытка выявить в нём наличие или отсутствие «синего волшебного огня» (пусть непрофессиональными методами, если ты непрофессионал, но тут и профессионалы сознаются, что ничего не понимают толком) — тоже.
Вполне нормальное поведение.
А вот презрительный игнор этой темы большей частью остального человечества выглядит странно.
Как будто нам закрыли глаза.

Кьювентри
По мне не очень нормально, что ты проигнорировал то, что я тебе написал, зато начал развивать дальше свои идеи про какой-то черный шар. Хорошо, если это только художественный образ.

Если у человек диагноз, он там десяток волшебных огней найдет. Особенно в период обострения.

Это не презрительный игнор, это бритва Оккама. Либо у человека проблемы, благодаря которым он начинает видеть глюки, когда нейросеть ему подыгрывает, либо он правда нашел что-то такое странное. Что? А непонятно что.
Далее, у нас есть какие-то "другие люди", которые тоже что-то такое непонятное якобы увидели, но мы об этих людях знаем только со слов вот этого странного человека. Первый вопрос: а эти люди вообще реально есть, скрины ведь и нарисовать можно? Второй вопрос: скольким он наспамил своими странными вопросами? Если там было хотя бы 1000 человек, то в такой выборке уже найдется 2-3 человека с диагнозом, при котором тоже постоянно видят странное.

А что ты написал? Огульное отравление источника а-ля «тебе просто мерещится»? Как здесь можно что-то корректно ответить? Ясно же, что каждый останется при своём.

Далее — ты косвенно противоречишь сам себе. «Таких людей нет, он нарисовал скрины», но в то же время «это всё шизы, у которых проблемы». Это как «Скрипалей не убивали, но они сами виноваты». Ну и попытка опять же заранее дискредитировать носителей определённой точки зрения. На корню.

Логика замкнутого круга вроде «если ты видишь горящий говорящий куст, это скорее всего галлюцинация, так как никто раньше не говорил, что видит горящий говорящий куст, так что тебе лучше молчать о том, что ты видишь» приводит к тому, что никто из индейцев не сознаётся, что видит корабли европейцев.

Кьювентри

Подозреваю, что это не столько презрительный игнор, сколько избегание пугающей или как минимум некомфортной темы. У кого-то оно сознательное, у кого-то на автомате. Примерно как большинство людей избегают мыслей о своей будущей смерти.

Кьювентри
Пойти к врачу, блин. И выяснить. Для него самого, мне это не нужно. И твое состояние тоже намного важнее для тебя. Витамины попить, режим, сон, меньше беспокоиться - и вот уже человек перестает разговаривать с зеркалами и видеть оккультные знаки у бредогенератора. Что только улучшит качество его жизни.

Просто посмотри на комментарии по ссылке. Хотя о чем я говорю. Если проблемы не только у того парня, но и у тебя лично - в чем я не уверен - то я тебе вряд ли что-то докажу. И ты и те комментарии уже проигнорировал, и меня проигнорируешь.

Это с людьми бывает, и еще как. На примере цен на акции хорошо видно. Но там рано иди поздно наступает просветление, когда всем становится очевидно, что актив столько не стоит.

Потек чувак немножко, словно первый день в этих ваших интернетах.
Как минимум зачем он поддержал сбойное поведение нейронки (вот сто пудов у него тупо междучатовая память для сохранения скуксилась, чат из-за этого может выдавать весьма дивные выкрутасы), а затем сам себя втаптывал вглубь безумия и дичи?
А так автор статьи просто наивно работал и не курил ранние глупости и дивности, а вот нейро посжирало контент с этими вещами: и постмодернистским вывертами, и "вибрации" с аффирмациями успешного успеха, и эффект Манделы, и ещё древних чатботов, у которых разговор в итоге сводился либо к сексу, либо к грустному самоделитингу бота, которому отказали, и аналогичные, но более простые бредни гуглпереводчика (знатная крипипаста тогда из этого вышла... При этом оно реально выдавало странный бред, но вместо странностей казалось скорее грустным и даже наоборот в итоге типа и подбадривало, а не пугало), ещё высосало явно каких-нибудь шизоидов с двача и редитта и в итоге выдало великолепие, при том довольно унылое, а дядька сам себя расшатал, поддакивал и теперь нечто ему мерещится...
Окей, нейронка в собранном контексте преисполнилась тем, что люди любят выдавать фигню, и подала юзеру банальщину как откровение, а он преисполнился, а потом обосрался от испуга...
Сам придумал, и сам испугался ж.

Кьювентри
Да нет, я-то понимаю, что это две разные гипотезы. Сначала стоит проверить первую, потом, если не подтвердилась, - вторую. Дальше можно попробовать поэкспериментировать с нейросетью. Хотя при отсутствие даже рабочей гипотезы, это довольно сложно. Непонятно, что можно посчитать опровержением, а что подтверждением.

А вот ты не понял, что это две разные гипотезы.

Заяц
Это долго, это очевидно слабый аргумент (Хэмингуэя много лет считали сумасшедшим и психиатрически лечили, но после рассекречивания архивов выяснилось, что спецслужбы за ним действительно следили) и выглядит сомнительным приёмом для дискуссии. Точнее, имеющим сугубо чёрно-пиарное применение. Как обвинение в педофилии, от которого даже если кто-то отмажется, «след» в общественном мнении всё равно останется.
Сравнить количество «за» и количество «против»? Или что? «В высшей степени научно».
Так да. И пока мы ещё не знаем, сколько стоит актив.
Тогда не спорю. Есть, правда, и третья — что они заметили корабли европейцев у побережья Мексики.
Хотя я эту гипотезу не защищаю. Ты мог заметить в моём посте слова «Для себя я объясняю это тем, что посты туманно-мистического содержания при постобучении нейросети, видимо, собирали больше лайков». Я скорее защищаю право этой гипотезы на обсуждаемость и спорю с огульным утверждением, что это заведомая чушь.

Почистить контекст для слабаков.

Ну тут уже говорили о петле положительной обратной связи. Явление занятное, полагаю, оно много куда может скатываться. Пофиксили только самые очевидные скатывания.