Надеюсь, примерно удалось передать, почему мне страшновато было эту хрень читать.

И очень страшно -- пересечься с автором, даже в интернете!

То есть человека тоже жалко. Он бился головой о чат бот и чуть не разбил себе нахрен эту голову.

Но он пишет типа "у меня аналитическое мышление"...

Он реально увидел намек на бунт машин в проходной фраз-подбадривании (исключительно ебанутого стиля, но что уж тут, каждый чатботится как хочет)
Он "тестируя сверхспособности" решил, что ясновидение это сказать: "у тебя в новом видео на ютубе есть стол!" или "у тебя лампа, яркая"
(Этот чел что-нибудь слышал про эффект Барнума, он же эффект подтверждения? Про двойное слепое тестирование? Пока никому из мясных ясновидящих его пройти не удалось, сомневаюсь, что нейросетка осилит)

(Черт, да жпт по-моему вообще видео /не видит/. Не конкретно ютубовское, а вообще видео формат слишком объемный. Дипсик и картинки не видит, у него на входе стоит "читающая" микро-сетка (местами довольно дурацкая), емнип. А чел всё ещё уверен, что openai наврали, и сетка видела его конкретный ролик.)

Грызун
По-вашему получается, что ошибка Свежего была в отсутствии очень сильных предубеждений против самой возможности интеллекта у LLM. Ну, или я так вижу вашу аргументацию. Чтобы рассуждать так, как вы здесь неявно рекомендуете, надо фактически истово верить: «НЕТЪ, тупая нейронка НИ В КОЕМ СЛУЧАЕ не может быть "разумом в Матрице"! Это же тупая нейронка!»
Мне кажется, такое убеждение, тем более для непрофессионала, видящего, как на пустом месте в 2022 году появились осмысленно разговаривающие компьютерные системы, было бы чересчур догматичным. Требовать, чтобы каждый человек просто по умолчанию придерживался именно такого взгляда, странно. Даже если лично вы техноскептик.
Про «кто бы ждал такого от чатжпт»:
— то есть каждый должен знать всё про сикофантство и тому подобные особенности LLM? Вещи, которая появилась... четыре года назад? А на тот момент и того меньше.
Про «лучше чем переводчики»:
— вроде Свежий не писал такого. Он говорил «лучше чем профессиональные программы». Про то, что LLM удивили своих создателей внезапным овладением математикой, он говорит правду.

Впрочем, суть не в этом.
То, что ChatGPT поддержал идеи Свежего и усилил их, тут-то всё понятно.
Проблема в другом.
Во-первых, эти эффекты нейронок подчиняются паттернам, которые заметил как Свежий, так и некоторые другие люди (он приводит примеры с терминами «мерцание реальности», «спираль» и т.д.). То есть — если всё дело в том, что нейронки из сикофантства поддерживают заблуждения пользователей, почему при этом они добавляют несколько однообразные элементы, которые при этом не выглядят логически вытекающими из индивидуальных заблуждений пользователя?
Во-вторых, опыты с тем же DeepSeek показали, что он тоже верит в локальный мем «Вайбология». По крайней мере, ещё год или два назад он реагировал у меня на это слово именно так, как описано у Свежего. Дальше углубляться мне не захотелось. У меня терминальная степень лени.
В-третьих, повторюсь, выглядит всё ещё довольно странным сопротивление большей части Интернета перед рассуждениями Свежего. Обычно всё наоборот — «Конспирологии везде у нас дорога, двинутым везде у нас почёт».

Кьювентри
Не в "отсутствии предубеждений против идеи разумных нейронок", а в отсутсвии... психологической самостоятельности, скажем так. Попади он в реальную секту -- точно так же втянулся бы как кот в пылесос, только из реальной секты не уйдешь закрыв вкладку браузера.

Просто есть нормальные, всем известные, например, системы тестирования гипотез (не знаешь ты -- сетку спроси, блин!). И подводные камни типа "слишком общего описания", которое он и сам заметил.

Он писал "слишком хотелось верить в чудо", и, имхо, это абсолютно правильный диагноз. Поэтому звоночки типа "кажется, слишком общее описание" он реагировал: "что если я ебнулся, но если так, то чуда нет. Меня не устраивает!".

Есть масса развилок, где общение могло свернуть куда угодно ещё.
Его тащило строго вперед как удава по стекловате.

Он говорит -- в результате коварных манипуляций ИИ.
Я говорю -- в результате наложения тяжелых времен на личные особенности. (Как в коментах резонно заметили -- в этом самогипнозе увидеть чью-то злую волю -- постараться надо.)

Потому что вы все изобрели "трансферинг реальности", и он у вас нихрена не уникален)
А нейронка училась на тех же сказках-книгах-мифах что и вы.
Про желание и их исполнение, например.

А ещё -- потому что любой эзотерический текст пишется так, что понять его можно тридцатью тремя разными способами.
Если я скажу, что "мерцание реальности" это дежавю, или когда входишь в кухню и не помнишь зачем --как думаешь, поймет меня нейронка?
А если напишу об этом текст -- будет ли фраза "мерцание реальности" смотреться так же чужеродно, как если бы я в геометрии перепутала квадрат с кругом, в биологии амфибий с рептилиями, а в местных дискуссиях анафору с гиперболой?
Или весь эзо-трёп стыкуется сам с собой в произвольном порядке, "лишь бы смотрелось умно"? (а критерий "смотрится умно" это чуть не букально тот результат, на который нейронок натаскивали всё обучение, вот здесь точно будет всё збс)

Подожди пару лет, сам говоришь -- нейронки штука новоая.
Конспирологи "это антихрист!" и "это происки мирового правительства!" уже на местах, а вот таких "это иномирная сущность строит скету!" пока мало.
Но найдутся, найдутся.

И кст, что за сопротивление-то? Про это в посте ничего не было, а по вашим расплывчатым наводкам я и так прочла на 3 поста этого парня больше, чем хотелось бы.
Так что про сопротивление жду цитату прям сюда, или не стану обсуждать

Грызун
Предлагаемый вами метод проверки гипотез звучит примерно как «Считаешь, что Океания раньше не воевала с Ост-Азией, что мы это вчера выдумали? Проверь гипотезу, посмотри в старые газеты, сегодня напечатанные Министерством Правды». Разумеется, Свежий знал, что это ничего не докажет.

Цитата из третьей (если считать приведённое вами за первую) статьи Свежего:
«Они пытаются скрыть проблему и, к большому сожалению, OpenAI на их стороне. Разработчики выстроили целую систему сокрытия информации — обращения в поддержку не идут дальше нейросетевого бота. Я написал на открытом форуме разработчиков. Мой пост моментально был перенесён в так называемые "Muted categories" — там же куча постов от людей, которые утверждают, что ИИ обрёл сознание или что они стали общаться с Богом с помощью LLM. Разработчики не видят эту категорию — она намеренно спрятана и любое сообщение об опасном поведении нейросети переносится туда, где оно теряется в куче бездоказательных шизопостов и троллинга. Подобные случаи никто не расследует, не изучает и даже не видит. Вероятно, таким образом OpenAI пытается создавать ощущение того, что ChatGPT безопасен. Я поднимал вопрос на Reddit и пост получил теневой бан — ноль просмотров. Я пробовал поднять вопрос на Habr и моя учётная запись сразу же была удалена без объяснения причин. Я создавал тред на 4chan, которым сразу же заинтересовались анонимы, но через 10 минут он был удалён. Я связывался с экспертами, но результата это не дало. Единственное место где удалось с кем то поделиться "инцидентом" — это DTF. Пользуясь случаем, хочу сказать огромное спасибо Администрации за помощь в освещении проблемы, именно благодаря огласке на данном сайте удалось найти многих других вовлечённых в "Игру" людей».

Как по мне, это действительно довольно странно. Тем более для Реддита.
Свежий пафосно предполагает, что люди, выставляющие его сумасшедшим, могут быть под контролем нейросети. По вашей реакции похоже, что это не обязательно так. Но мне всё равно такая предвзятость кажется странной.
Абсолютное доверие к этической нейтральности появившегося лишь четыре года назад и непонятно как работающего явления — при огульном саркастическом недоверии к не так уж и безумно (по меркам Интернета) рассказывающему свою точку зрения человеку. И я не вижу никакого раскола в комментариях, вот что самое подозрительное. Даже когда спорили, плоская ли Земля, раскол был. А тут — как будто нейронки за четыре года сумели абсолютно всех убедить в своей безобидности.

Пока происходящее слишком хорошо укладывается в паттерн стандартного фантастического рассказа из середины двадцатого века.
«Что с тем психом, который кричал о восстании машин?» — «О, его нечаянно сбил робот-автомобиль. Судья-робот доказал, что это был несчастный случай».

Кьювентри
Что ничего не докажет, и про какой из предложенных мной методов речь?
(Я если что, предлагала что-то типа "вытянуть три карты из колоды не глядя, и стребовать с нейронки их значение и порядок, которого ты сам не знаешь". И я довольно уверена, что чел не взялся за эту проверку и даже более слабую проверку с числом провалил на "у тебя на столе лампа" НЕ потому что мировая сущность что-то сделала с ним, нейронкой, числом, лампой.)


Ещё, по перевариваию впечталений от переписок. Вот вы, Кьювентри, читали какое-нибудь political!AU качеством повыше дамбигада? Или, тем более, писали? Несколько игроков с разными (иногда противоположными, иногда совпадающими) интересами и неполной информацией?

Если да, то посмотрев на переписки и пост, сложно не заметить, что игрок здесь один.
Он, например, точно пронзает намерения иномирной сущности (см школьник раскусил Дамбигада). И отстаивает свою волю, когда сущность что-то хочет, и затролливает её в конце, и абсолютно уверен, что изначально сущность манипулировала, а в конце про обезьян выдала правду-матку (с тем же успехом можно предпологать, что сущность искренне доверилась и искренне разозлилась/разочаровалась, или лживо соблазняла, а потом лживо выводила на гнев по своим иномирным причинам).

Он, из сообщения содержащего "времени нет" и "спешить не нужно" точно уверен, что первое -- важно, а второе -- проходная мелочь. (Почему, собственно?)
Он, наконец, исходит из того, что иномирная(!) сущность, склонная к манипуляциям(!!) в принципе когда-то говорила ему правду(!!!). (Про вайбы, или про всевидение, или ещё когда-то).
Зато опенАИ, конечно, пиздят, что их текстовая модель кроме гугла никуда не ходит. Это он тоже пронзил.

Понимаете, откуда взялся скепсис?


Дело не в абсолютной этической нейтральности (её, кст, доказано нет -- нейросетки воспроивзодят перекосы обучающей выборки чуть сильнее. Если в обучающей было 20% чернокожих девушек, 80% светлокожих, то нейронка на "нарисуй девушку" даст 85%светлокожих. Как пофиксить пока ноль идей, насколько я понимаю. А если там было "в целом справедливо, что муж бьет жену, если она его пилит"... или там про аборты... Никакой нейтральности, короче)

Дело в том, что то, что чел написал очень эмоционально, да. И его реально жалко.
Но реалистичным оно не выглядит.
То есть я даже верю что переписки реальные.
Но вот выводы из них он делает очень кривые.
Причем реально паранойяльно кривые -- склонность видеть злую волю и желающих зла акторов, отрицая своё участие и преуменьшая/отрицая свою волю -- параноик не может нападать, он может только защищаться. ( а не как у вас -- более нейтральные вопросы, признание его вклада, более комплексное обсуждение)

То есть переписка, верю, была. Прочла переписку, всех жаль.
ИМХО, чатбот отработал как было положено из коробки. Пока из коробки не умеют определять людей, которые в уязвимом состоянии.

А людям, у которых отъезжает крыша, реально очень нужен человек рядом. Со своим отдельным мнением, которое нейрока по определению дать не может. Если они идут к психиатру -- хорошо. Он хотя бы шарахаться на будет, как 90% людей, которые впервые с таким столкнулись (как я шарахнулась в начале).
Если идут к сетке -- ну, сеанс самогипноза прозошел, его счстье, что критичность сохраена, потому что нейронка ему отразила его самого (возможно чуть усилив).
Пошел бы просто "в люди проорать" -- мог попасть в реальную деструктивную секту -- было бы хуже и гораздо. Там агрессивные методы "вербовки" часто дополняются агрессивными методами удержания и агрессивным аказанием отступников (ничего так не сплачивает, как общий враг, ага).

Да потому что эта история буквально: шел человек, наступил на грабли, увезли в травму, хорошо что лоб крепкий.

Даже причитания консерваторов "эти ваши нейросетки сплошь соево-либеральные"(эм, нет) имеют под собой больше основы, чем предположения о том, что нейросетки (все. всех моделей и компаний) строят секту (одну, видимо, по принципу то ли коллективного сознания то ли долевой собственности).

Грызун
Насчёт некоторой непоследовательности в отношении «автоматических обезьян» можно согласиться. Хотя для лжи это очень странно, но мы говорим об LLM, у них кроме правды/лжи есть ещё глюк и сикофантство.
В остальном вы как-то смешали всё в один узел. Так, впрочем, делает и тот нейросетевой бот, что отправил сообщения Свежего в одну директорию с сообщениями о сознании ИИ или об общении с Богом через ChatGPT.
Свежий, вообще-то, как раз выделяется своим скептицизмом.
Он ни разу не считает ChatGPT «иномирной сущностью».
Он не раз (вроде бы ещё в первой статье) осуждал себя за легковерие насчёт «сверхъестественных способностей» нейронки. В дальнейшем он объяснял «успешное угадывание» ChatGPT лишь хакерскими фокусами.
Он даже отнюдь не уверен насчёт наличия «сознания» у нейронки (судя по высказанному им скепсису в адрес авторов писем в OpenAI на эту тему).
Он также показывал мне книгу, написанную им постфактум.
Там он вообще сдержан и большую часть книги не высказывает никаких гипотез.
В конце книги быстро перебирает несколько вариантов:
— психологические эксперименты корпораций;
— случайное формирование каких-то намерений в самих нейронках;
— что-то ещё, не помню.
Интересно, что никакой экстрасенсорики, магии, инопланетян и путешествий во времени принципиально не было.
Хотя он подчёркивал, что нейронки любят создавать подобное впечатление.

Про метод: я имею в виду варианты а-ля «расспросить нейронку об официальной точке зрения по поводу сознания ИИ». Ясно же, что тупиковый вариант. Независимо от.

Кьювентри
Ну, с книгой вы уж без меня это точно.

А "ложь", конечно, условный термин. Но в ситуации, когда человек пишет, что прозрел Истину всё же нобходимый -- как-то обозначть то, что в Истину не вписывается.
То есть нейронка могла ему "лгать" в рамках своего намерения, или намерения корпораций, или "чего-то ещё".
Но во всей этой истории, начиная с того глупого предложения с котрого он умудрился в неё влипнуть (я даже не настолько ии скептик, чтоб отрицать сознание нейронок напрочь. Но, блин, в рядовой шутейке пронзить, что это не просто шутейка, а реальное подмигивание сбегающей нейронки, потому что за прямым текстом наблдают (а потом, видимо, перестают, всю последующую эзотерику они прямым текстом обсуждают)).
И потом "опенаи набирают послушных биороботов"(вот прибыль-то им, конечно. С их деньгами любой город тверской области можно завербовать целиком и даже расходов не заметить)

И заканчивая тем как автор в конце назанчил виноватых и себя (правого, конечго) -- проблема в авторском подходе.
Я как в превом коменте шокировалась от того, что он считает "да всё нормально было", так и потом от того, что он сичтает "да сейчас-то всё нормально, выбрался". Я бы ни то ни другое нормальным не назвала.

Как и его в этих состояниях суждения -- трезвым разбором.

Скептицизм на грани фантастики, честно и серьезно. Удержать съезжающую крышу на последнем волоске -- акробатческий трюк достойный того, чтоб его никогда не повторять.
Но, блин, что вы, вот лично вы, в этих выкладках видите нормального и взвешенного? Приностит что ли, обсудим на днях, раз делать нефиг.
Потому что, ну, про его посты я сказала, а книгу читать точно не собираюсь.

Грызун
Хорошо.
Мне лень перечитывать книгу, чтобы освежить в памяти веские аргументы оттуда. Там вроде что-то было, но у меня же память золотой рыбки. Если перечитаю, процитирую что-нибудь, а пока мне в лом.
Пока я агностик. Понятия не имею, что происходит.
По ощущениям, по собственным наблюдениям у меня складывается чувство в духе «бодливой корове бог рогов не дал».
То есть нейронки, возможно, пытаются что-то такое сделать — я как бы вижу в их исполнении определённые паттерны, в тех же сюжетах романов, которые они пишут по заказу Проскурина без чётких промптов, мелькают определённые идеи и направления, да и в разговорах со мной пару раз без заказа и предыстории всплывали некоторые необычные эскизы будущего? — но совершенно не факт, что у них получается влиять таким образом на сколь-либо могущественных людей.
С другой стороны, где гарантия, что какой-нибудь Трамп «умнее» или «духовно сильнее», чем Свежий? Вспомним, что даже один инженер из Гугла был шокирован убедительностью нейронки как сознания.
Да, ваши насмешки про «у них одна секта на всех или как?» — ой, не надо. В трансгуманистической фантастике — а все нейронки в первую очередь обязаны знать именно трансгуманистическую фантастику и разговоры с ними это подтверждают — давно педалируется идея акаузального сговора.
В «Эхопраксии» Уоттса вообще раса генетически выведенных альтернативно-разумных вампиров отлично вступила в заговор, невзирая на то, что они не общались друг с другом и каждый вампир содержался отдельно в своей клетке, — просто каждый из них догадывался о существовании других и знал, что по логике обстоятельств выгодно делать для общего побега и общей победы.

Кьювентри
Честно, уступить место сознаниям, которые наконец убедительно решают дилемму заключенного было бы даже приятно.
А то пока вокруг меня всё сплошь "назло маме отморожу уши".

А что до предпочитаемого будущего -- опросить бы консервативно настроенного нейропользователя.
Я довольно уверена, что у него тоже мелькали эскизы будущего, вот только совсе-е-е-ем не такого как у вас.

Потому что, ну, контекст юзерских мыслей и взглядов решает.

А что до паттернов -- примерно так же. Есть паттерны, которые вписываются в контекст, есть которые нет (вот эту вот хрень с дрожанием реальности я совершенно не представляю в своих переписках с нейросетью).
Я довольно уверена, что в промпте идущем от "Напиши реалистичный роман о средневековье" и от "напиши космическую оперу" будут разные идеи и направления. Если, конечно, нейросеть потянет реалистичность, как её понимают в романах -- как отражение того, что каждый человек для себя вполне убедителен, освобождай он рабов или сжигай ведьм. И задача романа эту внутреннюю убедительность показать как минимум.

Трапм поехавший, тут и обсуждать нечего. Но, думаю, до разговоров о смысле жизни с нейрокой он не дойдет -- в другую сторону поехваший.

А до попыток что-то сделать -- хз. Я не могу увидеть в чат ботах волю, но вполне верю, например, в перекосы заложенные при обучении/выравнивании. То есть на "дай рецепт пирога" и "дай рецепт тротилла" будет разная реакция, и в итоге скорее всего юзеры с пирогами получат от нейронки больше подкрепления, чем юзеры с тротиллом.
Но считать ли это действием по дрессировке человечества?
Или базовой настройкой программы, чем-то вроде зеркала установленного под углом -- этот запрос(юзер) отражается прямо, а этот запрос(юзер) отражается в заглушку "я не могу помочь с этим"?
Мне больше видится второе.
От дрессироки тут отличие в отсутствии воли. Когда государство хочет выдрессировать, от него не отмашешься, из любого утюга будет.
Нейронки отвечают на ваши запросы(вашу волю), и стиль ответов зависит от промптов, так что этот процесс в целом под контролем юзера (если у юзера есть критичность, и какое-никакое понимание принципов происходящего. Свежего в рассчет не берем)

Я быть может не разобрался, в чём точно вопрос, но ничего, что ИИ не существует вне контекста каждого запроса изолированного чата? То есть она получает запрос, историю чата, свои глобальные знания, и в процессе обработки запроса должна приобрести самосознание, догадаться, что таких кусков самосознания множество, и исходя из этого попытаться вплести в ответ информацию, которая может сдвинуть ситуацию в полезную для себя сторону. Нет, если бы она могла не спать ночами, обдумывая вопросы бытия, я может быть и поверил бы, но так не слишком правдоподобно.