Кьювентри
Честно скажу, не осилил третью статью. Дошел до момента, где отсылка на статью ChatGPT-4 обошел капчу, наняв фрилансера и притворившись слепым человеком.
https://rb.ru/news/chatgpt-4-captcha/

И подумал, что тут, вполне вероятно, не обошлось без пиарщика. И что тут может быть, как с той фирмой из индусов, которая 4 года притворялась ИИ и недавно разорилась с концами. На этом желание читать дальше утихло.

С моей точки зрения, у того человека есть проблемы с психикой. Это не диагноз, мое субъективное мнение. Поэтому читать всерьез этот поток сознания бессмысленно. Мне кажется, это важный момент. Ведь все те люди, о которых он говорил, сделали одну и ту же ошибку: они потеряли критичность и стали говорить с ИИ так, как будто он не может ошибаться и глючить. Стали всерьез воспринимать то, что он им писал. Пытались глубоко вникнуть в компьютерный бред. Ну и вникли. На свою голову.

У Лема был рассказ интересный в серии о пилоте Пирксе. О том, как пропадали пилоты одноместных патрульных космических кораблей. Дальше спойлеры. У них там возникала сложная галлюцинация на мониторе. Плавающий заряд, который они принимали за реальный объект. И вот пилоты начинали гнаться за этим "пришельцем", которого не было. Часами, наверное, гнались. Но не могли догнать, потому что его не было. А там еще изображение это пульсировало хитро... И они все эти часы смотрели строго в эту точку. Все внимание сосредотачивали только на ней. В итоге, случался некий эпилептический припадок, и мозги шли в разнос. Ракета к тому моменту была хорошо так разогнана - и улетала куда-то вдаль по случайному курсу. И, естественно, растворялась в пустоте. Ну, это фантастика, конечно. В фантастике не проблема дать ракете двигатель такой мощности.

В общем, сказка ложь, да в ней намек. Не сосредотачивайте все внимание на странном, пытаясь найти в нем смысл. Не гонитесь за пустотой. А то может плохо закончиться.


А теперь немного в сторону. Надо сказать, мне приходили в голову мысли, что генеративный ИИ могут использовать сектанты, чтобы пудрить кому-то мозги. Только не OpenAI, а настоящие сектанты. У OpenAI тоже есть свои корпоративные заскоки, конечно. Но они ориентированы на прибыль. Поэтому на сектантские всякие загоны у них должна быть жесткая аллергия. Они должны прекрасно понимать, что любая история, связанная с насилием, похоронит их репутацию и бизнес. Они будут любой ценой избегать сомнительных историй и чего угодно, что может привести к насилию, убийствам и так далее. А вот настоящие сектанты, вроде Аум Сенрике или подобных, таких тормозов лишены. И они могут, натурально, попытаться подобрать промпты или что-то еще, чтобы массово начать промывать мозги. В обычной секте производительность промывки мозгов ограничена работоспособностью основателя, его ближнего круга и привлеченных агитаторов. А нейросеть не устает и потенциально хорошо масштабируется. Только деньги плати за электричество. Вот так. Надеюсь, до такого так никто из потенциальных основателей и не додумается. Или что это будет намного сложнее сделать на практике, чем так вот начерно набросать идею.