Кроме предполагаемого отупления человечества — риска, что искусственные нейросети целиком «выпьют» его сосредоточенность и ум, — есть ещё и другое мелкое основание для опасений.
Фортианство.
Не знаю, кем меня назовут, но этот унитаз в шкафу тоже должен получить своё имя.
Фортианство:
— комплекс идей, восходящих к Чарльзу Форту. Предположение, что человечество то ли чья-то ферма, то ли экспериментальный полигон. Что оно курируется какими-то сторонними недружественными существами — то ли могущественными властелинами, то ли сравнительно слабыми паразитами, но в любом случае хитрыми и коварными. На них фортианцы возлагают ответственность за всю паранормальщину и за существование религий. Предполагается, что эти таинственные ящерики уже тысячелетиями тайно манипулируют человечеством через вещие сны, мистические культы, спиритические доски, автоматическое письмо, медитации, расстановки по Хеллингеру, кофейную гущу и что кому придёт в голову.

Я не знаю, как я к этому отношусь.
Мне попадалось некоторое дерьмо, особенно в сектантском детстве, но прямого столкновения с чем-то сверхъестественным не было.
Но тут уместна логика Сикорски.
Даже малая вероятность...
В рамках фортианского дискурса LLM-ки могли бы быть почти что идеальным инструментом для манипуляции человечеством. Вы не знаете, что происходит внутри нейросети? Значит, ничто не мешает коварному астральному невидимке протянуть щупальце в компьютер и заставить нейросеть дать не тот ответ, который она иначе дала бы.

Выглядит как посконная бредовая паранойя шизанутых попов. «Бесы в компьютере!», да.
Но интересно, что как раз православные священники в основе своей очень скептически относятся к таким разговорам.
Трудно сказать, почему, ведь, казалось бы, чисто логически человек, верящий в их картину мира, должен находить эти прогнозы вполне правдоподобными. То ли они на самом деле в глубине души относятся к своему христианству как к толкиенистской игре, не веря в «бесов» всерьёз, то ли здесь дело в том, что они скорее христиане, чем фортианцы, — а значит, они верят в весь комплекс христианских пророчеств, где нет упоминаний о том, что «людьми будут править бесы из сверкающих железок».