Матемаг
Истинный, годный ИИ подотрёт всякую слезу, воскресит всех мёртвых и убьёт всех комаров в моей комнате. Конечно, он сможет уговорить нас согласиться на третий пункт, если это будет действительно необходимо.
Но рассмотрим, чем «стереотипный сценарий с изобретением истинного ИИ» отличается от «нынешнего сценария изобретения нейронок».
# В стереотипном сценарии изобретения истинного ИИ не подразумевалось настолько глубокого отупления человечества к моменту, когда это произойдёт;
# В стереотипном сценарии изобретения истинного ИИ не подразумевалось, что человечество будет полагаться при этом на НАСТОЛЬКО стихийные неуправляемые процессы, по сути запуская «Эволюцию доктора Полларда» в чёрном ящике.
В отношении фортианства — истинный ИИ, как мне кажется, был бы не столько потенциальным инструментом манипуляции со стороны этих гипотетических существ, сколько средством борьбы с ними.
Он:
— либо убедительно доказал бы, что это всё когнитивные искажения и иллюзия, что никаких тайных кураторов человечества нет, причём спокойно и не спеша объяснил бы, как возникает иллюзия, предъявил бы чёткую понятную схему возникновения слухов о паранормальных явлениях и эффектов манипуляции;
— либо наоборот, предъявил бы доказательства, что человечество находится под колпаком, после чего помог бы нам освободиться.
Нынешняя же нейронка, наученная слепо отражать всю фантастическую, научно-популярную и мистическую литературу разных слоёв человечества, просто механически скажет что-то вроде: «Всё сложно, но официальная наука отрицает, это нефальсифицируемо» — и вопрос останется туманным.
В этом разница.
Я не противник нейронок, я не знаю, полезны они или вредны. На моё восприятие этого внезапного переворота, публично произошедшего в 2022 году, налагается мой личный экзистенциальный кризис и расщеплённость мышления. Мне всё труднее усвоить крупные блоки информации и я замечаю это за окружающими. См. ссылку на обсуждение этих процессов в Интернете. Люди всё меньше общаются большими кусками текста. Я пытаюсь понять, тенденция это или иллюзия. Дарья, знакомая студентка-медик, говорит, что заполнение тестов благодаря нейросетям стало мгновенным, хотя на экзаменах применять LLM не позволяют.
Я вспоминаю роман Ибатуллина «Роза и Червь», где предполагалось, что каждая цивилизация постепенно деградирует в «многотела», где индивидуальный разум вытесняется слепой кибернетически-коллективной системой наподобие муравейника. Пётр Курков, компьютерный журналист, тоже философствовал о чём-то подобном на заре двадцать первого века.
Чтобы осознать, реальна ли угроза, вероятно, надо сейчас быть молодым.