#моё #размышления

Читаю сейчас пару статей о сознании, которое Чалмерс называет психологическим (или "осведомлённостью"). Одна, правда, очень хотела бы претендовать на решение трудной проблемы, но автора подводит, собственно, непонимание трудной проблемы, не суть важно. Интересно, что один из самых современных предиктивный подход к разуму на первый взгляд будто бы способствует мнению, что всякие чатжпт - это "почти разум" и уж точно "интеллект". Вроде бы и мозг заточен (согласно этой теории, я не могу судить об её истинности, но критики имеются) на то, чтобы непрерывно предсказывать окружающее, и чатжпт предсказывает следующее слово раз за разом. Один механизм? Нет. Как только вглядываешься, видишь коренное различие.

Сознание, по мнению учёных данного подхода, является реакцией на неопределённость. То есть, мозг непрерывно предсказывает состояние окружающего мира и своего организма (и себя самого в частности). И тут же реагирует на это. Это натуральный зомби-режим, сознание не нужно. Более того, в идеале мозг заточен на то, чтобы зомби-режим работал всегда, это экономит энергию и в целом хорошо-чудесно эволюционно (если всё предсказуемо, то выживание гарантировано, чистый вин). И наше мышление "обитает" по умолчанию внутри предсказаний. Предсказания в большинстве своём неосознанны, вообще говоря, осознанность не нужна по умолчанию.

Помимо предсказаний есть ещё и внешний мир, который проявляет себя в виде восприятия, сенсорных сигналов. И как только сенсорный сигнал расходится с предсказанием (это происходит постфактум, потому что процесс предсказания не прерывается никогда, но постфактум можно сравнить его с сенсорными сигналами), так сразу паника-паника-паника. И включается механизм под названием "сознание". Его задача - минимизировать возникшую неопределённость. Сделать выбор в ситуации, когда предсказания расходятся между собой. Выделить паттерн, который не выделяется по умолчанию (потом он будет выделяться по умолчанию, и сознание в такой же ситуации инициализироваться не будет). Перейти к более быстрой реакции (т.е. из предсказаний выйти в, например, эмоциональное реагирование, более простое, менее эффективное... более универсальное). Довести начатый в реале процесс до конца. Перераспределить приоритеты. Найти ресурсы. И так далее.

Сущность одна - нужно что-то сделать с возникшим отклонением от предсказания - неопределённостью. Потом сознание выключается или "ослабляется". Поскольку мелких отклонений от предсказаний обычно много (вплоть до внезапного камушка на дороге, о который можно споткнуться), то сознания постоянно включается-выключается фоном, постоянно работают на том или ином уровне эмоции как универсальная система реагирования, когда более сложные системы не справляются (например, реагировать на другого человека, полную модель которого составить невозможно, реагировать на новые данные о мире, который не может быть смоделирован в целом - и так далее).

Дальше есть всякие уточнения, как работают предсказания (опережающе-иерархически, снизу вверх регистрируется ошибка предсказания, запускающая или не запускающая сознание в зависимости от), как работает сознания, какие есть у него отдельные фичи и баги и так далее, но суть теории, думаю, ясна. Сознание работает не с определённостью и закономерностями, а наоборот, оно для этого (согласно данной теории) эволюционно и возникло - эдакий обработчик прерываний. Отсюда же всякое там осознанное моделирование ситуации (когда автоматического предсказания нет, надо его написать, обычно - по аналогии), воображение (не обязательно, люди с афантазией сознательны, но полезно), осознанные ощущения (фокус внимания на том, что "необычно" с "точки зрения" титанического пласта бессознательный автопредсказаний) и так далее.

Думаю, коренное отличие этой системы от нейронки уже понятно. Нейронка тоже предсказывает. Это общее. Нейронку дообучают люди. Ну, это чем-то похоже на интеллект (в отличие от разума, можно говорит об интеллекте животных с развитой нервной системой, а также об их сознании), но на самом деле это просто одна из систем автопредсказаний, которых у людей тьма. Значительно бОльшая, чем любая конкретная у людей, но не более того. Систему люди-нейронка тоже нельзя назвать интеллектуальной, поскольку интеллект требует, хм, автономии, он заточен по своей структуре на минимизацию ошибок предсказания, для этого он и "осознанно думает". А система люди-нейронка с дообучением - у неё даже нет нигде понятия неопределённости. Исправляются ошибки. А неопределённости нету. Нейросеть не "выбирает".

Когда говорят о том, что она пишет "галлюцинации" - то есть, уверенно выводит фразы, не соответствующие реальности или наполовину ей соответствующие как факты или безусловные безальтернативные выводы-истины, - так вот, тогда она никак не реагирует на неопределённость. У неё нет восприятия, чтобы реагировать на неопределённость. Нет внутреннего состояния (ну, конкретно у чатжпт, есть нейронки, которым их его прикручивают, емнип), которое отражало бы "работу мысли". Просто слепок навыка, который постоянно обтачивается своими создателями. Многогранный слепок, поскольку языковой навык сам по себе многогранен, а уж если учить на всех возможных языковых ситуациях... Получается клёвая штука. Но интеллекта в ней нет. Чистое предсказание.

Интеллект - это не предсказание. Это работа над ошибками. Понимание - это тоже не предсказание. Это объяснение, демонстрирующее, как отклонится предсказание при той или иной ошибке.