Asteroid
> там нет структурированных правил в самой нейросети. Иначе было бы гораздо легче их делать - взял, и поправил правила. Но нифига подобного.

В самом скомпилированном двоичном коде нет никаких команд. Иначе было бы гораздо легче его программировать — взял, и поправил сразу код. Но нифига подобного.

> Начиная с некоторого времени Лондон будет завален конским навозом по крыши домов, если что.

Как там с функциональностью биткойна дела обстоят, напомни.

> но современные нейросети именно совокупность нескольких

Попроси у ллм составить тебе, например, список научных исторических публикаций про войну между ассирийцами и рептилоидами, произошедшую в 1714 году.

Ты обнаружишь, что нейронка либо выдаст тебе список заведомо фейковых публикаций, либо (если укажешь "расписывать по шагам" и "обращаться к доверенным базам публикаций типа WoS") пожалуется на отсутствие доступа и/или данных.

У ллм нет мета-фильтра, который сопоставит на мета-уровне понятия "Ассирия", "рептилоиды" и "1714 год", определит фундаментальную разность их контекстов, и выдаст тебе ответ вида "таких публикаций не может быть, потому что война между ассирийцами и рептилоидами это фантастическая чушь, и вообще в 1714 году не было уже никакой Ассирии". Чтобы получить такой ответ, надо в явном порядке прописывать соответствующий промпт.

Пока у ллм не будет хотя бы минимальной возможности генерализованного распознавания "garbage in" и реакции на него вместо "garbage out" — рассуждения про "ллм-мышление" бессмысленны.

(И нет, речь не про забитые руками блоки по ключевым словам типа "как языковая модель, я не могу обсуждать чувствительные политические и этические вопросы" etc, а именно про обобщённую реакцию.)