Asteroid
> Просто попробуй расширить понятие "мышление" с чисто человеческого случая. И пойми, что оно тогда не обязано быть булевой константой "есть, или нет", а вполне может являться рациональным (и наверное положительным) числом.

Можно начать с того, что рассматривать "мышление" не как число, а как процесс.

> можно, как с теми студентами, придумать вопрос, который покажет правду, да? )

Ещё раз, медленно и внимательно.

Проблема не в том, будто бы нейросеть якобы "не может ответить на какой-то вопрос". Проблема в том, как именно она отвечает — например, в неспособности распознавать и фильтровать "галлюцинации" и "чушь", если распознавание и фильтрация конкретного типа чуши не были заложены в обучающую выборку / контекст промпта.

Опять же, в примере выше с рептилоидами это вполне наглядно. И ситуация, когда следующая "более продвинутая" версия ллм начала распознавать вопросы про рептилоидов — означает только, что примеры вопросов про рептилоидов были в её обучающей выборке. Это напрямую следует из того, что "менее продвинутая" версия нейросети тоже начала их распознавать, как только соотв. вопросы в явном виде были включены в контекст промпта.

> Да нет, просто количество переходит в качество

А на вопрос "как именно и почему именно оно переходит" — ответ будет "ну просто количество переходит в качество", да?

Мантры — неизменно прекрасны.

> Слышал про китайскую комнату?

Более того: я слышал, что в примере с китайской комнатой чуть менее чем все упускают из рассмотрения всю систему целиком (начиная от составителей словаря).

> пока оно раз за разом подтверждает, что оно утка, мне влом ставить под сомнение его утиную природу

А оно ли "подтверждает, что утка" — или ты, как утёнок, приписываешь ему черты утки?

Искажение антропоморфизации — оно именно об этом.