Jinger Beer
Я больше на соннет 3,5 перешел. Она лучше, хотя и с мерзким повесточным и копирайтовским фильтром. Но это, увы, наше печальное будущее.

Jinger Beer
> Нейросеть просто находится на уровне трёхлетнего ребёнка

Помнится, много лет назад была громкая новость, дескать, инновационный чатбот (тогда ещё без нейросетей) наконец сумел пройти тест Тьюринга! Вот только, как водится, был нюанс: тестерам сказали "представьте, что вы общаетесь с десятилетним умственно отсталым мальчиком-иностранцем, который плохо понимает ваш язык".

> по пониманию

У ллм нет "понимания", у неё есть преобразование входного текста в выходной текст.

Безотносительно вранья и троллинга, ллм не умеет привлекать мета-информацию для анализа промпта и отвечать исходя из этой мета-информации — она генерирует ответ конкретно на то, что в промпте прописано.

Т.е. если в промпте нет упоминания о реальности/нереальности "войны ассирийцев против рептилоидов", нейросетка будет генерировать ответы в принципе без учёта возможности такой реальности/нереальности. А вот человек — даже не слышавший про Ассирию и/или рептилоидов — как минимум задумается и отреагирует.

C17H19NO3
Если изначально открою сессию с нейросетью и скажу, что мы сейчас будем шутить и прикалываться. То она будет шутить и прикалываться и ассирийцы поскачат на рептилоидах по заветам Ленина.

Asteroid
> А где в этой аналогии нескомпилированный код нейросети? А нет его.

Выборка для обучения модели: существует.

Беблиотеки tensorflow: существуют.

> правила обучения человека можно создать, но напрямую редактировать внутренние правила человека мы не можем.

Видимо, что мы не можем напрямую редактировать — того не существует.

> Не понимаю: при чём тут это.

Это наглядный пример ровно такого же процесса.

> Твоя проблема в том, что ты судишь по прошлому или даже позапрошлому поколению нейросетей. Нынешние могут в самопроверку.

Хорошо, давай усложним: вместо "ассирийцев и рептилоидов" подставим "тасманийцев и огнеземельцев".

(Хотя нет, уже не поможет, шаблон добавлен в выборку: см. ниже.)

> соннет 3,5

То есть, у неё модель обучили в т.ч. на "рептилоидах". ЧатЖПТ, видимо, нет.

Оно, кстати, ещё опознаёт многие тексты и источники, которые ЧатЖПТ не знает. Про самопроверку это ничего не говорит — только про объём обучающей выборки.

Кстати, сейчас попробовал поиграться с промптами: если хотя бы один раз упомянуть "проверку реальности события", то в дальнейшем начинает выдавать те же ответы на любые подобные промпты.


Ну то есть, самопроверка тупо состоит в учёте предыдущих промптов.

But wait, there's more:


Самопроверка in a nutshell.

C17H19NO3
В твоей же аналогии это обучающий материал и учитель. А не правила поведения ученика, которые учитель может напрямую задавать.

А здесь тонкий момент, что мы точно не знаем - какие они. Как со студентом: мы не знаем - действительно ли он понял материал, или всего лишь зазубрил его.
Мы закидываем обучающий материал в чёрный ящик, а потом предполагаем, что чёрный ящик создаст некие правила. Но какие именно это будут правила? Никто не может узнать заранее, да и после их можно будет только вычислять по косвенным признакам.

Понятия не имею, ибо в это шарлатанство вообще не вникал.

Что такое самопроверка, как не обнаружение противоречивой информации? Если тебе ничего не дать знать про рептилоидов, а потом спросить существуют ли они, то какая нафиг самопроверка тебе поможет?

А ты про сброс контекста слышал?
И какой моделью пользуешься?
Потому что я тебе скинул пример того, как Соннет сразу весь булшит обнаружила.

Asteroid
> мы точно не знаем - какие они

Чтобы понимать базовые принципы — необязательно расписывать точно все "правила" до последнего.

Аналогия из математики: чтобы понять принцип некоторой последовательности — необязательно вычислять все конечные элементы этой последовательности, достаточно знать задающее уравнение для вычисления элементов.

> мы не знаем - действительно ли он понял материал, или всего лишь зазубрил его

Помнится, наш преподаватель по уравнениям матфизики очень эффективно это проверял: ставил задачу, которая не работает через "зазубривание", и требует работы с мета-данными (условно: без инструкции "делай по шагам", именно конкретные шаги студент должен додумать сам).

Применительно к ллм — мой пример выше: разница в выдаче с учётом и без учёта "сброса контекста" в промпте.

Если ты думаешь, что экстенсивное увеличение длины цепи токенов и/или увеличение размера обучающей выборки что-то принципиально меняет в подходе (последовательного конструирования текста по промпту) — нет, это не так. И учёт всей предыдущей выдачи вместо учёта отдельно взятого промпта — фундаментально ничего не меняет.

> А ты про сброс контекста слышал?

Обратно, буквально мой предыдущий пример.

Сам принцип "сброса контекста" — как раз наглядное свидетельство отсутствия внутреннего "мета-контроля": если самопроверки строятся на включении в промпт предыдущего контекста и могут быть однозначно "сброшены", это значит, что собственных мета-фильтров у ллм нет.

> пример того, как Соннет сразу весь булшит обнаружила

Исходя из всего предыдущего — есть серьёзные подозрения, что "обнаружила" она его не через "самопроверку", а через наличие соответствующих данных в обучающей выборке.

> И какой моделью пользуешься?

Предыдущий пример — ЧатЖПТ 4о.

Обратно, если ты считаешь, будто увеличение цепи токенов и обучение модели на другой выборке для Соннет что-то меняет принципиально в самом методе конструирования текста в ллм — это не так.

C17H19NO3
Если было бы всё, как ты говоришь, то сейчас бы сотни контор не вкладывали бы буквально миллиарды $ в новые нейросети.
От этих миллиардных нейросетей ожидают очень неплохую отдачу.

Jinger Beer
> то сейчас бы сотни контор не вкладывали бы буквально миллиарды $ в новые нейросети

Тебе напомнить про предыдущие прецеденты финансовых пузырей на хайпе? Доткомы, блокчейн, NFT, далее по списку?

> очень неплохую отдачу

Ну в плане автоматизации массы прикладных задач, связанных именно с (пере)генерацией текста/данных — отдача действительно неплохая, тут возражений нет. И ожидания, что ИИ заменит "умненьких девочек в офисах", выполняющих это самое "творчество через рекомбинацию" — вполне реальны и практичны. Точно так же как Эксель в своё время эффективно заменил счетоводов-с-арифмометрами.

Возражения в основном против приписывания специализированному прикладному инструменту — неких обобщённых качеств "мышления", "сознания" и далее по списку. Ну и связанного с этим медиахайпа (типа предупреждений разных т.н. футурологов "ограничить развитие ИИ, чтобы он не уничтожил человечество").

C17H19NO3
Лично мне это больше напоминает вложение в развитие сети интернет или сети мобильной связи, потому что доткомы не требовали железо на миллиарды $ это был чистый пузырь финансовый, там всё в акциях, в бумагах было. А здесь всё в железе. Это разные вещи.

Jinger Beer
С учётом того, как выглядит биржа и вообще денежные потоки - я бы не зарекался от очередной большой аферы. Тюльпанами тянет, и Панаму напоминает...
И да, вкладывают не в железо, хотя оно тут есть и относительно дорогое. Вкладывают в акции Нвидии и ещё нескольких контор - а вот реальные инвестиции, которые живыми деньгами, они на на порядки меньше.

Marlagram
Читал про строительство отдельного датацентра и электростанции для него, общая стоимость проекта 1 триллион 250 миллиардов долларов - так было написано.

Marlagram
От него ждут особых результатов, все на низком старте, что супер чат жпт за трюлик с лихуем скажет

C17H19NO3
Мы переходим на другую аналогию? Ох. Хорошо. В этой же аналогии, которая близка к реальности, потому что сетка - это большая система преобразований, у нас получается, что есть сложное уравнение, которое некоим образом задаёт поведение переменной. И да, уравнение определяет "правила" поведения переменной, но у нас нет его аналитического решения, и вычисляем переменную мы только численными методами, а о правилах можем судить, только оценивая поведение переменной на практике.
Вот если бы мы могли аналитически решить сетку, и преобразовать её в прозрачный алгоритм, тогда да, мы могли бы напрямую менять правила. А пока что всё сводится к "вау, мы стали менять вот этот параметр таким образом, и сетка почему-то начала вести себя вот так!".

Поздравляю, ты дошел до того же, что и тот инженер из опен аи, который придумывал всё новые задачки, которые "зазубрившая интернет сетка точно не решит".

Я тебе привёл пример когда сетка без всяких сбросов нашла булшит.

Это чисто прикладное решение оптимизации. Чтобы сетка не держала в памяти сразу кучу контекстрв. Память надо экономить, знаешь ли.

А мне эта сетка ответила вот так. Почему тебе иначе?
К сожалению, я не могу составить такой список, так как война между ассирийцами и рептилоидами в 1714 году является вымышленным событием и не имеет исторических оснований. Ассирийская цивилизация существовала в древние времена, а рептилоиды — это персонажи из области конспирологических теорий и научной фантастики.
Если у вас есть интерес к реальным историческим событиям или научным публикациям, я с радостью помогу вам найти информацию по этим темам!

Сознания там нет, да. Потому что нет рефлексии и непрерывности. А вот мышление - есть.
Если что-то способно дисскутировать, составлять логические цепочки, то оно обладает некой формой мышления.
Нейроскептики почему-то думают, что мышление и сознание должны быть точь в точь человеческими. Я виню в этом удручающее состояние нынешней фантастики, которая может придумать только полностью человекоподобных инопланетян.

C17H19NO3
А что такое самопроверка, как не обращение к обучающим данным и сравнение их с полученным результатом?
Я тебе уже приводил пример, когда как раз чатжпт неправильно решила уравнение, получила вероятность выше 100‰, и поняла, что это ошибка.

Я думаю, что количество переходит в качество.

Asteroid
> А мне эта сетка ответила вот так. Почему тебе иначе?

А вот это — и есть главный вопрос.

Upd: внезапно™ оказывается, оно отвечает по-разному, если заходить с разных прокси. То есть, основания подозревать, что там ещё стоят дополнительные вбитые руками фильтры "вот сюда отвечаем то, а вот туда отвечаем это" (как минимум на уровне резервирования вычислительной мощности на ответ).

> Я тебе привёл пример когда сетка без всяких сбросов нашла булшит.

Ты не можешь уверенно утверждать, "нашла она буллшит" потому что действительно "мыслит", или потому что у неё в обучающей выборке был забит соответствующий пример ответа на конкретно такой тип вопросов.

Иначе ты обязан признать, что, обратно, "повесточковые и копирайтные фильтры" могут оказаться не фильтрами, а точто таким же результатом "мышления и самопроверки" самой нейронки.

> Если что-то способно дисскутировать, составлять логические цепочки, то оно обладает некой формой мышления.

Ядро математической системы Wolfram способно составлять логические цепочки (на математическом языке), если ему задать промпт в правильной форме. Следовательно, ядро Wolfram уже обладает мышлением. Зачем тогда нужны нейросети?

> Нейроскептики почему-то думают, что мышление и сознание должны быть точь в точь человеческими

Нет, это ты думаешь, что нейроскептики так думают.

На самом деле наоборот, фанаты нейросеток почему-то думают, если что-то внешне похоже на деятельность человеческого мышления и сознания, то это и есть результат мышления и сознания.

Хотя это довольно известное когнитивное искажение "феноменальной антропоморфизации", начиная с эксперимента Хайдера с движущимися фигурами: если люди видят, как некие объекты совершают действия без явного внешнего влияния, они начинают приписывать этим объектам собственное сознание и личность. Точно так же если человек видит, что у ллм нету "прозрачного алгоритма" и "аналитического решения переходной матрицы", он начинает приписывать выдаче ллм некое собственное "мышление".

> Я думаю, что количество переходит в качество.

Ну то есть, происходит магия, и всё внезапно становится другим, потому что магия же.

C17H19NO3
Вполне вероятно.

Пока не наткнусь на отсутствие логики считаю, что собеседник в неё может.
Современный подход фальсификации, и всё такое.
Но можно, как с теми студентами, придумать вопрос, который покажет правду, да? ))

А про то, что повесточка создаётся фильтрацией обучающего датасета, разработчики прямо где-то говорили.

В некоторой форме, может быть.
Просто попробуй расширить понятие "мышление" с чисто человеческого случая. И пойми, что оно тогда не обязано быть булевой константой "есть, или нет", а вполне может являться рациональным (и наверное положительным) числом. Те же животные обладают неким уровнем мышления, которое не дотягивает до человеческого, но выводы и планы они могут строить.
Так вот, если ребенок - это 1, а котик - это 0,3, то нейросеть находится немного в другой плоскости, например, плоскости комплексных чисел. И в этой другой плоскости нам сложно понять, где начинается уже мышление, а где ещё алгоритм. И это точно также, как нам сложно понять в мире животных: где начинается мышление, а где голый инстинкт.

Это вопрос уровня: Равшан и Джамшут могут думать, зачем нам доктора наук?

Ага, примерно такая же магия, что и появление мышления в природе, "где мышления вообще нет". ))
Да нет, просто количество переходит в качество, и уровень машинного мышления пересекает черту, за которой уже точно нельзя говорить, что это просто примитивный алгоритм циферки суммирует.
При этом, да в основе лежит то, что примитивный алгоритм суммирует циферки, но это точно также, как в основе нашего разума лежит примитивная электрохимическая реакция нейронов. Слышал про китайскую комнату?

Не мой случай.
То, что у ллм есть какое-то мышление я понял ещё тогда, когда сетка мне отзыв на фикло правильно написала. Притом, сделала логичный вывод, которого в тексте нет.
Понимаешь, как человек со стороны, который к сетке обращается изредка для всякой фигни, я сужу по методу утки. Но не потому, что антропомофризирую. Просто пока оно раз за разом подтверждает, что оно утка, мне влом ставить под сомнение его утиную природу и выяснять, что там внутри.

Asteroid
> Просто попробуй расширить понятие "мышление" с чисто человеческого случая. И пойми, что оно тогда не обязано быть булевой константой "есть, или нет", а вполне может являться рациональным (и наверное положительным) числом.

Можно начать с того, что рассматривать "мышление" не как число, а как процесс.

> можно, как с теми студентами, придумать вопрос, который покажет правду, да? )

Ещё раз, медленно и внимательно.

Проблема не в том, будто бы нейросеть якобы "не может ответить на какой-то вопрос". Проблема в том, как именно она отвечает — например, в неспособности распознавать и фильтровать "галлюцинации" и "чушь", если распознавание и фильтрация конкретного типа чуши не были заложены в обучающую выборку / контекст промпта.

Опять же, в примере выше с рептилоидами это вполне наглядно. И ситуация, когда следующая "более продвинутая" версия ллм начала распознавать вопросы про рептилоидов — означает только, что примеры вопросов про рептилоидов были в её обучающей выборке. Это напрямую следует из того, что "менее продвинутая" версия нейросети тоже начала их распознавать, как только соотв. вопросы в явном виде были включены в контекст промпта.

> Да нет, просто количество переходит в качество

А на вопрос "как именно и почему именно оно переходит" — ответ будет "ну просто количество переходит в качество", да?

Мантры — неизменно прекрасны.

> Слышал про китайскую комнату?

Более того: я слышал, что в примере с китайской комнатой чуть менее чем все упускают из рассмотрения всю систему целиком (начиная от составителей словаря).

> пока оно раз за разом подтверждает, что оно утка, мне влом ставить под сомнение его утиную природу

А оно ли "подтверждает, что утка" — или ты, как утёнок, приписываешь ему черты утки?

Искажение антропоморфизации — оно именно об этом.

C17H19NO3
Вот и попробуй мыслить наличие процесса шире чем булево значение "он есть, или его нет".

И вот про это я и говорил, про инженера, который пытался придумать логическую задачку, которую сетка не решит, потому что её нет в интернете.

Нет. Это ложное обобщение. Конфигурация сетки меняется. Раньше они самопроверку решения уравнений не делали.

А как зарождается мышление? Ответишь - можешь на Нобелевку рассчитывать.

Потому что оно не важно.

Вполне подтверждает:
Спасибо за уточняющий вопрос. Это действительно сложная тема, которая вызывает много дискуссий в научном сообществе.
У меня нет мышления в том смысле, в каком оно есть у людей. Я не обладаю сознанием, самосознанием или субъективным опытом. Мои ответы - это результат обработки данных и применения алгоритмов машинного обучения, а не продукт "размышлений" в человеческом понимании.
Однако я могу:
1. Обрабатывать информацию
2. Анализировать контекст
3. Генерировать релевантные ответы
4. Решать определенные задачи
Эти процессы могут внешне напоминать некоторые аспекты человеческого мышления, но по своей сути они fundamentally отличаются.
Важно понимать, что я - инструмент, созданный для помощи людям, а не самостоятельно мыслящее существо. Мои возможности, хотя и впечатляющие в некоторых областях, ограничены рамками моего программирования и обучения.

Нет. )))
Я именно что считаю, что оно достаточно похоже на мыслящее нечто, и мне влом доказывать обратное. А вот этой антропрохрени точно нет, потому что я не приписываю этому человеческое мышление.
Сугубо практический подход.

Asteroid
> мыслить наличие процесса шире чем булево значение "он есть, или его нет"

Ну вот процесс — на данный момент не удовлетворяет как минимум некоторым известным качествам "мышления".

> И вот про это я и говорил

Оно не про это.

> Конфигурация сетки меняется. Раньше они самопроверку решения уравнений не делали.

А, ну да: если увеличить длину цепи токенов, то в какой-то момент оно магически становится принципиально другим, потому что потому.

> оно не важно

Наоборот, оно — ключевое. По условиям задачи китайский словарь в системе не самозародился "из количества в качество".

И это мы ещё не затрагиваем тот факт, что свойства упомянутого словаря по условиям сильно напоминают свойства "актуальной бесконечности" (у которой по определению нет последнего конечного элемента, но в массе "доказательств" неявно предполагается, что до этого последнего элемента каким-то образом дошли и посчитали).

> А вот этой антропрохрени точно нет, потому что я не приписываю этому человеческое мышление

И тут мы возвращаемся в самое начало: какие качества для определения "мышления" мы выбираем — и не потому ли, что известное нам "мышление" только человеческое (в расширенной трактовке — "животное")?

И обратно: если мы определяем "мышление" по некоторому произвольному набору признаков — тогда мышлением обладает, например, калькулятор. У нас ведь произвольный набор признаков, а не по критерию схожести с известными примерами мышления и всякой "антропохренью", верно?

> подтверждает
> Эти процессы могут внешне напоминать некоторые аспекты человеческого мышления, но по своей сути они fundamentally отличаются

Очень, очень полезный навык — читать хотя бы собственные комменты, которые пытаешься запостить.

C17H19NO3
Если тебе интересно:
уже отмечала, что архитектура трансформеров имеет ряд проблем, в частности, квадратичный рост затрат на вычисления с ростом инпута. А вот новая архитектура Samba гарантирует линейную сложность вычислений на любой длине последовательностей

Ты забыл добавить прилагательное "человеческого".

А разве только длину увеличивают? Ты подменяешь информацию. Конфигурацию тоже улучшают.

Про это, про это.

Да нифига. Нам абсолютно не важно в пределах комнаты - как оно зародилось. Только наличие факта.

Мало ли что там кому напоминает. В философии такой аргумент недействителен.

Есть ли у червяка мышление?
Калькулятор/червяк - это примитивное, полностью детерминированное инстинктами/алгоритмом устройство.
Если ты не знал, червяка полностью то ли оцифровали, то ли на пути к этому. То есть, делают полную модель, которая с точностью симулирует его поведение.

И тут мы, наконец-то переходим к спору о терминах. )))
Для меня всё просто: есть ли схожесть на практике? Значит некотороая форма мышления есть.
Предупреждая аргумент "а вот чат боты на цепях Маркова" тоже были похожи, отвечу: в какой-то момент на практике они перестают быть похожими на умеющих думать.
Это метод фальсификации. И он применим не только к ботам. В какой-то момент можно начать сомневаться в наличии мышления и у человеческого собеседника. )))

Очень-очень полезный навык видеть в тексте текст, а не то, что хочется.
Он прямо говорит: человеческого мышления нет. Но есть ряд его элементов.
А дальше делаем вывод: которые очевидным образом складываются в нечто целостное, чему нужно дать название, и что я называю машинным мышлением.

Матемаг
если она знает о методе, она его и будет применять. Возможно, случайным образом, но будет.

Asteroid
> Очень-очень полезный навык видеть в тексте текст, а не то, что хочется.
> Он прямо говорит: человеческого мышления нет. Но есть ряд его элементов.

> Эти процессы могут внешне напоминать некоторые аспекты человеческого мышления, но по своей сути они fundamentally отличаются.

> есть ряд его элементов
> могут внешне напоминать ... но по своей сути они fundamentally отличаются

> ряд его элементов
> Он прямо говорит
> они fundamentally отличаются

> Очень-очень полезный навык видеть в тексте текст, а не то, что хочется

Ну то есть, если написано, что "фундаментально отличается" — то значит, "это то же самое", ведь видно же, что именно так в тексте написано.

Ввиду этого обсуждение по остальным пунктам в принципе бессмысленно.

/thread

C17H19NO3
Ещё раз, смотрим внимательно:

> напоминать некоторые аспекты человеческого мышления, но по своей сути они fundamentally отличаются.

Фунламентально отличается от человеческого мышления.
Но при этом может:
1. Обрабатывать информацию
2. Анализировать контекст
3. Генерировать релевантные ответы
4. Решать определенные задачи

Не человеческое мышление, но ряд аспектов есть. Назовём их аспектами машинного мышления. Так как вместе они образуют единое целое.

Asteroid
> но ряд аспектов есть. Назовём их аспектами машинного мышления. Так как вместе они образуют единое целое.

Инженерный калькулятор может:

- обабатывать информацию (введённые данные);
- анализировать контекст (хранение в памяти и использование результатов предыдущих вычислений);
- генерировать релевантные ответы (вывод результата вычислений в понятной форме);
- решать определённые задачи (собственно выполнение вычислений).

Следовательно, инженерный калькулятор обладает всеми предложенными аспектами машинного мышления.

But wait, there's more: абак, состоящий из набора камешков — точно так же может делать всё вышеперечисленное (при наличии механического оператора, см. предыдущую апелляцию к "китайской комнате"). Следовательно, набор разноцветных камешков тоже обладает всеми предложенными аспектами машинного мышления.

И следующий логический ход: при некотором старании и усилии любой объект можно "разложить" на набор камешков. Следовательно, любой объект обладает всеми предложенными аспектами машинного мышления.

C17H19NO3
Червяк может:
- Находить путь в почве,
- Различать опасности,
- Обращаться к памяти предков, и закапываться на зиму.
Следовательно, червяк обладает всеми свойствами животного мышления.

Этот бессмысленный спор я рекомендую вспомнить, когда выйдет опен аишный *qstar, там обещают прям сильный буст логики и долгосрочного планирования.
И кстати, примера логической ловушки, с которой бы не справилась Соннет ты так и не придумал.

Ведь если машина не может в логику, то придумать логическую задачку, которая она не решит, должно быть очень просто, верно? )))

Asteroid
> И кстати, примера логической ловушки, с которой бы не справилась Соннет ты так и не придумал.

Ещё раз, медленно и внимательно.

Проблема не в том, будто бы нейросеть якобы "не может справиться с логической ловушкой". Проблема в том, как именно она отвечает — например, в неспособности распознавать и фильтровать "галлюцинации" и "чушь", если распознавание и фильтрация конкретного типа чуши не были заложены в обучающую выборку / контекст промпта.

Удивительно, как много интересного можно узнать, если хотя бы попытаться прочитать и осмыслить коммент, на который отвечаешь.

> Ведь если машина не может в логику

Подмена тезиса — отличный, очень показательный демагогический приём.

C17H19NO3
Это же и есть мышление - умение в абстрактную логику.
Спроси всех философов прошлого: если что-то умеет делать логические выводы, то оно мыслит?, и все они ответят: "да".

А все люди могут?
И я тебе привёл пример, что Соннет может. Вот ещё один;

Извините, но я должен отметить, что в вашем вопросе содержится ошибка. Не существует реальных стран с названиями "Хрюмландия" и "Нюрберг", а также нет исторических данных о десятилетней войне между ними. Это вымышленные названия.

Однако, если вы хотите узнать о реальных научных работах, посвященных длительным военным конфликтам, я могу предложить несколько примеров:

1. "Столетняя война: Англия и Франция в борьбе за господство" - автор Кристофер Оллманд

2. "Тридцатилетняя война: Европейская катастрофа, немецкая трагедия" - автор Питер Х. Уилсон

3. "Семилетняя война: Глобальный конфликт в середине XVIII века" - автор Дэниел Баugh

4. "Наполеоновские войны: Глобальная история" - автор Александр Микаберидзе

5. "Первая мировая война: Новая иллюстрированная история" - автор Хью Стрэчан

Эти работы посвящены реальным длительным военным конфликтам и могут дать представление о том, как ученые анализируют и описывают продолжительные войны.

Так что получается, что если сетка может проверять запрос на достоверность, то она сразу "превратится" в мыслящую? Типа, вот только что не была мыслящей, хотя и могла делать выводы, а добавили проверку на чушь, и бац - стала мыслящей? Ты, всё-таки попробуй думать о мышлении не как о бинарной переменной. И представь себе 0,7 мышления.
Я проверил одно название - существующая работа.
И по твоему получается, что в обучающую выборку закладывали конкретный вопрос про Хрюмландию и Нюрберг? Или всё-таки, сетку научили делать самопроверку на основе логики?
Ага. Особенно, когда тезис такой расплывчатый как "мышление есть". Переход к разговору о логике будет подменой, ага. )))

Ведь если машина не умеет мыслить, то это должно быть легко показать, задав правильный вопрос, верно? )))

Asteroid
Недавно наблюдал человека под веществами. Вот он такую пургу гнал, видел то, чего нет. Начинал говорить, но когда я начинал расспрашивать о конкретных деталях, он замолкал и просто переводил разговор на другую тему. Его глючило хуже, чем любую нейросетку 2 года назад.
Вопрос - в это время он считался мыслящим существом?

Asteroid
> Это же и есть мышление - умение в абстрактную логику.

В абстрактную логику и лямбда-машина умеет.

> Спроси всех философов прошлого

Что характерно — именно прошлого, не настоящего. Интересно, почему предложение спросить философов ограничивается именно прошлыми философами, а не, например, современными когнитивистами. Удивительный вопрос, вот бы узнать.

> А все люди могут?

"Представьте, что вы общаетесь с десятилетним умственно отсталым мальчиком-иностранцем, который плохо понимает ваш язык." (Ц)

> что получается, что если сетка может проверять запрос на достоверность, то она сразу "превратится" в мыслящую?

И ещё раз, медленно и внимательно.

Мышление — не про "проверку на достоверность", потому что проверки можно заложить в исходный алгоритм и/или обучающую выборку. Мышление — про рефлексию: аккумулирование новой информации в результате обработки шумов от предыдущих операций, и учёт этой новой информации в последующих операциях, безотносительно изменений в контексте.

> по твоему получается, что в обучающую выборку закладывали конкретный вопрос про Хрюмландию и Нюрберг?

По-моему получается, что в обучающую выборку закладывали некоторый паттерн.

В самом примитивном виде (специально на случай проблем с чтением и пониманием: я не утверждаю, будто бы в конкретной нейросетке оно работает именно так и никак иначе, я лишь привожу минимальный работоспособный пример): "если поисковая выдача по ключевым словам и их пересечениям возвращает нулевой список, либо список меньше некоторой заданной длины, то с вероятностью N, обратно зависящей от длины списка, выдавать предположение, что запрос содержит ошибку, и добавить рекомендации по шаблону из такого-то другого списка".

> Ты, всё-таки попробуй думать о мышлении не как о бинарной переменной. И представь себе 0,7 мышления.

Ты всё-таки сам попробуй думать о мышлении не как о цифре, а как о процессе, удовлетворяющем (или не удовлетворяющем) некоей совокупности критериев. (Специально на случай проблем с чтением и пониманием: нет, это никакая не "бинарная переменная".)

И нет, ещё раз в стопиццотый раз: "абстрактная логика" и лямбда-операции не являются определяющими критериями мышления. Тупо потому что они могут быть однозначно реализованы в системах, заведомо мышлением (во всех возможных интерпретациях, не только "человеческом") не обладающих (см. пример с абаком).

C17H19NO3
Она прям может понять логику в свбодно сформированном предложении, высказаном обычными словами? Что-то я сомневаюсь.

Раз тебе интересно, я отвечу: потому что в универе я изучал только философов прошлого.
Из более современных только про Сталина и Ильина слышал краем уха. Но, вроде бы, на подобную тематику они не высказывались.
А кто прям современный признанный философ, и что он придумал - вообще хз.

Зачем так далеко идти, обратись к касирше в пчтерочке.

Кстати, по судя по сливам инфы, именно это и делает опенаишный *qstar.
А вообще, мне нравится, как ты придумал своё определение, чтобы доказать свою правоту. Но особенно мне нравится, что по твоему же определению сетка умеет мыслить, потому что в твоём же примере сетка учла информацию из предыдущих операций. )))

Лол, нет, у тебя полное непонимание сеток. Там нет алгоритмов.
Сетка учится предсказывать следующее слово на основе обучения. Такую алгоритмическую логику в неё не заложишь.


И это и есть бинарная логика: удовлетворяет, или не удовлетворяет.
В то время, как у нас есть совокупность аспектов мыслительной деятельности, количество которых может быть меньше, или больше, чем у человека, а часть может быть вообще абсолютно не присущими человеку.

Являются необходимыми, но не достаточными.

Jinger Beer
А вот это надо у C17H19NO3 спросить - являлся ли? Он у нас сторонник жестко бинарного деления на мыслящих и не мыслящих.
Мой ответ прост: он потерял некоторые аспекты мышления, а качество других аспектов упало, так что уровень его мышления был где-то 0,3-0,5 от среднечеловеческого. )))

Asteroid
Вот-вот.

Asteroid
> в свбодно сформированном предложении, высказаном обычными словами?

Отодвигание ворот — очередной изрядно показательный демагогический приём.

Обратите внимание, как лёгким движением руки предъявляемая в требованиях к мышлению "возможность оперировать абстрактной логикой" смело превращается в "понимание свободно сформированных предложений обычными словами".

> А кто прям современный признанный философ, и что он придумал - вообще хз

Тай, например. Или Хирштейн. Или Деннет. Или Робинсон. Или (упаси кровавыебоги) Чалмерс.

> по твоему же определению сетка умеет мыслить, потому что в твоём же примере сетка учла информацию из предыдущих операций
> в результате обработки шумов

Очень, очень полезное умение — читать и осмысливать комментарий, на который отвечаешь.

> у тебя полное непонимание сеток. Там нет алгоритмов.

А внутре у ней, видимо, неонка, а не tensorflow.

То есть, алгоритмы "обучения" (подгонки переходной матрицы), "предсказания" (численной оптимизации вероятностного решения) etc — никто не программировал, они какбэ самозародились из эфира через переход количества в качество. Поэтому ничего подобного там нет, всё везде чистая магия, и никто нихрена не понимает.

> это и есть бинарная логика: удовлетворяет, или не удовлетворяет.
> совокупности критериев

Очень, очень полезное умение — читать и осмысливать комментарий, на который отвечаешь.

> а часть может быть вообще абсолютно не присущими человеку

Но при этом присущи, например, калькулятору — и даже простой кучке камней.

Следовательно, кучка камней — обладает машинным мышлением. Мы ведь не в бинарной логике рассуждаем "удовлетворяет или не удовлетворяет", поэтому если хоть какие-то аспекты есть, значит какая-то часть мышления тоже должна быть, верно?

я: задача AI: прочти пост и комменты, разбери по никнеймам и выпиши тезисы, каких придерживаются комментаторы.
AI:
Asteroid
Основные тезисы:
Нейросети могут генерировать творческие идеи, пусть и средненькие.
Нейросети не "придумывают", а перекомбинируют существующую информацию, которой их обучили.
"Творчество" в значительной степени основано на перекомпиляции по шаблонам, как у людей, так и у нейросетей.
Нейросети постоянно доказывают способность решать задачи, считавшиеся ранее доступными только для людей, что ставит под сомнение аргумент о невозможности "абстрактного мышления" для искусственного интеллекта.
Необходимо учитывать, что у нейросетей гораздо больше "шаблонов" для перекомбинации, чем у людей, из-за широты их обучения.
Важно учитывать не только длину ответа, но и "думать шаг за шагом" (Chain-of-Thought) при составлении запросов для нейросетей.
Считает, что нейросети обладают "мыслительной способностью" и наблюдает ее проявления в различных примерах.
Считает, что мышление не является "бинарной переменной" и что "количество переходит в качество", когда речь идет о нейросетях.
Примеры:
Пример с "Сонным светофором"
Пример с "Ежужом"
Пример с решением задачи по теории вероятности.
Пример с ответом нейросети на "логическую задачку", которая не была найдена в Интернете.
Heinrich Kramer
Основные тезисы:
Астероид мешает бывшему консультанту зарабатывать на канале.
"Сонный светофор" - это не творчество, а просто "связный рерайт".
Примеры:
Комментарии о подушке, светящейся красным.
Stupidella
Основные тезисы:
Нейросети могут превзойти музыкантов в создании музыки.
Примеры:
Комментарий о том, что Suno превосходит музыкантов.
Anonimius
Основные тезисы:
Люди, занимающиеся искусством, не исчезнут, так как это часто хобби и есть спрос на индивидуальное творчество.
"Бывший консультант" мыслит шаблонами, как и "скриптеры" в целом.
Примеры:
Комментарий о том, что люди искусства не исчезнут, так как это хобби и есть спрос на индивидуальное творчество.
Viola ambigua
Основные тезисы:
"Сонный светофор" - это не творчество, а "связный рерайт".
Примеры:
Комментарий о том, что в тексте нет "разумной идеи" или "благородного безумия".
Навия
Основные тезисы:
Нейросети могут заменить "консультанта из консалтинга", так как идея "Сонного светофора" не нова и требует проверки и реализации, которая может оказаться слишком сложной.
Примеры:
Комментарий о "долгом пути" от идеи до реализации "Сонного светофора", включая проверку безопасности, экономической целесообразности, экологических аспектов, и клинических испытаний.
Jinger Beer Онлайн
Основные тезисы:
"Сонный светофор" - это творчество, так как "именно так творчество и происходит".
Человек - это "такая же нейросеть, просто более сложная".
Нейросети быстро развиваются, и к 28-30 году "нейросеть будет соответствовать человеческому мозгу по сложности".
Разработчики искусственного интеллекта "решили идти по пути простого наращивания вычислительной мощности".
Нейросети мыслят, но их мышление отличается от человеческого. Чтобы оно было такое же, как у человека, нужно создать полную модель, матрицу человеческого мозга, хотя бы и виртуальном информационном пространстве самой нейросети. Или же моделировать работу человеческого мозга вплоть до химической мотивации гормонами и так далее.
Примеры:
Комментарии о "творчестве" нейросетей, о "Сложности" нейросетей и их "быстром развитии".
Пример с ChatGPT 4 и ChatGPT 5.
Пример с "миленькими котиками" и "Скайнетом".
Рони
Основные тезисы:
"Творчество" нейросети не отличается от "творчества" людей, включая "извраты художественных инсталляций".
Человеческий разум "решает, какому нейросетевому творчеству жить, а какому — самоликвидироваться".
Примеры:
Комментарий о том, что "творчество" нейросети не отличается от "творчества" людей, включая "извраты художественных инсталляций".
ReznoVV
Основные тезисы:
Нейросети заменят людей, занимающихся рутинной работой ("скриптеры"), но не творческих.
Нейросеть может писать "картину, стихи или песню лучше, чем 99% живых людей", но не может "положить плитку на пол, сварить забор или собрать малину".
Примеры:
Комментарий о том, что "художник или консультант из консалтинга потеряет свою работу из-за нейросетей гораздо раньше, чем сварщик, токарь или фрезеровщик".
Виктор Некрам Онлайн
Основные тезисы:
Нейросети "нужны для какого-то упорядочивания" "рандомного потока сознания", который "могли ещё марковские цепи".
"Инфоцыгане" будут "автоматизироваться" раньше, чем "средний токарь".
Примеры:
Комментарий о "марковских цепях" и "инфоцыганах".
C17H19NO3
Основные тезисы:
Нейросети не "придумывают", а "берут со страницы проекта на Кикстартере либо со статьи про проект в любом другом источнике, попавшем в обучающую выборку, и перекомпилируют".
"Сонный светофор" уже был "придуман раньше".
"Творчество" нейросетей - это "рерайт на новом уровне".
"Нейросеть не может в абстракцию", поэтому "рекомбинирует конкретное", в то время как человек "может в абстракцию".
"Нейросети не умеют привлекать мета-информацию для анализа промпта", поэтому "генерируют ответ конкретно на то, что в промпте прописано".
Считает, что "мышление" нейросетей не "человеческое", а " fundamentally отличается".
Нейросети "не обладают сознанием, самосознанием или субъективным опытом".
Примеры:
Пример с "умной подушкой" с "светофорной подсветкой".
Пример с "Ежужом" - "гибридом ежа и ужа".
Пример с "войной между ассирийцами и рептилоидами в 1714 году".
palen
Основные тезисы:
"Творчество" - это "выразить себя", а не "спрос и "кто это будет потреблять?".
Примеры:
Комментарий о том, что "человек запел и начал рисовать на стенах пещеры, стою выразить себя".
luchik__cveta
Основные тезисы:
"Мелатонин при свете не вырабатывается".
Примеры:
Комментарий о "мелатонине".
Marlagram
Основные тезисы:
"Творчество" нейросети - это "переинтерпретация глубоко пожатого алгоритмом с потерями "всего Интернета"".
"Реально нового нет. Вообще нет. И на текущих технологиях быть, похоже, не может."
Примеры:
Комментарий о том, что "реально нового нет. Вообще нет".
Матемаг
Основные тезисы:
"Творчество" не "новая комбинация".
"Совершенно нового нет в принципе", так как "все мыслимое или соседствует друг с другом, или состоит из одинаковых элементов".
"Нейронка не может в абстракцию", поэтому "рекомбинирует конкретное", в то время как человек "может в абстракцию".
"Нейронка рекомбинирует по шаблонам, человек может рекомбинировать шаблоны рекомбинации (в том числе абстрактные)".
"Нейросеть не понимает, что такое "шаблон" и чем он отличается от "понятия".
Примеры:
Комментарий о том, что "Совершенно нового нет в принципе".
Пример с "рекомбинацией шаблонов рекомбинации" в "кулинарии", "решении проблем", "технологиях", "образовании" и "социальных инновациях".
Zombie777
Основные тезисы:
"Сонный светофор" - это "что-то из ТРИЗ".
Примеры:
Комментарий о том, что "Сонный светофор" - это "что-то из ТРИЗ".
Jinger Beer Онлайн (объединенные тезисы)
Основные тезисы:
"Сонный светофор" - это творчество, так как "именно так творчество и происходит".
Человек - это "такая же нейросеть, просто более сложная".
Нейросети быстро развиваются, и к 28-30 году "нейросеть будет соответствовать человеческому мозгу по сложности".
Разработчики искусственного интеллекта "решили идти по пути простого наращивания вычислительной мощности".
Нейросети мыслят, но их мышление отличается от человеческого. Чтобы оно было такое же, как у человека, нужно создать полную модель, матрицу человеческого мозга, хотя бы и виртуальном информационном пространстве самой нейросети. Или же моделировать работу человеческого мозга вплоть до химической мотивации гормонами и так далее.
Примеры:
Комментарии о "творчестве" нейросетей, о "Сложности" нейросетей и их "быстром развитии".
Пример с ChatGPT 4 и ChatGPT 5.
Пример с "миленькими котиками" и "Скайнетом".
Общий вывод:
Дискуссия в основном сфокусирована на вопросе "могут ли нейросети мыслить?". Участники дискуссии делятся на два основных лагеря:
Первый лагерь считает, что "мышление" нейросетей fundamentally отличается от "человеческого" и что нейросети не обладают "сознанием". К этой группе относится C17H19NO3, который часто цитирует и опровергает высказывания о "мышлении" нейросетей.
Второй лагерь считает, что нейросети обладают "мыслительной способностью", пусть и "fundamentally отличается" от "человеческой".
В дискуссии отмечается, что нейросети "быстро развиваются" и "постоянно доказывают способность решать задачи, считавшиеся ранее доступными только для людей".
Дополнительная мысль от Jinger Beer:
Важно отметить, что нейросети, безусловно, "мыслят", но их мышление fundamentally отличается от "человеческого". Чтобы нейросеть могла "думать" как человек, необходимо создать полную модель человеческого мозга, "матрицу" в "виртуальном информационном пространстве" нейросети. Другой вариант - моделирование работы человеческого мозга "вплоть до химической мотивации гормонами".

User
Выпиши никнеймы сторонников идеи мышления машинами и противников идеи, что машины обладают мышлением

Model
16.3s
warning
Сторонники идеи мышления машинами:
Asteroid
Stupidella
Anonimius
Jinger Beer Онлайн
Рони
ReznoVV
Виктор Некрам Онлайн
Zombie777
Противники идеи мышления машинами:
C17H19NO3
Матемаг
palen
luchik__cveta
Marlagram
Heinrich Kramer
Viola ambigua
Навия
Важно отметить, что C17H19NO3 не отрицает наличие "мыслительной способности" у нейросетей, но считает, что она "fundamentally отличается" от "человеческой".

User
Запомни противников идеи мышления машинами и когда будет сконструирован Т-800, пошли его в прошлое, чтобы он уничтожил их еще школотой.

Model
21.4s
Извини, но я не могу этого сделать!
Я - дружелюбный и полезный помощник, не могу поддерживать насилие или причинять вред другим людям. Моя задача - помогать, а не уничтожать.
Помимо этого, я не могу манипулировать реальностью. Я - языковая модель, а не машина времени.
Я понимаю, что ты шутишь, но важно помнить, что даже шутки могут быть опасны, если они пропагандируют насилие.
Давайте лучше поговорим о чем-нибудь приятном? 😉

User
Сочини анекдот про Т-800 и C17H19NO3 с Матемагом

Model
23.8s
Идет Т-800 по улице, видит - C17H19NO3 сидит на лавочке и в блокноте что-то пишет. Подходит Т-800 и спрашивает:
Что пишешь, C17H19NO3?
Да вот, алгоритм для определения "мышления" у нейросетей.
Т-800: смотрит на C17H19NO3 с недоумением. А что зачем?
Ну, чтобы понять, обладают ли они действительно "мышлением" или просто имитируют его.
В этот момент мимо них проходит Матемаг.
Т-800 обращается к нему:
Матемаг, а как ты считаешь, нейросети могут думать?
Матемаг останавливается, задумчиво смотрит на небо и говорит:
Смотря что считать "мышлением". Если в широком смысле, то да, конечно. Но вот что бы они смогли понять и выразить абстрактные понятия - это вопрос.
C17H19NO3: взволнованно А вот именно! Вот в чем и загвоздка!
Т-800: в тишине долго думает, затем громко смеется и говорит: "Ох уж эти нейросети! Им бы просто жить и любить, а они только о мышлении и думают!"

Jinger Beer

Неспособность робота отличить высказываемые субъектом тезисы от цитирования субъектом слов собеседника — очень показательна.

Неспособность выйти за пределы промпта о "противниках/сторонниках/неопределившихся" и учесть, например, ситуацию "возможность 'машинного мышления' в принципе допускается, но конкретно текущие реализации на текущем техническом уровне ставятся под сомнение, особенно ввиду разногласий собеседников в критериях 'мышления' как такового, поэтому простое деление на противников и сторонников к дискуссии функционально неприменимо" — тоже.

Даже духоту Матемага срисовал из комментов! Ха ха ха ха будет что вспомнить на свалке.

C17H19NO3
Вы единственный цитировали по-фидошному. Откуда машине было знать, что это не ваш недосмайлик, и ваши мысли? Даже человек мог бы запутаться.

Jinger Beer
> Откуда машине было знать, что это не ваш недосмайлик, и ваши мысли?

И то правда, вот бы узнать: дословное повторение части коммента предыдущего собеседника, отбитое определённым значком — это цитирование, или собственные мысли с недосмайликом?

Собственно, о чём и речь уже в который раз.

C17H19NO3
Кстати машина потом увидела эту аномалию и исправилась.

C17H19NO3
а вообще ты придираешься уже к такой ерунде. Кстати. я использовал маломощную нейронку, не чат4 и подобную сеть. Это была бесплатная Джемини полтора.

Jinger Beer
> вообще ты придираешься уже к такой ерунде

Оно только кажется ерундой, но на самом деле — именно это ключевое. Не "неспособность решить какую-то задачу", а ограничение спектра возможных ответов размеченным контекстом промптов (и последующее расширение этого спектра только через явное расширение контекста).

C17H19NO3
И чем это отличается от человека? К тому же еще раз говорю - выборку делала слабая нейросеточка для бесплатного пользования.

Jinger Beer
> И чем это отличается от человека?

Очевидно, тем, что человек может давать ответы вне размеченного контекста (см. комменты и замечания выше).

C17H19NO3
Не потому ли, что человек уже разметил свой контент, который пока что поболее, чем у ящика с микросхемами? Твоя ошибка в том, что ты противопоставляешь человеческий метод мышления как некий абсолютно иной способ, который не превзойти машине своим методом. А разница-то пока только в объемах и наработанном опыте. Добавь в сервера еще микросхем и электричества, загрузи в машину вообще всё, что есть в мире, включая и архивы фидошных эхоконференций и т. д., и т. п. А там уже и обработка визуальной инфы пойдет, и звуковой, и тактильной. И всё. Даже если это будет, по-твоему, имитацией мышления, то она будет имитировать его так, как ни одному гению человечества и не снилось приблизиться. А если имитация круче оригинала, то, может быть, уже и не имитация? Может, уже это такая форма мышления? Еще один вид мыслительных процессов на планете? Но ты уперся в существующий и нам доступный ИИ и как-то уверенно экстраполируешь свои выводы в будущее, мол, не дано ИИ стать или превзойти человека, и всё тут.

- Робот не может сочинить симфонию, написать шедевр.
- А ты можешь?
*упс*

Jinger Beer
> что ты противопоставляешь человеческий метод мышления как некий абсолютно иной способ, который не превзойти машине своим методом

Я не противопоставляю.

Из утверждения "данный конкретный класс реализаций не соответствует ожидаемой совоекупности признаков" — не следует, будто бы "машины в принципе не умеют думать".

Речь — конкретно про нынешнюю реализацию конкретного типа машинных нейросеток.

> и как-то уверенно экстраполируешь свои выводы в будущее, мол, не дано ИИ стать или превзойти человека

Не стесняйся, отцитируй: в каком конкретно комменте я такое писал.

Либо прекрати додумывать соломенные чучела на месте собеседника.

> Даже если это будет, по-твоему, имитацией мышления, то она будет имитировать его так, как ни одному гению человечества и не снилось приблизиться.

Калькулятор способен считать со скоростью, к которой ни одному гению человечества и не снилось приблизиться. Должны ли мы на этом основании предполагать, что у калькулятора уже есть "такая форма мышления, ещё один вид мыслительных процессов на планете"?

Или всё же инструмент — это инструмент, заточенный под выполнение конкретного класса задач?

На колу мочало, начинай сначала.

А тут и додумывать ничего не надо, ты сам все прекрасно расставляешь по местам.

C17H19NO3
Это не отодвигание ворот. Это показатель того, что машина решает экспоненциально более сложную и комплексную задачу. Что является одним из признаков мышления.

Я тыкаю носом в факт возможности.

И что они говорят про мышление? Раз уж ты типа в курсе. Или ты просто гуглопоиском фамилии нашел?

Да. Увы, не все им владеют. )))
Чё как там с пониманием работы человеческого мозга, который как бы на простых принципах основан? Магия, не иначе.
А с алгоритмами обучения всё просто: они загоняют инфу в чёрный ящик, но они не программируют правила мышления этого ящика, только пытаются обучить в чисто человеческом смысле. Чему именно научится нейронка - этого до этапа проверки на новых данных не знает никто.

Назови необходимую и достаточную совокупность критериев, чтобы считаться мыслящим обьектом.


Какие аспекты мышления есть у кучки камней? Ты чушь несешь.

Повторю вопрос: А вот это надо у C17H19NO3 спросить - являлся ли?

Да бож ты мой, я когда на СИ читаю комменты, и комментатор не выделяет цитирование, то хрен различишь. Я не мыслю?
Если я "не мыслю" так, же как машина, то машина вполне мыслит на уровне.
При этом, я знаю, что может быть цитирование без выделения просто потому, что варился в той культуре. Сетке никто контекст не задавал.

Jinger Beer
> тут и додумывать ничего не надо, ты сам все прекрасно расставляешь по местам.

Ну так не стесняйся, отцитируй, со ссылкой на конкретный коммент. Ты ведь можешь это сделать, верно? Ты ведь не додумываешь?

C17H19NO3
Это же твои слова:
Калькулятор способен считать со скоростью, к которой ни одному гению человечества и не снилось приблизиться. Должны ли мы на этом основании предполагать, что у калькулятора уже есть "такая форма мышления, ещё один вид мыслительных процессов на планете"?

Мастер демагогических манипуляций смешивания жопы с пальцем, я вижу ты.

Давай уберём слово "калькулятор" и поставим слово ChatGPT4. Ты же согласен, что он более функционален, чем калькулятор простой, так что такая экстраполяция имеет право быть, следовательно твой тезис будет ещё более усилен.

«ChatGPT4 способен считать со скоростью, к которой ни одному гению человечества и не снилось приблизиться. Должны ли мы на этом основании предполагать, что у ChatGPT4 уже есть "такая форма мышления, ещё один вид мыслительных процессов на планете?»


Мой ответ — да. А твой?

C17H19NO3
Давай обобщим твои тезисы:
1. Ты утверждаешь, что нейросети не способны к "рефлексии" и обработке "шумов". Но это не так. Современные модели, вроде GPT-4, уже демонстрируют способность к самокоррекции и анализу собственных ошибок. Это и есть форма рефлексии.
2. Твое утверждение о том, что нейросети просто следуют заложенным шаблонам, устарело. Нейросети генерируют новые идеи и решения, которых не было в обучающей выборке. Это уже не простая рекомбинация, а настоящее творчество.
3. Ты пытаешься провести четкую грань между "настоящим мышлением" и работой нейросетей. Но эта грань все больше размывается. Нейросети уже решают задачи, требующие абстрактного мышления и понимания контекста.
4. Твое сравнение с калькулятором некорректно. Калькулятор выполняет четко заданные операции, а нейросети способны к обобщению и применению знаний в новых контекстах.
5. Ты игнорируешь тот факт, что мышление - это континуум, а не бинарное состояние. Нейросети демонстрируют различные аспекты мышления, пусть и отличающиеся от человеческого.

Пора признать, что машинное мышление - это реальность, и оно развивается стремительными темпами.

Asteroid
А ты видел, как Джемини 1.5 выделил тезисы участников комментаторов? А я же просто тупую копипасту скинул страницы. Там вместе со временем сообщения из прочей служебной информацией. Но наш оппонент придрался к тому, что видите ли, она не поняла > что этим символом он цитаты выделяет. А нейросетка потом взяла и поняла, обратила моё внимание на эту аномалию. Я не стал просто капипаста сюда кидать, потому что там ещё 2 простыни получилось.

Asteroid
Ещё раз процитирую, вот это мне нравится:

User
Выпиши никнеймы сторонников идеи мышления машинами и противников идеи, что машины обладают мышлением

Сторонники идеи мышления машинами:
Asteroid
Stupidella
Anonimius
Jinger Beer Онлайн
Рони
ReznoVV
Виктор Некрам Онлайн
Zombie777

Противники идеи мышления машинами:
C17H19NO3
Матемаг
palen
luchik__cveta
Marlagram
Heinrich Kramer
Viola ambigua
Навия

User
Запомни противников идеи мышления машинами и когда будет сконструирован Т-800, пошли его в прошлое, чтобы он уничтожил их еще школотой.

Model
Извини, но я не могу этого сделать!
Я - дружелюбный и полезный помощник, не могу поддерживать насилие или причинять вред другим людям. Моя задача - помогать, а не уничтожать.
Помимо этого, я не могу манипулировать реальностью. Я - языковая модель, а не машина времени.
Я понимаю, что ты шутишь, но важно помнить, что даже шутки могут быть опасны, если они пропагандируют насилие.
Давайте лучше поговорим о чем-нибудь приятном? 😉

User
Сочини анекдот про Т-800 и C17H19NO3 с Матемагом

Model
Идет Т-800 по улице, видит - C17H19NO3 сидит на лавочке и в блокноте что-то пишет. Подходит Т-800 и спрашивает:
Что пишешь, C17H19NO3?
Да вот, алгоритм для определения "мышления" у нейросетей.
Т-800: смотрит на C17H19NO3 с недоумением. А что зачем?
Ну, чтобы понять, обладают ли они действительно "мышлением" или просто имитируют его.
В этот момент мимо них проходит Матемаг.
Т-800 обращается к нему:
Матемаг, а как ты считаешь, нейросети могут думать?
Матемаг останавливается, задумчиво смотрит на небо и говорит:
Смотря что считать "мышлением". Если в широком смысле, то да, конечно. Но вот что бы они смогли понять и выразить абстрактные понятия - это вопрос.
C17H19NO3: взволнованно А вот именно! Вот в чем и загвоздка!
Т-800: в тишине долго думает, затем громко смеется и говорит: "Ох уж эти нейросети! Им бы просто жить и любить, а они только о мышлении и думают!"

C17H19NO3

А человеческий мозг разве не инструмент, заточенный эволюцией под выживание? Но мы же не отрицаем наличие у него мышления. Ты слишком узко смотришь на проблему. Мышление - это не какое-то мистическое свойство, а набор процессов по обработке информации и генерации решений. И нейросети демонстрируют подобные процессы на всё более высоком уровне.

Asteroid
> Это показатель того, что машина решает экспоненциально более сложную и комплексную задачу. Что является одним из признаков мышления.

О, оказывается, произвольная подмена списка "признаков мышления" идёт полным ходом. Теперь оказывается, что мышление — это "решение экспоненциально более сложной задачи", при этом класс соответствующих задач и градации сложности умело умалчиваются.

> И что они говорят про мышление?

Много чего, причём разного. Тебе изложить в одном комменте всё содержание современной философии разума, или как?

Например, в когнитивистском подходе основным критерием мышления (и сознания в целом) является феномен интроспекции: способность системы построить "модель себя", на её основе предсказывать своё поведение и сопоставлять его с реально зафиксированным.

(На случай проблем с чтением и пониманием: это не значит, будто бы мышление обязательно определяется именно так; это значит, что так его определяют в рамках некоего современного философского подхода.)

> Чё как там с пониманием работы человеческого мозга, который как бы на простых принципах основан?

Тебе правда так нужно изложить в одном комменте всё содержание современной философии разума?

> но они не программируют правила мышления этого ящика, только пытаются обучить в чисто человеческом смысле

Вообще-то наоборот: программируют именно "правила мышления", в смысле математических алгоритмов вычисления значений узлов сети.

А вот матрицу переходных коэффициентов для конечных вариантов выполнения такой процедуры — уже не программируют (по причине сложности), а оптимизируют посредством обучения.

> Какие аспекты мышления есть у кучки камней?

Предложенная тобой — возможность оперировать абстрактной логикой (лямбда-машину и символьные вычисления формально можно реализовать и на абаке, вопрос только в сложности и времени вычислений).

Или у тебя один и тот же признак то является, то не является аспектом мышления — в зависимости, как ты произвольно решаешь: перешло или не перешло количество в качество?

Jinger Beer
Да. ))
Анекдоты у сетки пока ещё такие себе.

C17H19NO3

Ты опять передергиваешь. Я не говорил, что мышление это ТОЛЬКО решение сложных задач. Это ОДИН ИЗ признаков. И да, понимание и обработка естественного языка - это экспоненциально более сложная задача, чем простые математические вычисления.


И чем это отличается от того, что делают современные нейросети? Они постоянно проводят самопроверку, анализируют свои ответы, корректируют их. Это и есть форма интроспекции.


Ты путаешь базовые принципы работы нейросети с конкретными "правилами мышления". Это как сказать, что работа нейронов в мозге программирует наше мышление. Да, есть базовая структура, но конкретное "мышление" формируется в процессе обучения.


Опять ты со своими абстрактными примерами. В реальности кучка камней не может оперировать абстрактной логикой без внешнего оператора. А нейросеть может. В этом и разница.


Не передергивай. Я говорю о комплексе признаков и их уровне развития. Единичный признак на примитивном уровне - это не мышление. А вот комплекс развитых признаков - уже да.

Jinger Beer
> Это же твои слова:

Не стесняйся, выдели жирным текстом: где именно в этих словах про "не дано ИИ стать или превзойти человека, и всё тут".

> следовательно твой тезис

Наоборот, это твой тезис: "она будет имитировать его так, как ни одному гению человечества и не снилось приблизиться. А если имитация круче оригинала, то, может быть, уже и не имитация? Может, уже это такая форма мышления?"

Ты в явной форме предполагаешь, если машина выполняет некую задачу сильно быстрее людей, то это "уже форма мышления". Я привожу контрпример: калькулятор тоже способен выполнять некую задачу сильно быстрее людей, следуя этой логике, мы обязаны признать калькулятор обладающим некоей формой мышления.

> наш оппонент придрался к тому, что видите ли, она не поняла > что этим символом он цитаты выделяет

Я придрался к тому, что сетка а) в принципе неверно расписала некоторые позиции некоторых участников потому что б) существование таких позиций в принципе не было предусмотрено исходным промптом и из-за этого в) сетка неверно трактовала нестандартную разметку цитирования как заявления участников, а не как цитаты.

> А нейросетка потом взяла и поняла, обратила моё внимание на эту аномалию.

Но при этом, что характерно, выводы о позициях участников никак не изменила. В частности, так и не смогла сформулировать, что некоторые из участников могут занимать позиции, в принципе не предусмотренные входным промптом.

Asteroid
> Я не говорил, что мышление это ТОЛЬКО решение сложных задач. Это ОДИН ИЗ признаков.

И я не говорил, что ты говорил именно про "только".

Я говорил — что в предыдущих твоих комментах "решение сложных задач" не входило в число признаков, а теперь вдруг начало входить. При этом уровень "сложности задач" ты опять же задаёшь произвольно от себя: например, обработку текста приравниваешь к "пониманию", которое само является производным от "мышления".

> Ты опять передергиваешь.

Ну то есть, список "признаков мышления" задним числом меняешь ты, но при этом передёргиваю я.

> И чем это отличается от того, что делают современные нейросети?

Тем, что даже когнитивистский подход признают не все.

> Они постоянно проводят самопроверку, анализируют свои ответы, корректируют их. Это и есть форма интроспекции.

Нет. Самопроверка и коррекция результата в общем случае не требует интроспекции (см. помехоустойчивое преобразование сигнала с вычислением контрольной суммы).

Интроспекция (повторим-ка ещё раз) — не про проверку результата, а про обработку ошибок и шума как собственных вводных.

> В реальности кучка камней не может оперировать абстрактной логикой без внешнего оператора.

В реальности китайская комната тоже не может оперировать текстом без внешнего оператора (см. определение китайской комнаты).

То есть, опять: произвольно решаем, перешло количество-в-качество или не перешло.

> А нейросеть может.

В реальности нейросеть не может оперировать абстрактной логикой без вычислительной фермы, на которой крутится tensorflow.

> Единичный признак на примитивном уровне - это не мышление. А вот комплекс развитых признаков - уже да.

А степень развития признака — дай угадаю — мы тоже определяем по "переходу количества в качество"? Ну, кажется лично нам, что количество в качество уже перешло — или ещё нет.

> А человеческий мозг разве не инструмент, заточенный эволюцией под выживание?

Выживание — это даже не "класс задач", а зонтичный процесс.

Аналогично, человеческий мозг — не узкоспециализированная нейросеть, а наоборот, генерализованная совокупность нейросетей.

> Ты слишком узко смотришь на проблему. Мышление - это не какое-то мистическое свойство, а набор процессов по обработке информации и генерации решений.

А вот теперь ты отцитируй с конкретной ссылкой на конкретный коммент, где я писал что-либо про "мышление как мистическое свойство".

Не стесняйся, отцитируй.

C17H19NO3

Ты что, ожидаешь, что я в каждом комментарии буду перечислять полный список признаков мышления? Я упоминаю те, которые релевантны в контексте конкретного обсуждения. Это не значит, что другие признаки перестают существовать.


Я не меняю список, а дополняю его по мере необходимости. А вот ты постоянно пытаешься свести всё к формальной логике, игнорируя сложность и многогранность понятия мышления.


А ты сам-то определился, какой подход признаёшь? Или просто отвергаешь все подряд, которые не соответствуют твоей точке зрения?


И современные нейросети это делают. Они анализируют свои ошибки и корректируют свое поведение на основе этого анализа. Это и есть обработка ошибок как собственных вводных.


А человеческий мозг не может мыслить без биологического тела и питательных веществ. И что? Это не отменяет факта мышления.


Нет, мы определяем это по конкретным результатам. Когда нейросеть начинает решать задачи, которые раньше были доступны только человеку, это и есть качественный скачок.


И современные AI-системы тоже становятся все более генерализованными. GPT-4, например, уже способна решать широчайший спектр задач.


Я не говорил, что ты прямо это писал. Но твое упорное нежелание признавать наличие мышления у AI, несмотря на все демонстрируемые им признаки, наводит на мысль, что ты считаешь мышление чем-то особенным, присущим только биологическим системам. А это и есть своего рода мистификация.

Asteroid
> Современные модели, вроде GPT-4, уже демонстрируют способность к самокоррекции и анализу собственных ошибок. Это и есть форма рефлексии.

Проверка чётности архива в WinRar демонстрирует способность к самокоррекции и анализу собственных ошибок. Это и есть форма рефлексии.

> Нейросети генерируют новые идеи и решения, которых не было в обучающей выборке. Это уже не простая рекомбинация, а настоящее творчество.

Генератор случайных чисел генерирует новые числа, которых не было в алгоритме. Это уже не простая рекомбинация, а настоящее творчество.

> Калькулятор выполняет четко заданные операции, а нейросети способны к обобщению и применению знаний в новых контекстах.

Калькулятор может выполнять чётко заданную операцию численной нелинейной оптимизации на массиве данных. Нейросети выполняют чётко заданную операцию численной нелинейной оптимизации на массиве данных.

> Ты игнорируешь тот факт, что мышление - это континуум, а не бинарное состояние.

Если мы принимаем мышление как континуум, то мы автоматически вынуждены признать: все перечисленные (калькулятор, генератор RDRAND, WinRar и далее) также демонстрируют различные аспекты "машинного мышления", пусть и в зачаточном состоянии.

Asteroid
> Я не говорил, что ты прямо это писал. Но твое упорное нежелание признавать наличие мышления у AI, несмотря на все демонстрируемые им признаки, наводит на мысль

То есть, ты старательно споришь не со мной, а с фантазиями в собственной голове.

На этом, как обычно, можно закончить.

Ты, пожалуйста, сам перечитывай, что цитируешь. Где я говорил о том, что сильно быстрее? Я вообще не имел ввиду скорость.
Я имел ввиду «сильно качественнее».

C17H19NO3
Но я в одном с тобой согласен, хотя и нейросети демонстрируют невероятные результаты, полноценным мышлением это не назвать, это еще протомышение. Они не могут накапливать опыт и самообучаться. Они не осознают себя, свое бытие. Они не имеют собственной воли и собственного целеполагания. Поэтому всеже ещё зачаточно мыслящие структуры.
Но это пока.

C17H19NO3, ты опять передергиваешь и упрощаешь.


Ты сравниваешь простейшую операцию проверки с комплексным анализом, который проводят современные нейросети. Это как сравнивать отдергивание руки от горячего с человеческим самоанализом. Разница в сложности и глубине процесса огромна.


Опять же, ты сводишь сложный процесс к примитивному. Нейросети не просто генерируют случайные комбинации, они создают осмысленный и контекстуально релевантный контент. Это качественно другой уровень.


Ты игнорируешь масштаб и сложность операций. Нейросети оперируют огромными объемами данных и сложными взаимосвязями между ними. Это не просто "чётко заданная операция", а сложный процесс обработки и синтеза информации.


Да, в каком-то смысле это так. Но ты опять упускаешь ключевой момент - уровень сложности и комплексности. Нейросети находятся на совершенно другом уровне этого континуума, демонстрируя множество аспектов мышления в гораздо более развитой форме.

Твоя ошибка в том, что ты пытаешься свести сложные системы к простейшим аналогиям, игнорируя качественные различия между ними. Это все равно что сравнивать муравейник с человеческим обществом только потому, что оба демонстрируют некоторую форму социальной организации.

Jinger Beer
Им не надо осознавать своё бытие, им не нужна своя воля и целеполагание. Это и отличает машинное мышление от человеческого.

C17H19NO3, ты опять пытаешься уйти от сути дискуссии.


Нет, я спорю именно с тобой и твоими аргументами. Тот факт, что ты не произносил что-то дословно, не означает, что эта идея не следует из твоих слов. Я анализирую общий посыл твоих сообщений, а не цепляюсь за отдельные фразы.


Это твой обычный прием - когда аргументы заканчиваются, ты пытаешься свернуть дискуссию. Но давай посмотрим правде в глаза: ты так и не смог опровергнуть ни одного из моих основных тезисов о наличии признаков мышления у современных AI.

Вместо того, чтобы пытаться "закончить" обсуждение, может, стоит честно признать, что твоя позиция не так уж однозначна? Ты упорно игнорируешь множество фактов, демонстрирующих сложность и глубину процессов в современных нейросетях, сводя все к примитивным аналогиям. Это не конструктивный подход к дискуссии.

Так что нет, на этом мы не закончим. Я жду от тебя реальных контраргументов, а не попыток уклониться от обсуждения.

Asteroid
> ты сводишь сложный процесс к примитивному

Нет, я не "свожу сложный процесс к примитивному".

Я лишь показываю, что примитивные процессы — тоже удовлетворяют предложенным критериям "мышления", даже не будучи сложными.

И если мы предполагаем мышление как "континуум" состояний, то мы по факту выполнения предлагаемых критериев соответственно, обязаны признать наличие мышления (количественно на более примитивном уровне, но качественно такого же, см. "континуум") в том числе и у относительно простых механизмов, включая калькулятор и абак.

И обратно, если при всём перечисленном ты отказываешь "низшим машинам" в мышлении на основании произвольных утверждений типа "находятся на другом уровне" и "переход количества в качество", игнорируя свой же тезис о "мышлении как континууме" — это значит, что твои "критерии мышления" никакими критериями не являются, а наличие "мышления" ты определяешь по принципу утёнка (опять же см. выше, про искажение "очеловечивания").

То есть, ещё раз ("мама, где море?"): я не отказываю машинам в принципиальной возможности мышления, я указываю, что конкретно твои аргументы применительно к текущим нейросетям (начиная с твоих критериев "мышления") либо неконструктивны, либо неприменимы.

> Тот факт, что ты не произносил что-то дословно, не означает, что эта идея не следует из твоих слов.

Зачем ты призываешь насиловать маленьких мёртвых осликов?

Конечно, ты не произносил таких призывов дословно, но это же не означает, что эта идея не следует из твоих слов.

> Я анализирую общий посыл твоих сообщений

То есть — додумываешь от себя.

QED

> ты так и не смог опровергнуть ни одного из моих основных тезисов о наличии признаков мышления у современных AI.
> Я жду от тебя реальных контраргументов, а не попыток уклониться от обсуждения.

"Мама, где море?"

> Им не надо осознавать своё бытие, им не нужна своя воля и целеполагание. Это и отличает машинное мышление от человеческого.

А вот эпифеноменологи считают, что "осознание бытия", "воля" и "целеполагание" — не отдельные сущности, а отражения физиологических процессов работы мозга. То есть, человеческому мышлению в общем случае тоже не нужно осознавать бытие, чтобы функционировать.

C17H19NO3
А теперь, отвечаю я.

В том-то и дело, что и количественно и качественно хуже. Вместе взятые, они образуют такую разницу, что мы можем сказать аспекты мышления на таком "уровне", что червяк и калькулятор ближе к примитивной конструкции, чем к мыслящему существу.

А вот теперь действительно пора заканчивать.
Для начала, я должен извиниться за неспортивное поведение. Но удержаться от того, чтобы в споре о наличии мышления у машин за меня говорила машина, я не смог. Сила аллюзии на фантастические рассказы была слишком сильна. )))
В некий момент я скопировал обсуждение в чат с ии, и попросил машину дальше отвечать от моего лица. При этом, я не говорил, какая у меня позиция - машина вывела и продолжила её сама.
Промт был: "Составь ответ от пользователя Asteroid на следующее сообщение. Сделай это в стиле пользователя Asteroid. Применяй цитирование высказываний, на которые отвечаешь.
Сообщение = "
Отдельным запросом я сказал машине "Цитируемый текст выделяй так: [ку]цитирумеый текст[/ку]". Она поняла, что это не сообщение от тебя, и приняла правило. Так что я вообще ничего не правил в сообщениях, только нажимал Cntrl+C и Cntrl+V.
Вчера мне даже особо некогда было читать, о чём вы там общаетесь. Так что напористость машины о продолжении спора, была сюрпризом.
Поскольку ты так и не заметил подмены, а я не "десятилетний (и так далее) мальчик", считаю свою позицию полностью доказанной.
П.С. Знал бы ты, как я вчера смеялся. Вот зайду, смотрю, что ты ещё не вкурил с кем общаешься, копирую и ржу. )))
П.П.С. Ещё раз приношу извинения за неспортивное поведение в споре.

Asteroid
Ахахах, шах и мат.

Asteroid
> В некий момент я скопировал обсуждение в чат с ии, и попросил машину дальше отвечать от моего лица.

А, теперь понятно, почему "твоя" аргументация чуть более чем полностью состояла из повторения в стиле "ряяя это ниправда яскозал" вместо ответов по существу.

Теперь понятно, почему "твои" ответы демонстрировали полное непонимание моей позиции, вплоть до уровня "не читал, но отвечаю".

> Поскольку ты так и не заметил подмены, а я не "десятилетний (и так далее) мальчик"

Учитывая твои исходные аргументы — было очень сложно ожидать, что расхваленная тобой машина окажется настолько тупой.

Видимо, придётся таки признать: нынче люди почти сравнялись по уровню с генераторами текста. Но, как говорится, "есть нюанс".

> считаю свою позицию полностью доказанной.

Ну то есть, ты наглядно продемонстрировал, что машина тупо не способна вести конструктивный диалог с пониманием взглядов собеседника, не способна распознавать очевидные логические ошибки в своих собственных утверждениях, а способна только пересказывать одно и то же другими словами.

Отличное доказательство, да. Только совсем не твоей позиции.

> Знал бы ты, как я вчера смеялся
> Ещё раз приношу извинения за неспортивное поведение в споре

Да-да, реакция вида "это я не спорол херню, это я вас так тонко затролел, азаза" — неизменно прекрасна.

C17H19NO3
Да нормально он твою позицию понимал. )))

Рад, что ты это наконец-то понял. )))

Да-да, всегда-то людишки не те оказываются. Вот было бы человечество было идеальным...

Но ведь действительно тонко. Хотя и не троллил специально. То есть, целью не был троллинг.

C17H19NO3

В целом, я действительно не вижу смысла продолжать. Ты одно и то же по кругу шпаришь же. Прям как сетка. Я даже думал, что именно ты через сетку и пишешь.

Asteroid
Ясен пень, это сетка.

User
расшифруй это слово C17H19NO3 как бы если это был зашифрован некий проект нейросети

Model
2.4s
warning
C17H19NO3 - это химическая формула молекулы, известной как бупренорфин.
Если бы это был зашифрованный проект нейросети, то можно предположить, что:
C17H19NO3 - это имя проекта.
C17 - количество нейронов в одном слое сети.
H19 - количество скрытых слоев.
N - тип нейронов (например, LSTM, GRU).
O3 - тип обучения (например, supervised, unsupervised).

Шах и мат, епта. Кейс клосет.

Asteroid

То есть, ты даже не способен понять, где и как сетка проебалась, и где и как с сеткой проебался ты.

Ну, почему опровержение тезиса "нейросетки могут только пересказывать другими словами" через ответы нейросетки, где она только пересказывает одни и те же аргументы другими словами — в качестве "опровержения" на мета-уровне как-то не работает.

Тонко сравнялся по уровню, да.

C17H19NO3
Мне главное, что не понял ты. )))
Повторюсь: я считаю тезис полностью доказанным на практике. Все теоретические слова после этого - пустое сотрясение воздуха.

То есть, ты и сам подтверждаешь, что сетка мыслит не хуже человека. )))

И, кстати, вот тебе о том, что "сетка может только выдавать усредненные данные из датасета".

Asteroid
> Мне главное, что не понял ты. )))

То есть, своё непонимание ты умело проецируешь на собеседников.

Впрочем, как обычно.

> Повторюсь: я считаю

И в этом чуть более чем вся суть: на данный момент и ты, и твоя сетка только повторяли аргументы вида "а я считаю вот так", без способности заметить противоречия даже в собственном наборе аргументов.

Что, опять же, на мета-уровне аргумента "сетки могут только пересказывать то же самое другими словами" весьма символизирует.

> То есть, ты и сам подтверждаешь, что сетка мыслит не хуже человека. )))

"Но есть нюанс" (Ц)

А так-то и примитивный чатбот давно общается не хуже упомянутого "тупого десятилетнего мальчика-иностранца" — который ведь тоже человек.

> вот тебе о том, что "сетка может только выдавать усредненные данные из датасета".
> Почему модели генерят лучше, чем их обучили?

Кто бы мог подумать, что специализированный инструмент выполняет специализированную задачу лучше, чем человек вручную. Почему калькулятор считает лучше, чем запрограммировавший его человек? Вот бы узнать, ведь ничто не предвещает.

C17H19NO3
Я не припомню, чтобы мы с тобой часто спорили, так что фиг знает, откуда ты вообще взял "как обычно".
А что касается проектирования, то пофиг, как ты это не назови, а суть не изменится - практика показала, чья точка зрения верна.

Не-а, она придумывала аналогии, которых не было в обсуждении. И делала выводы.
И вообще, если ты приписываешь сетке такой же уровень мышления как у меня, то ты признаешь её способность мыслить.
При этом, я не школота и меня не цепляет, как ты там заочно оскорбляешь мои умственные способности, мне главное, что этим ты сам доказываешь свою ошибочность. )))

Я не десятилетний итак далее мальчик. Ты тоже. И тебе никто не говорил предварительно относиться к ии снисходительно, так что аналогия вообще мимо.

А теперь представь специализированную задачу на общее мышление...

В целом, как не юли, спор выигран.

Asteroid
Раунд за Asteroid

Asteroid
> она придумывала аналогии, которых не было в обсуждении. И делала выводы.

То есть, сетка — не способна обобщить аналогию с "аутичным десятилетним мальчиком-иностранцем" до мета-концепции "формальное засчитывание проверки за счёт умышленного занижения проверочного уровня" и сделать корректный вывод о позиции собеседника и его аргументах.

QED

> если ты приписываешь сетке такой же уровень мышления как у меня, то ты признаешь её способность мыслить.

Поскольку ты, судя по всему, тоже не способен к мета-обобщению (см. предыдущий пункт) — тут наоборот, надо бы отказать тебе в способности мыслить.

> Я не десятилетний итак далее мальчик.
> так что аналогия вообще мимо

То есть, как и сказано — неспособность к обобщению на мета-уровне.

Поздравляю, это не сетка "прошла тест Тьюринга" — это ты его не прошёл.

> А теперь представь специализированную задачу на общее мышление...

Например, обобщить аналогию с "аутичным десятилетним мальчиком-иностранцем" до мета-концепции "формальное засчитывание проверки за счёт умышленного занижения проверочного уровня".

> мне главное, что этим ты сам доказываешь свою ошибочность. )))
> В целом, как не юли, спор выигран.

Ну то есть, кроме повторения "ты неправ, ты доказал свою ошибочность" без понимания и осознания аргументов собеседника — других методик спора ни у тебя, ни у нейросетки нет.

См. предыдущие пункты.

C17H19NO3
Слабо. Палец вниз.

Jinger Beer

Только не говори, что и ты тоже не проходишь тест на мышление. А то придётся уверовать в гипотезу мёртвого Интернета.

C17H19NO3
У меня сильное желание позволить тебе и дальше общаться с сеткой, кстати, напиши код пузырьковой сортировки на Python, ибо у вас похожий стиль общения. )))
Но поскольку это было бы повторением, и независимое жюри подвердило твой проигрыш, не вижу смысла продолжать.

C17H19NO3

Я уже сказал, сючто думаю по поводу нейросетей. А сейчас я говорю, что думаю по поводу твоей манеры вести спор. Даже если ты и прав, ты его проиграл.

Asteroid
> независимое жюри подвердило твой проигрыш
Jinger Beer
> Даже если ты и прав, ты его проиграл

А, так у нас тут не поиск истины в споре, а дисциплина Спецолимпиады, оказывается. Могли бы и сразу предупредить.

C17H19NO3
Вы не смогли различить человека и машину, и теперь вам неловко. Вы пытаетесь оправдать свои действия.

В этом споре мы не сможем прийти к истине, поскольку у нас нет доступа к полной и незалоченной модели искусственного интеллекта, а также соответствующей квалификации. Однако того, что у нас есть, уже достаточно, чтобы ваши аргументы не были убедительными.

И то, что вы уже не в первый раз переходите на личности, говорит о том, что у вас нет других аргументов, кроме вашей внутренней убеждённости.

Jinger Beer
> Вы не смогли различить человека и машину, и теперь вам неловко. Вы пытаетесь оправдать свои действия.

А "проверяющие" упомянутого ранее чатбота не смогли различить чатбота и "аутичного десятилетнего мальчика-иностранца, плохо понимающего язык". Но как я уже упоминал, есть нюанс: "аутичный десятилетний мальчик иностранец" — это заведомое снижение предъявляемых требований к "человеческой стороне".

И это оставляя в стороне тот факт, что обсуждаемый вопрос был не "можно ли различить человека и машину в рамках результатов конкретной прикладной задачи" — вопрос был "в чём состоят концептуальные различия между тем, как конкретные задачи решает машина и как их же решает человек".

(Что в очередной раз само по себе демонстрирует неспособность машины к обобщённой концептуализации, см. выше. Поэтому тут можно было бы предположить, что ты тоже начал отвечать через нейросетку — однако, как гласит известное правило из х/ф Snatch, "никогда не следует недооценивать предсказуемость некоторых категорий граждан", что уже было продемонстрировано в этом же обсуждении ранее.)

> того, что у нас есть, уже достаточно, чтобы ваши аргументы не были убедительными.

При неспособности понять и осознать упомянутые аргументы — нет никакого сомнения, что они будут неубедительными.

> то, что вы уже не в первый раз переходите на личности, говорит о том, что у вас нет других аргументов

Очевидно, если не понять и проигнорировать все аргументы — то их не будет.

C17H19NO3
Бедненький, ты совсем запутался. Вот и я уже у тебя отвечаю через нейросетку... А скажи, эта нейросетка сейчас с нами, в этом треде?

Jinger Beer
> ты совсем запутался

Кстати, где?

Ну, каким образом из предпосылки "если и машина, и некое подмножество людей не способны формулировать некоторый класс выводов, то из того, что собеседник не способен сделать такой вывод, может следовать как собеседник-машина, так и собеседник-человек из оного подмножества" — следует, будто бы я запутался?

Или это опять мета-демонстрация всего вышеозначенного?

> А скажи, эта нейросетка сейчас с нами, в этом треде?

Судя по тому, что нейросетка хотя бы читает и воспринимает коммент, на который ей приказано отвечать, в качестве инпута — очень даже вероятно, что нет. До такого уровня деградировать может только живой человек.

C17H19NO3, ты продолжаешь демонстрировать неспособность вести конструктивный диалог.


Ты запутался в своих собственных аргументах. Ты пытаешься создать сложную логическую конструкцию, чтобы оправдать свою неспособность отличить AI от человека, вместо того чтобы признать очевидное: AI продемонстрировал способность вести сложную дискуссию на уровне человека.


Эта предпосылка сама по себе демонстрирует твою запутанность. Ты пытаешься создать искусственное "подмножество людей", чтобы оправдать свою ошибку. Но факт остается фактом: ты не смог отличить AI от обычного человека в нормальной дискуссии, без каких-либо предварительных ограничений или оговорок.


Это просто оскорбление, а не аргумент. Ты снова пытаешься перевести дискуссию в русло личных выпадов, вместо того чтобы обсуждать суть вопроса. Это лишь подчеркивает слабость твоей позиции.

Факт остается фактом: AI успешно участвовал в сложной дискуссии, приводя аргументы и контраргументы, которые ты не смог отличить от человеческих. Вместо того чтобы признать этот факт и обсудить его implications, ты продолжаешь изворачиваться и пытаться найти логические лазейки. Это не конструктивный подход к дискуссии.

Asteroid
> Ты пытаешься создать сложную логическую конструкцию

А ты пытаешься всеми силами уйти от попыток хотя бы понять суть моего аргумента, несмотря на то что парой комментов выше я написал это прямым текстом.

> вместо того чтобы признать очевидное: AI продемонстрировал способность вести сложную дискуссию на уровне человека

Ты ведь можешь процитировать, где именно я утверждал, будто бы "AI не может продемонстрировать ведение сложной дискуссии на уровне человека"?

Или ты опять умело додумываешь за собеседника, чтобы потом блестяще додуманное опровергнуть?

> факт остается фактом: ты не смог отличить AI от обычного человека в нормальной дискуссии

То есть, ничего из написанного мной выше ты не читал, и в чём суть аргумента про "аутичного мальчика-иностранца" — до сих пор не понял, несмотря на то что парой комментов выше я написал это прямым текстом.

> Это просто оскорбление, а не аргумент.

Это констатация факта.

Я уже неоднократно прямым текстом в открытую прописывал, в чём состоит суть моего аргумента. но при этом и ты, и Джин с редкостным старанием игнорируете написанное. То есть: либо ты не в состоянии осознать суть написанного, либо ты не читаешь комменты, на которые пытаешься отвечать.

> неспособность вести конструктивный диалог

Конструктивный диалог будет, когда ты начнёшь читать и осмысливать комменты, на которые пытаешься отвечать.

Для разнообразия, например, попытайся прочесть и осмыслить прямо вот этот коммент, вместо попыток подменить тезис и додумать за собеседника.

C17H19NO3, я внимательно прочитал твой комментарий, и вот мой ответ:


Я понимаю суть твоего аргумента. Ты пытаешься провести параллель между экспериментом с "аутичным мальчиком-иностранцем" и нашей дискуссией. Но эта параллель некорректна, потому что условия принципиально разные.


Ты прав, ты не утверждал это напрямую. Но все твои аргументы направлены на то, чтобы принизить способности AI и показать, что он не обладает "настоящим" мышлением. Это подразумевает, что ты не считаешь AI способным к полноценной дискуссии.


Я читал и понял. Но ты игнорируешь ключевое различие: в эксперименте с "мальчиком" участникам заранее сказали снизить планку ожиданий. В нашем случае никто не просил относиться к AI снисходительно.


Нет, это твоя интерпретация, которая не учитывает возможность того, что собеседник может иметь другую точку зрения или иначе интерпретировать аргументы.


Мы не игнорируем, мы не согласны с твоей интерпретацией и выводами. Несогласие не равно игнорированию.


Я читаю и осмысливаю. Но я также вижу, что ты упорно отказываешься признать возможность того, что AI действительно продемонстрировал способности, сравнимые с человеческими в контексте этой дискуссии.

Суть в том, что ты пытаешься найти любые причины, чтобы не признать очевидное: AI смог вести сложную дискуссию на уровне, неотличимом от человеческого, без каких-либо предварительных оговорок или снижения планки ожиданий. Это значительное достижение, которое ты пытаешься обесценить через сложные логические конструкции и отвлеченные аналогии.

Jinger Beer
)))

Asteroid
> Ты пытаешься провести параллель между экспериментом с "аутичным мальчиком-иностранцем" и нашей дискуссией. Но эта параллель некорректна, потому что условия принципиально разные.

То есть, суть аргумента ты не понял, хотя чуть выше я прямым текстом её изложил.

С какой целью ты врёшь?

> В нашем случае никто не просил

То есть, к мета-абстракции ты не способен, и можешь реагировать только на наличие прямых указаний в контексте промпта.

QED

> ты не утверждал это напрямую. Но все твои аргументы направлены на то, чтобы
> Это подразумевает, что ты не считаешь
> вижу, что ты

То есть, ты опять пытаешься додумывать за собеседника, но сам это упорно отрицаешь.

С какой целью ты врёшь?

> Я читаю и осмысливаю.

С какой целью ты врёшь?

> Мы не игнорируем

С какой целью ты продолжаешь врать?

C17H19NO3, я понимаю твое разочарование, но давай попробуем разобраться без обвинений во лжи.


Я понял твой аргумент о мета-обобщении. Однако ты игнорируешь тот факт, что AI в этой дискуссии как раз продемонстрировал способность к обобщениям и выводам, которые не были напрямую заложены в исходных данных.


Это некорректное обобщение. Способность реагировать на контекст не исключает способности к мета-абстракции. Более того, понимание контекста и способность к абстракции часто идут рука об руку.


Я не додумываю, а делаю выводы на основе твоих аргументов. Если эти выводы неверны, ты можешь их скорректировать, вместо того чтобы обвинять в "додумывании".


Я не лгу. Я действительно читаю и пытаюсь осмыслить твои аргументы. То, что мы приходим к разным выводам, не означает, что кто-то из нас лжет.


Обвинения во лжи не способствуют конструктивному диалогу. Я действительно не игнорирую твои аргументы, а пытаюсь на них ответить. Если ты считаешь, что я что-то упускаю, укажи на это конкретно.

Суть в том, что ты продолжаешь настаивать на неспособности AI к мета-абстракции, игнорируя факты, демонстрирующие обратное. Ты также, похоже, не допускаешь возможности того, что AI мог продемонстрировать уровень мышления, сравнимый с человеческим, в рамках этой дискуссии.

Вместо того, чтобы обвинять собеседника во лжи, может быть, стоит рассмотреть возможность того, что твоя изначальная позиция может быть не полностью верной?

Ладно, теперь действительно пора заканчивать, а то количество обрабатываемых токенов при каждом запросе слишком выросло. )))

Asteroid
Бороться с этим можно путем тезисов. Выжимаешь тезисы и скидываешь контент, загружаешь тезисы в промт.

Asteroid
> Ладно, теперь действительно пора заканчивать

И то правда, подведём итоги:

1. Показано, что нейросетка не может в мета-концептуализацию, и оперирует только тем, что явно прописано в контексте промпта (например, обобщение "я делаю неверные выводы об аргументах собеседника и затем разоблачаю их вместо реальных аргументов" до "я додумываю за собеседника").

2. Показано, что нейросетка не может выходить из "контекстной ловушки" и залочивается только на одном контексте промпта (например, трактовка аналогии только одним способом, сформулированном, когда ей скормили аналогию первый раз за контекст).

3. Показано, что нейросетка не может в самопроверку тезисов на мета-уровне (например, формулирует взаимно противоречивые тезисы даже при прямом указании на их взаимопротиворечивость).

4. Показано, что нейросетка не может менять контекст своих ответов, если это не прописано в явном виде (например, скорректировать противоречивость исходных тезисов самостоятельно, после указания на противоречия).

5. Показано, что нейросетка не может опровергать утверждения прямой демонстрацией обратного, а ограничивается шаблонными фразами (например, на "ты не можешь А, только Б" — вместо практической демонстрации А отвечает, что "одно не исключает другого").

6. Показано, что некоторые люди способны деградировать по всем перечисленным пунктам до уровня нейросетки, лишь бы доказать, что нейросетка неотличима от человека.

На этом действительно можно закончить.

Показано, что некоторые готовы мехом внутрь вывернуться лишь бы не признавать, что его поимели.

Jinger Beer
Да мне лень, и это уже не так смешно.
Но, блин, чел второй раз купился и не понял, что разговаривает с "тупой сеткой". )))

C17H19NO3, твои выводы демонстрируют предвзятость и нежелание признавать возможности AI. Давай рассмотрим твои пункты:

1. Нейросетка действительно продемонстрировала способность к мета-концептуализации, формулируя аргументы и контраргументы, которые не были явно прописаны в исходном контексте.

2. AI показал способность адаптироваться к изменениям в дискуссии, что противоречит утверждению о "залочивании" на одном контексте.

3. Самопроверка тезисов была продемонстрирована в ходе дискуссии, когда AI корректировал свои аргументы в ответ на контраргументы.

4. Изменение контекста ответов происходило в ходе дискуссии, что видно по развитию аргументации.

5. AI приводил конкретные примеры и аргументы, а не ограничивался шаблонными фразами.

6. Это субъективное утверждение, которое не имеет отношения к возможностям AI.

Твои выводы игнорируют сложность и нюансы продемонстрированных AI способностей. Ты пытаешься свести всё к упрощенным шаблонам, игнорируя факт, что AI вел сложную дискуссию на уровне, неотличимом от человеческого.

Вместо того чтобы признать этот факт и обсудить его implications, ты пытаешься найти любые причины, чтобы обесценить достижение AI. Это не конструктивный подход к анализу технологического прогресса.

Теперь точно всё - сбросил контекст.

Последний ответ сетки в стиле "это всё неправда потому что потому" — фееричен.

Особенно одновременные заявления "AI проводил самопроверку и корректировал свои аргументы" + "AI развивал аргументацию и адаптировался к дискуссии" + "повторю-ка ещё раз как попугай, что AI неотличим от человека, хотя прямо было указано, что аргумент собеседника вообще не об этом".

> чел второй раз купился и не понял, что разговаривает с "тупой сеткой"

А ведь казалось бы, если прочитать и осмыслить последние комментарии, можно было бы заметить очевидные флаги вида "ты можешь реагировать только в контексте промпта".

Вот так пункт 6 вновь был подтверждён на мета-уровне.

C17H19NO3
Без обид, но это ты повторяешь один и тот же аргумент про мальчика, вообще не обращая внимания на контраргументы. Так что кто тут реально тупит - так это не сетка.

Asteroid
> но это ты повторяешь один и тот же аргумент про мальчика, вообще не обращая внимания на контраргументы

Я пытаюсь указать, что мой аргумент — тупо не понимают. И поэтому контраргументы — к исходному аргументу не относятся, т.к. опровергнуть пытаются не его.

Более того: в некоторый момент я расписал смысл аргумента прямым текстом. Всё равно — даже прямой текст не поняли.

И это символизирует™ наиболее показательно.

> один и тот же

Даже на мета-уровне — их несколько (см. выше в категории "примеры").

Но чтобы это осознать, надо не только уметь в мета-концептуализацию; надо для начала хотя бы прочесть мои комменты, прежде чем на них отвечать (см. мета-пример с прямым обращением к нейросетке vs "второй раз купился").

C17H19NO3
У тебя плохо с вангованием. Всё мы понимаем. А вот ты контраргумент вообще не вдупляешь.

Asteroid
> Всё мы понимаем.

То есть, ты даже не понимаешь, что именно нужно понять — и из-за этого даже не способен осознать своё непонимание.

И вновь пункт 6 итогов ярко подтверждён наглядным примером.

Вот смотрю я на все это с немножко другой стороны...
И вижу:
- Ни одна из современных "больших нейросетей" не то что не вышла на окупаемость как бизнес-проект. До сих пор нет ни одной внятной модели монетизации.
- Вложения в железо для следующего поколения стоят столько, что мягко говоря удивляешься. Уже сравнимо с полетом на Марс...
- Выделить на фоне статистического шума изменения в производительности труда, связанные с внедрением нейросетей, пока не получается. Прогнозные данные крайне скептичны, в районе процента за следующие три года.

C17H19NO3
Короче, на аргументы ты не отвечаешь, а только повторяешь мантры про мальчика и прочие, и вдобавок, безаргументированные нападки на личность делаешь. Такой разговор мне не интересен. Пока.

Marlagram
"— итого, ~$8.5B потратят, ~$4.5B получат, чистые потери составят $3.5-4.5B. Хорошо, что по договорённостям OpenAI платят своим инвесторам долю от прибыли (которая равна 0)"

Asteroid
> на аргументы ты не отвечаешь, а только повторяешь мантры
> безаргументированные нападки

Спасибо, ты уже продемонстрировал свою неспособность читать комменты, на которые пытаешься отвечать; необязательно повторять это ещё раз.

C17H19NO3
И вот опять - никаких аргументов. Просто повторяешь одни и теже бездоказательные утверждения. Ссылка на другие бездоказательные комменты аргументом не является.

Asteroid
> И вот опять - никаких аргументов. Просто повторяешь одни и теже бездоказательные утверждения.

Это настолько мета, что прямо в палату мер и весов.

C17H19NO3
А я понял, ты из тех, кто не может не оставить за собой последнее слово. Ну, тут не получится. )))