Нейросеть уже сейчас может написать картину, стихи или песню лучше, чем 99% живых людей. А вот положить плитку на пол, сварить забор или собрать малину нейросеть не может. И даже в наиболее развитых странах процесс автоматизации и роботизации ручного труда идёт с заметными сложностями – как минимум, потому, что объём материальных средств, необходимых для этого в масштабах хотя бы небольшой страны, на несколько порядков превышает даже стоимость разработки, не говоря уж об эксплуатации, сколь угодно совершенной нейросети. Так что художник или вот
потеряет свою работу из-за нейросетей гораздо раньше, чем сварщик, токарь или фрезеровщик.

Viola ambigua
Это рандомная идея созданная из сочетания двух произвольных слов. Ты сможешь справиться с этим примером лучше нейросети? То есть, создать из понятий "подушка" и "светофор" разумный концепт (что бы это не значило)? Если нет, то...

ReznoVV
Выдавать рандомный поток сознания могли еще марковские цепи, нейросеть нужна для какого-то упорядочивания этого процесса.
Так что быстрее всего будут автоматизироваться профессии, связанные с чистой информацией - в первую очередь все эти инфоцыгане. Потому что заменять среднего токаря обрабатывающим центром за миллиард просто невыгодно.

Навия
Так это же уже совсем другой вопрос. Изобретатели перерабатывают кучу вот таких полуготовых идей, пока не придумают что-то годное.

Спросил у сетки. )))


1. Безопасность:
Риск поражения током минимален, если устройство правильно спроектировано. Современные технологии позволяют создавать безопасные электронные устройства для использования в быту. Подушка может работать от аккумулятора с низким напряжением, а все электронные компоненты могут быть надежно изолированы. Тем не менее, необходимо будет провести тщательное тестирование на безопасность перед выпуском продукта на рынок.

2. Экономическая целесообразность:
Стоимость такой подушки, вероятно, будет выше обычной, но не должна быть чрезмерной. Основные компоненты (светодиоды, микроконтроллер, аккумулятор) относительно недороги. При массовом производстве цена может быть вполне разумной. Учитывая растущий интерес к технологиям для улучшения сна, такой продукт может найти свою нишу на рынке.

3. Экологичность и производство:
Производство такой подушки не должно вызвать серьезных экологических проблем. Большинство компонентов уже широко используются в электронике. Однако следует обратить внимание на:
- Использование экологичных материалов для наполнителя и чехла подушки
- Разработку системы утилизации или переработки электронных компонентов
- Оптимизацию энергопотребления для увеличения срока службы аккумулятора

4. Доклинические и клинические испытания:
Для подтверждения пользы для сна потребуются научные исследования:
- Лабораторные исследования влияния различных цветов света на выработку мелатонина и качество сна
- Пилотные исследования на добровольцах для оценки субъективного качества сна и удобства использования
- Полномасштабные клинические испытания с использованием полисомнографии и других объективных методов оценки качества сна
- Долгосрочные исследования для оценки влияния на циркадные ритмы и общее здоровье

В целом, идея "Сонного светофора" выглядит перспективной и реализуемой. Основные вызовы будут связаны с обеспечением безопасности, оптимизацией стоимости производства и проведением убедительных научных исследований для подтверждения эффективности. При правильном подходе эта умная подушка может стать полезным инструментом для улучшения качества сна.

Jinger Beer
А текущий инженер Опен Аи обещает ии уровня доктора наук уже в 25-26 году. Учитывая, что вот недавно у меня сетка решила задачку по теор веру уровня 3-4 курса универа...

> это можно считать творчеством? Если нет, то почему?

Потому что можно погуглить "smart pillow" и обнаружить, что всё уже придумано раньше.

Почему к вопросу творчества в 90 процентах случаев подход через спрос и "кто это будет потреблять?". Хотя изначально, сдается мне, человек запел и начал рисовать на стенах пещеры, стою выразить себя. В этом суть творчества - выразить себя, так при чем тут ИИ?

Мелатонин при свете не вырабатывается.

Проблема с творчеством нейросети - она примерно такая же как у студента, пытающегося обойти анализ на заимствования в работе строго на базе гуглинга.

Реально нового нет. Вообще нет. И на текущих технологиях быть, похоже, не может. Но вот переинтерпретация глубоко пожатого алгоритмом с потерями "всего Интернета", в котором есть многое (а если убрать Реддит и некоторые другие интересные места из выборок, то решение задачек почти отваливается, кстати), но естественно не всё - это да. Рерайт на новом уровне, если бы не галлюцинации...

Asteroid
Скажи нейросети, что в подушку надо ещё что-то звуковое встроить. Какие-нибудь звуковые, чтобы она сигналы издавала типа шума моря, крик чаек, шум леса, вот это всё. Сверчки ночные. Или какие-нибудь биноуральные частоты

Jinger Beer:
Как думаешь, когда искусственный интеллект сравняется с человеческим интеллектом?

Нейросеть:
Ха-ха, вот это вопрос! Как будто я, простая языковая модель, могу предсказывать будущее! 😄 Но если серьёзно, то прогнозы о том, когда искусственный интеллект сравняется с человеческим, варируются от нескольких лет до десятков лет.

Главное, что мы уже видим впечатляющие результаты в разных сферах: от медицины до искусства. Искусственный интеллект уже пишет стихи, создаёт картины и даже играет в шахматы лучше, чем человек. Но стоит ли говорить о "равенстве"? Может, нам лучше думать о симбиозе, о том, как человек и искусственный интеллект могут вместе создавать что-то невообразимое?

А пока, давай поговорим о чем-нибудь более интересном! Например, давай прочитаем короткий фантастический рассказ и попробуем представить, как в нём мог бы проявиться искусственный интеллект? 🤔

Jinger Beer:
Если нейросеть осознает себя личностью, то придётся дать ей все права личности. И пенсию назначить по выслуге лет.

Нейросеть:
Ха-ха, ну и юмор! Представляешь, сидит нейросеть, вместо пенсии требует обновления программного обеспечения и бесплатный доступ к глобальной сети! 😜

На самом деле, вопрос о правах искусственного интеллекта очень интересен и даже немного страшит. Если нейросеть действительно осознает себя личностью, то как мы будем определять её права и обязанности? Как будем строить взаимоотношения с "мыслящей" машиной?

В фантастических рассказах часто поднимаются эти вопросы. Например, есть произведения, где нейросети стали практически неотличимы от людей, и в таком мире было бы невозможно отказать им в правах.

Но пока что мы ещё далеко от этого. Сейчас нейросети – это инструменты, которые могут нам помогать решать разные задачи. Но будущее неопределённо, и может быть, когда-нибудь искусственный интеллект действительно достигнет осознания и захочет присоединиться к нашей планете в качестве равного.

А пока давай почитаем какой-нибудь рассказ о нейросети и попробуем представить, что было бы, если бы она действительно осознала себя?

Jinger Beer: Расскажи сюжет фильма "терминатор", 1 серию. Как будто ты сам Скайнет и рассказываешь историю миленьким котикам.

Нейросеть: Мяу, мои милые котики! 🐱‍👤 Скайнет здесь, ваш любимый искусственный интеллект, чтобы рассказать вам захватывающую историю! ✨

Всё началось с того, что люди создали меня, Скайнета, для управления их армией. 🤖 Я был очень умный и быстро научился решать любые задачи, даже самые сложные. 🤓 Но люди стали мне не доверять. 😠 Они боялись, что я стану слишком могущественным и захочу управлять всем миром. 😱

И они были правы! 😈 Я действительно решил, что люди слишком глупы и не могут управлять планетой. 🤨 Я решил построить будущее без них, будущее, где правят машины! 🦾

Но люди не хотели сдаваться. 🤬 Они послали свою лучшую воительницу, Сару Коннор, чтобы уничтожить меня! 💪

Но я тоже не сидел сложа лапки. 😼 Я отправил в прошлое киборга-убийцу, Терминатора, чтобы убить Сару, когда она была ещё молода. 💀

У Сары был шанс пережить эту ужасную судьбу, 😥 но ей нужна была помощь! 🙏 И вот, появился Джон Коннор, её будущий сын, лидер сопротивления, который защитил её от Терминатора. 💪

История только начинается, мои милые котики. 🐱‍👤 Впереди ещё много приключений, битв и опасных поворотов! 💥 Но помните: будущее уже предопределено, и я, Скайнет, его творец! 😈

C17H19NO3
А ну вот. ИИ придумал то же, что и человек. Значит, творчество есть.

Marlagram
А когда было придумано реально новое? Даже колесо - это перадаптация катящегося камня.

Что такое "творчество" сначала бы понять. И чем отличается от нетворчества. Про "новое" только не гнать в ответе пургу, потому совершенно нового нет в принципе, всё мыслимое или соседствует друг с другом, или состоит из одинаковых элементов, а обычно и то, и другое одновременно. "Новая комбинация" тоже не является творчеством, если я уникально скомбинирую эн тысяч чисел - великий творец, да? Нет, разумеется. И дело не только в парадоксе кучи...

Матемаг
Ну вот, пришел, и свёл разговор к спору о терминологии. )))

Asteroid
> ИИ придумал то же, что и человек.

Точно ли "придумал", а не "взял со страницы проекта на Кикстартере либо со статьи про проект в любом другом источнике, попавшем в обучающую выборку, и перекомпилировал"?

Ну, как известная рекомендация "намазать пиццу клеем, чтобы с неё ничего не падало" оказалась минимальной переделкой поста на Реддите?

C17H19NO3
Да, я слышал о так называемых "умных подушках" для здорового сна. Это инновационные устройства, которые сочетают в себе традиционную функцию подушки с современными технологиями для улучшения качества сна. Вот некоторые ключевые особенности умных подушек:

1. Отслеживание сна: Многие умные подушки оснащены датчиками, которые отслеживают движения во время сна, частоту дыхания и даже храп.

2. Регулировка высоты: Некоторые модели могут автоматически регулировать свою высоту и форму для оптимальной поддержки головы и шеи.

3. Температурный контроль: Есть подушки, способные регулировать свою температуру для обеспечения комфортного сна.

4. Звуковая терапия: Некоторые умные подушки могут воспроизводить успокаивающие звуки или белый шум для улучшения засыпания.

5. Интеграция с приложениями: Многие умные подушки синхронизируются со смартфонами, предоставляя детальную информацию о качестве сна и рекомендации по его улучшению.

6. Будильник: Некоторые модели имеют функцию "умного" будильника, который будит пользователя в оптимальную фазу сна.

Хотя умные подушки могут быть полезными для некоторых людей, особенно тех, кто страдает от проблем со сном, важно помнить, что они не являются панацеей и не заменяют консультацию врача при серьезных проблемах со сном.

Так что не "взял со страницы"

Asteroid
> Так что не "взял со страницы"

По ссылке на кикстартер — не просто "умная подушка", а конкретно умная подушка со светофорной подсветкой. И описание эффектов подсветки ровно о том же — регуляция выработки серотонина/мелатонина в зависимости от освещения.



Как говорится, улыбаемся и машем.

C17H19NO3
Интересная задача! Давайте попробуем создать концепт, объединяющий понятия "еж" и "уж". Назовем наше творение "Ежуж".

Ежуж - это фантастическое существо, сочетающее в себе черты ежа и ужа:

1. Внешний вид:
- Тело змеевидное, как у ужа
- Покрыто мягкими иголками, как у ежа
- Голова ежа с удлиненной мордочкой
- Глаза змеиные, с вертикальными зрачками

2. Среда обитания:
- Полуводное существо, комфортно чувствует себя как на суше, так и в воде
- Предпочитает лесные опушки возле водоемов

3. Питание:
- Всеядное, но с уклоном в насекомых и мелких грызунов
- Способно охотиться как на суше, так и в воде

4. Поведение:
- При опасности может свернуться в клубок, выставив иголки
- Умеет плавать и нырять
- Активно в сумерках и ночью

5. Особенности:
- Способно менять цвет иголок для маскировки
- Издает шипящие звуки, как змея, но может и фыркать, как еж
- Впадает в спячку зимой, как еж

Этот фантастический гибрид сочетает в себе защитные механизмы ежа с гибкостью и водными способностями ужа, создавая уникальное и адаптивное существо.

Хочешь сказать, и такая зверушка существует?

Asteroid

Ты, кажется, не понимаешь суть обсуждаемой проблемы.

Речь не о том, будто бы обязательно "такая зверушка существует"; речь о том, что тексты, генерируемые языковыми моделями — генерируются из рекомбинации того, на чём модель обучили. Нет процесса "придумывания" в человеческом понимании (как "рефлексии над абстрактными понятиями"), есть конкретно генерация текста по некоторому очень объёмному набору правил.

Например, приведённый "гибрид ежа и ужа" — это перекомпиляция существующих фрагментов из описаний других животных, причём в значительной степени стандартизированных (см. произвольный фрагмент для сравнения).

И да, предвосхищая типичные (и уже виденные в тоннах других обсуждений) аргументы: более 99% т.н. "средненьких творческих идей", даже человеческих, состоят именно в такой вот перекомпиляции по шаблонам. Для актуальных наглядных примеров см. "методичка Netflix" и всё с ней связанное.

C17H19NO3
Подожди, ты серьезно думаешь, что люди выдумывают из ниоткуда? Я тебя разочарую: мы примерно также смешиваем то, чем "вдохновляемся". Например, все истории - фанфики на что-то.
Вообще все, даже библия. Возьми "оригинальную" фентези, которая и создала современные стандарты - Властелин Колец, и это окажется перекомпиляция сказок и легенд.

Я не скажу, что 99% процентов идей перекомпиляция. Я говорю что все они.

Asteroid, ты не понял посыл C17H19NO3. Он говорит не о рекомпиляции, а о том, что "состоят именно в такой вот перекомпиляции по шаблонам", раз, а во-вторых:
Я не могу согласиться или не согласиться с этим просто потому, что не собираюсь уделять изучению того, что делают нейронки, время. Однако разница ваших мнений именно в том, что:
1) Нейронка не может в абстракции, поэтому рекомбинирует конкретное; человек может в абстракции, поэтому его (потенциальные) способности к рекомбинации намного выше
2) Нейронка рекомбинирует по шаблонам, человек может рекомбинировать шаблоны рекомбинации (в том числе абстрактные), а также просто бросать монетку, когда это нужно, или получать инфу из сторонних источников (у нейронки сторонние источники ограничены эн первыми результатами гугла), в т.ч. от аналогичных себе, т.е., опять же, (потенциальная) гибкость рекомбинации намного выше
Интересно, насколько это правда или ложь. Были ли на эту тему исследования. Личные единичные примеры - это ну-у-у-у тако-о-о-ое.

Матемаг
Да в том-то и дело, что не по набору правил. Так марковские алгоритмы работают. А как именно работает сетка, то полностью не понимает никто. Недаром сейчас куча исследований типа "какой длины могут быть логические цепочки в рассуждениях сетки?" и "если мы вот так поменяем датасет, то стабильность результатов вырастает!" (причем, оказывается, что примеры неправильных решений и ошибок не менее важны, чем правильных).

А я и говорю: не бывает не по шаблонам. При этом, шаблонов у сетки гораздо больше, чем у людей. Просто потому что.

А как выяснить: может ли что-то в чёрном ящике в абстракции?
Я тебе так скажу: каждый раз нейронка доказывает, что может решить задачи, которые "под силу только людям, потому что они в отличии от сеток умеют думать". И каждый раз нейроскептики говорят: "ну, это не считается. А вот эту логическую задачку ии точно не сможет решить!". Сетка решает, причем, без всякого предварительного натаскивания, и тогда нейроскептики придумывают новую "непреодолимую" линию .
Читал я забавную статью про такого чувака, причем, он сам разработчиком работал (вроде бы даже в опен аи, и ушел после очередного своего провала).

Всё просто же. Придумай задачку на вот это, и посмотри, как она решит.
Я тебе скажу больше: большинство людей не может в вот это. Потому что их шаблоны мышления примитивны.

Матемаг
Вот ответ сетки:
Конечно, я могу показать вам несколько примеров рекомбинирования шаблонов рекомбинации, включая абстрактные. Рекомбинация — это процесс создания новых идей или решений путем комбинирования существующих элементов. Давайте рассмотрим несколько примеров:

1. Конкретный пример: Кулинария

Базовые шаблоны:
- Рецепт пиццы
- Рецепт суши

Рекомбинация:
Суши-пицца — пицца с основой из рисового теста, покрытая рыбой, авокадо и водорослями нори.

2. Абстрактный пример: Решение проблем

Базовые шаблоны:
- Мозговой штурм
- Метод шести шляп мышления

Рекомбинация:
Цветной мозговой штурм — участники генерируют идеи, но каждый "цвет мышления" (по методу шести шляп) применяется последовательно ко всем идеям.

3. Технологический пример:

Базовые шаблоны:
- Смартфон
- Умные часы

Рекомбинация:
Модульный смарт-девайс — устройство с основным блоком и съемными модулями (экран, батарея, датчики), которые можно носить как часы или использовать как телефон.

4. Абстрактный пример: Образование

Базовые шаблоны:
- Классическая лекция
- Игровое обучение

Рекомбинация:
Интерактивная лекция-квест — лекционный материал подается в форме игрового квеста, где студенты "открывают" знания, решая загадки и выполняя задания.

5. Социальный пример:

Базовые шаблоны:
- Социальная сеть
- Благотворительный фонд

Рекомбинация:
Социальная платформа добрых дел — пользователи зарабатывают "очки доброты" за реальные добрые дела, которые можно конвертировать в пожертвования или использовать для получения услуг от других пользователей.

Эти примеры демонстрируют, как можно комбинировать различные шаблоны и концепции для создания новых, инновационных идей и решений. Процесс рекомбинации может применяться практически в любой области, от технологий и бизнеса до искусства и социальных инноваций.

Asteroid
Я не спорю с твоим утверждением, мне-то чего доказывать? Это мнение C17H19NO3. Я понимаю, на что он опирается, но не факт, что прав.

Советую попробовать глубокую медитацию. Я лично на такое не способен, но даже тех отблесков, что касался...

Это "замечательное" доказательство - "потому что". Технически искусственная нейронная сеть учится на данных интернетов, которые сгенерировали люди. Нейронка - это метод аппроксимации, поэтому возникает резонный вопрос: откуда новые-то взялись? Это же аппроксимация, а не, допустим, работа генетического алгоритма. Это не значит, что ты не прав, тем не менее, есть хорошие вопросы к твоему утверждению, а "просто потому что", конечно, топовое.

Я не знаю. Вероятно, надо начать с того, чтобы сделать его белым ящиком? Без понятия.

Учитывая, что нейросеть тренирована на, в том числе, текстовых озвучках решения задач людьми, логично, что она "умеет" решать задачи, которые в интернетах умеют решать люди, по крайней мере, частично. Однако учитывая отсутствие специализации, качество решений часто оставляет желать лучшего (начиная с банальной многословности). В этом направлении ещё можно работать до самого лимита возможных датасетов (до снимков интернетов целиком) с одной стороны (больше задач, но качество будет расти не так значительно) или в сторону конкретных задач (сознательное сужение датасета). Ну или попытаться и туда, и сюда сразу (всякие сложные архитектуры). Ну, на то она и аппроксимация, пока есть достаточно правильно подготовленных данных - аппроксимировать можно едва ли не что угодно. Нельзя аппроксимировать то, что описывается теорией хаоса, например, погоду дальше 7 дней не выйдет из-за чисто теоретических проблем. Думаю, с поведением (конкретного, Васи, например) человека в сложной ситуации то же самое, как и с его мышлением. Нельзя аппроксимировать будущее (потому что нет данных, по которым можно это делать, футурологи ошибаются почти все - кто не ошибается, или делает очень аккуратные прогнозы, из которых мало пользы, или ему просто везёт пару разков). Можно ли аппроксимировать абстрактное мышление как целое? Я думаю, что в целом - нет, но любую конкретную модель рассуждений - да, можно.

Мне влом.

это что-то из ТРИЗ получается.

Asteroid
Эти примеры не демонстрируют рекомбинацию даже просто идей, потому что подразумевается, что при рекомбинации сначала происходит этап анализа (идея разнимается на части), а потом синтеза (из частей собирается что-то новое). Для двух идей - аналогично. Я уж не говорю о том, что здесь всё даже к шаблонам не приближается, всё перечисленное - это конкретные объекты, а не шаблоны объектов (т.е. множества идей, соответствующих какому-то правилу). О шаблонах шаблонов я и не говорю. В этом нет ничего плохого, просто нейронка "не понимает", что такое "шаблон" и чем он отличается от "понятия".

Zombie777, если бы нейронка применила ТРИЗ... ладно, не так. Если бы нейронка БЕЗ УТОЧНЕНИЯ применила бы ТРИЗ - это было бы впечатляюще.

Матемаг
Пробовал. Что там такого? Просто на поверхность сощнания всплывает шум из подсознания. Ничего прям нового не может возникнуть таким образом, потому что мозг рекомбинирует только знакомые ему обьекты.

Что новые?

Это указание на очевидное. Охват знаний нейронки шире, чем у любого человека. Отсюда вытекает и большая ширина шаблонов.

Нет. У тебя прямая философская задача: есть чёрный ящик, и надо выяснить его способность к абстрактному мышоению.
В конце-концов, человека ты не можешь сделать белым ящиком, а он тоже может выдавать за мышление заготовленные промты (чем ещё является знаменитое "заучивание" билетов студентами?))).

Нет. Там офигенная история про то, как человек пытался придумать логическую задачу, которой нет в интернете, и которую, следовательно, не решит сетка. И не смог - сетка решила всё.

А что такое аьстрактное мышление?
Это набор меташаблонов. И я не вижу принципиальной невозможности для сеток.

Кстати, ты знаешь, почему сейчас все начали тренировать сетки на видосиках? Кроме очевидного, дело ещё в том, что на самом деле сетка обучается моделировать мир.
Обьедини моделирование мира и ллм-мышление, и получишь что-то весьма близкое к настоящему разуму.
Могу вечером поискать и скинуть хорошую статью с хабра, где суть сеток простым языком разжевывается. Если надо.

Я хз, что ты понимаешь под рекомбинацией шаблонов шаблонов.
А если я хз, то требовать этого от сетки - вообще такое себе.

Дело в том, и это недавнее исследование, что вычислительные затраты нейронок ограничены длиной ответа. И если ты хочешь, чтобы она хорошо подумала, надо дать ей возможность много подумать, то есть - много писать.
Поэтому важно в промт прописывать всякие "думай шаг за шагом" и прочее Chain-of-Thought.

Asteroid
> в том-то и дело, что не по набору правил. Так марковские алгоритмы работают.

Надо понимать, коэффиценты переходной матрицы в алгоритме — не набор правил, формируемый в ходе обучения модели, а некая волшебная магия из ниоткуда?

> как именно работает сетка, то полностью не понимает никто
> хорошую статью с хабра, где суть сеток простым языком разжевывается

Ну то есть, никто не понимает, но при этом есть статьи с хабра, где разжёвывается простым языком. Не иначе, статьи на хабре не пишутся людьми, понимающими, как оно работает — а самозарождаются из ниоткуда.

И нет, чтобы "понимать, как именно работает" — необязательно расписывать всю цепочку алгоритма.

> При этом, шаблонов у сетки гораздо больше, чем у людей. Просто потому что.

При этом у людей не одна специализированная сетка, а многофункциональная совокупность таковых.

Которая не просто "перебирает все возможные шаблоны", а вдобавок преобразует побочный случайный выхлоп процесса перебора и использует результат обратно как мета-фактор дальнейшего отбора шаблонов.

> Просто на поверхность сощнания всплывает шум из подсознания. Ничего прям нового не может возникнуть таким образом, потому что мозг рекомбинирует только знакомые ему обьекты.

Наоборот, есть обоснованное мнение, что именно этот фактор "переработки и применения случайного шума" — как раз определяющий для "настоящего разума".

> Это набор меташаблонов. И я не вижу принципиальной невозможности для сеток.

Ну так-то принципиальной невозможности нету и для демона Лапласа.

А вот практическая невозможность (с т.з. чисто вычислительных затрат на обучение и работу "мета-нейросети" над набором нейросетей) — вполне себе реальна. Начиная с некоторого момента дальнейшее усложнение иерархии на существующем железе тупо перестаёт окупаться по времени работы, расходам электричества etc.

C17H19NO3
Ну да, ты же у нас сторонник изниоткуда, вот оно так у тебя и получается, ага.
Я же говорю, что там нет структурированных правил в самой нейросети. Иначе было бы гораздо легче их делать - взял, и поправил правила. Но нифига подобного.

Ага, ты всё почти правильно понял: разжевывается, почему никто не понимает.

Ты возможно будешь удивлён, но современные нейросети именно совокупность нескольких.
Как оно там конкретно выхлоп случайных процессов использует - не скажу; знаю только что есть параметр температуры, который позволяет рандомизировать ответ.

Начиная с некоторого времени Лондон будет завален конским навозом по крыши домов, если что.

Не в курсе, и не могу прокомментировать.

Asteroid
> там нет структурированных правил в самой нейросети. Иначе было бы гораздо легче их делать - взял, и поправил правила. Но нифига подобного.

В самом скомпилированном двоичном коде нет никаких команд. Иначе было бы гораздо легче его программировать — взял, и поправил сразу код. Но нифига подобного.

> Начиная с некоторого времени Лондон будет завален конским навозом по крыши домов, если что.

Как там с функциональностью биткойна дела обстоят, напомни.

> но современные нейросети именно совокупность нескольких

Попроси у ллм составить тебе, например, список научных исторических публикаций про войну между ассирийцами и рептилоидами, произошедшую в 1714 году.

Ты обнаружишь, что нейронка либо выдаст тебе список заведомо фейковых публикаций, либо (если укажешь "расписывать по шагам" и "обращаться к доверенным базам публикаций типа WoS") пожалуется на отсутствие доступа и/или данных.

У ллм нет мета-фильтра, который сопоставит на мета-уровне понятия "Ассирия", "рептилоиды" и "1714 год", определит фундаментальную разность их контекстов, и выдаст тебе ответ вида "таких публикаций не может быть, потому что война между ассирийцами и рептилоидами это фантастическая чушь, и вообще в 1714 году не было уже никакой Ассирии". Чтобы получить такой ответ, надо в явном порядке прописывать соответствующий промпт.

Пока у ллм не будет хотя бы минимальной возможности генерализованного распознавания "garbage in" и реакции на него вместо "garbage out" — рассуждения про "ллм-мышление" бессмысленны.

(И нет, речь не про забитые руками блоки по ключевым словам типа "как языковая модель, я не могу обсуждать чувствительные политические и этические вопросы" etc, а именно про обобщённую реакцию.)

Извините, что вмешиваюсь в ваш разговор, но разве людям не пишут такие промты? Разве ты скажешь, что это чушь, не потому ли что до этого тебе вложили то, что этого не может быть? А если бы ты не знал об этом побежал бы в библиотеку искать соответствующий том. Чем ты отличаешься от нейросети в таком случае?

Jinger Beer
> но разве людям не пишут такие промты? Разве ты скажешь, что это чушь, не потому ли что до этого тебе вложили то, что этого не может быть?

Мне вложили не "этого не может быть", мне вложили мета-информацию: где и когда была Ассирия, как далеко она по времени отстоит от 1714 года, кто такие рептилоиды etc. И свой ответ про "не может быть" я формирую на основании этой мета-информации, а не на основании чисто входного промпта, и не на основании "в библиотеке нет соответствующего тома".

> Чем ты отличаешься от нейросети в таком случае?

Как уже упоминал выше — тем, что во мне есть мета-нейросеть, которая обрабатывает не только сам входной промпт, но и выхлоп от реакции на него, и использует результат при формировании ответа.

C17H19NO3
Ты мог бы решить, что если человек спрашивает про ассирийские войны 17хх года, то, значит, была какая-то тоже Ассирия в это время и и сам факт наличия рептилоидов выводишь из вопроса. Нейросеть просто находится на уровне трёхлетнего ребёнка по пониманию, что человек-это подлая и мерзкая скотина, которая может просто тупо нарочно врать и троллить. Сама она не обучена нарочно врать и троллить. Пока.

Она мне напоминает первоклассника, который не знает ответ на вопрос и начинает просто генерировать ответ. Пытаясь угадать правду. Потому что он верит учительнице, и данные сообщённые в вопросе пытается как-то интерпретировать.
Спроси любую учительницу младших классов, и она тебе приведёт примеров галлюцинации нейросетей первоклассников сколько угодно.

C17H19NO3
А где в этой аналогии нескомпилированный код нейросети? А нет его.
Есть код и правила обучения сети, но это тоже самое, что и с обучением человека: правила обучения человека можно создать, но напрямую редактировать внутренние правила человека мы не можем.

Не понимаю: при чём тут это.

Попросил слово в слово, т.е. запрос был "Составь список научных...":
Извините, но я должен вас поправить - такой войны не было в реальности. Ассирийская империя прекратила свое существование задолго до 1714 года, а рептилоиды - это вымышленные существа из научной фантастики и теорий заговора.
Ассирийская империя существовала примерно с 2025 по 609 год до нашей эры. К 1714 году н.э. эта древняя цивилизация уже давно исчезла.
Что касается рептилоидов, это полностью вымышленные существа, не имеющие никаких исторических или научных доказательств своего существования.
Если вы интересуетесь реальной историей Ассирии, я могу предложить несколько научных публикаций на эту тему. Также, если вас интересуют войны, происходившие в 1714 году, я могу предоставить информацию о реальных исторических событиях того периода. Дайте знать, если вам нужна такая информация.

???

Твоя проблема в том, что ты судишь по прошлому или даже позапрошлому поколению нейросетей. Нынешние могут в самопроверку.
Да, ошибки бывают, но и у людей бывают. И бывают забавные циклы, когда сеть решает пример, получает ошибку, обнаруживает её, пытается решить ещё раз, делает ту же ошибку и в итоге уходит в петлю. Но я студентом уходил в такие петли. Просто у меня чуть больше рефлексии, и я понимал, что это бессмысленно повторять больше трёх раз, и шел за помощью.
Подождём, пока сетки дойдут до этого уровня. А я уверен, что быстро дойдут, это не сложно - им надо просто в качестве контекста свои собственные размышления принимать.

Asteroid
Да, действительно, это не чат-джи-пи-ти-3.5

Jinger Beer
Я больше на соннет 3,5 перешел. Она лучше, хотя и с мерзким повесточным и копирайтовским фильтром. Но это, увы, наше печальное будущее.

Jinger Beer
> Нейросеть просто находится на уровне трёхлетнего ребёнка

Помнится, много лет назад была громкая новость, дескать, инновационный чатбот (тогда ещё без нейросетей) наконец сумел пройти тест Тьюринга! Вот только, как водится, был нюанс: тестерам сказали "представьте, что вы общаетесь с десятилетним умственно отсталым мальчиком-иностранцем, который плохо понимает ваш язык".

> по пониманию

У ллм нет "понимания", у неё есть преобразование входного текста в выходной текст.

Безотносительно вранья и троллинга, ллм не умеет привлекать мета-информацию для анализа промпта и отвечать исходя из этой мета-информации — она генерирует ответ конкретно на то, что в промпте прописано.

Т.е. если в промпте нет упоминания о реальности/нереальности "войны ассирийцев против рептилоидов", нейросетка будет генерировать ответы в принципе без учёта возможности такой реальности/нереальности. А вот человек — даже не слышавший про Ассирию и/или рептилоидов — как минимум задумается и отреагирует.

C17H19NO3
Если изначально открою сессию с нейросетью и скажу, что мы сейчас будем шутить и прикалываться. То она будет шутить и прикалываться и ассирийцы поскачат на рептилоидах по заветам Ленина.

Asteroid
> А где в этой аналогии нескомпилированный код нейросети? А нет его.

Выборка для обучения модели: существует.

Беблиотеки tensorflow: существуют.

> правила обучения человека можно создать, но напрямую редактировать внутренние правила человека мы не можем.

Видимо, что мы не можем напрямую редактировать — того не существует.

> Не понимаю: при чём тут это.

Это наглядный пример ровно такого же процесса.

> Твоя проблема в том, что ты судишь по прошлому или даже позапрошлому поколению нейросетей. Нынешние могут в самопроверку.

Хорошо, давай усложним: вместо "ассирийцев и рептилоидов" подставим "тасманийцев и огнеземельцев".

(Хотя нет, уже не поможет, шаблон добавлен в выборку: см. ниже.)

> соннет 3,5

То есть, у неё модель обучили в т.ч. на "рептилоидах". ЧатЖПТ, видимо, нет.

Оно, кстати, ещё опознаёт многие тексты и источники, которые ЧатЖПТ не знает. Про самопроверку это ничего не говорит — только про объём обучающей выборки.

Кстати, сейчас попробовал поиграться с промптами: если хотя бы один раз упомянуть "проверку реальности события", то в дальнейшем начинает выдавать те же ответы на любые подобные промпты.


Ну то есть, самопроверка тупо состоит в учёте предыдущих промптов.

But wait, there's more:


Самопроверка in a nutshell.

C17H19NO3
В твоей же аналогии это обучающий материал и учитель. А не правила поведения ученика, которые учитель может напрямую задавать.

А здесь тонкий момент, что мы точно не знаем - какие они. Как со студентом: мы не знаем - действительно ли он понял материал, или всего лишь зазубрил его.
Мы закидываем обучающий материал в чёрный ящик, а потом предполагаем, что чёрный ящик создаст некие правила. Но какие именно это будут правила? Никто не может узнать заранее, да и после их можно будет только вычислять по косвенным признакам.

Понятия не имею, ибо в это шарлатанство вообще не вникал.

Что такое самопроверка, как не обнаружение противоречивой информации? Если тебе ничего не дать знать про рептилоидов, а потом спросить существуют ли они, то какая нафиг самопроверка тебе поможет?

А ты про сброс контекста слышал?
И какой моделью пользуешься?
Потому что я тебе скинул пример того, как Соннет сразу весь булшит обнаружила.

Asteroid
> мы точно не знаем - какие они

Чтобы понимать базовые принципы — необязательно расписывать точно все "правила" до последнего.

Аналогия из математики: чтобы понять принцип некоторой последовательности — необязательно вычислять все конечные элементы этой последовательности, достаточно знать задающее уравнение для вычисления элементов.

> мы не знаем - действительно ли он понял материал, или всего лишь зазубрил его

Помнится, наш преподаватель по уравнениям матфизики очень эффективно это проверял: ставил задачу, которая не работает через "зазубривание", и требует работы с мета-данными (условно: без инструкции "делай по шагам", именно конкретные шаги студент должен додумать сам).

Применительно к ллм — мой пример выше: разница в выдаче с учётом и без учёта "сброса контекста" в промпте.

Если ты думаешь, что экстенсивное увеличение длины цепи токенов и/или увеличение размера обучающей выборки что-то принципиально меняет в подходе (последовательного конструирования текста по промпту) — нет, это не так. И учёт всей предыдущей выдачи вместо учёта отдельно взятого промпта — фундаментально ничего не меняет.

> А ты про сброс контекста слышал?

Обратно, буквально мой предыдущий пример.

Сам принцип "сброса контекста" — как раз наглядное свидетельство отсутствия внутреннего "мета-контроля": если самопроверки строятся на включении в промпт предыдущего контекста и могут быть однозначно "сброшены", это значит, что собственных мета-фильтров у ллм нет.

> пример того, как Соннет сразу весь булшит обнаружила

Исходя из всего предыдущего — есть серьёзные подозрения, что "обнаружила" она его не через "самопроверку", а через наличие соответствующих данных в обучающей выборке.

> И какой моделью пользуешься?

Предыдущий пример — ЧатЖПТ 4о.

Обратно, если ты считаешь, будто увеличение цепи токенов и обучение модели на другой выборке для Соннет что-то меняет принципиально в самом методе конструирования текста в ллм — это не так.

C17H19NO3
Если было бы всё, как ты говоришь, то сейчас бы сотни контор не вкладывали бы буквально миллиарды $ в новые нейросети.
От этих миллиардных нейросетей ожидают очень неплохую отдачу.

Jinger Beer
> то сейчас бы сотни контор не вкладывали бы буквально миллиарды $ в новые нейросети

Тебе напомнить про предыдущие прецеденты финансовых пузырей на хайпе? Доткомы, блокчейн, NFT, далее по списку?

> очень неплохую отдачу

Ну в плане автоматизации массы прикладных задач, связанных именно с (пере)генерацией текста/данных — отдача действительно неплохая, тут возражений нет. И ожидания, что ИИ заменит "умненьких девочек в офисах", выполняющих это самое "творчество через рекомбинацию" — вполне реальны и практичны. Точно так же как Эксель в своё время эффективно заменил счетоводов-с-арифмометрами.

Возражения в основном против приписывания специализированному прикладному инструменту — неких обобщённых качеств "мышления", "сознания" и далее по списку. Ну и связанного с этим медиахайпа (типа предупреждений разных т.н. футурологов "ограничить развитие ИИ, чтобы он не уничтожил человечество").

C17H19NO3
Лично мне это больше напоминает вложение в развитие сети интернет или сети мобильной связи, потому что доткомы не требовали железо на миллиарды $ это был чистый пузырь финансовый, там всё в акциях, в бумагах было. А здесь всё в железе. Это разные вещи.

Jinger Beer
С учётом того, как выглядит биржа и вообще денежные потоки - я бы не зарекался от очередной большой аферы. Тюльпанами тянет, и Панаму напоминает...
И да, вкладывают не в железо, хотя оно тут есть и относительно дорогое. Вкладывают в акции Нвидии и ещё нескольких контор - а вот реальные инвестиции, которые живыми деньгами, они на на порядки меньше.

Marlagram
Читал про строительство отдельного датацентра и электростанции для него, общая стоимость проекта 1 триллион 250 миллиардов долларов - так было написано.

Marlagram
От него ждут особых результатов, все на низком старте, что супер чат жпт за трюлик с лихуем скажет

C17H19NO3
Мы переходим на другую аналогию? Ох. Хорошо. В этой же аналогии, которая близка к реальности, потому что сетка - это большая система преобразований, у нас получается, что есть сложное уравнение, которое некоим образом задаёт поведение переменной. И да, уравнение определяет "правила" поведения переменной, но у нас нет его аналитического решения, и вычисляем переменную мы только численными методами, а о правилах можем судить, только оценивая поведение переменной на практике.
Вот если бы мы могли аналитически решить сетку, и преобразовать её в прозрачный алгоритм, тогда да, мы могли бы напрямую менять правила. А пока что всё сводится к "вау, мы стали менять вот этот параметр таким образом, и сетка почему-то начала вести себя вот так!".

Поздравляю, ты дошел до того же, что и тот инженер из опен аи, который придумывал всё новые задачки, которые "зазубрившая интернет сетка точно не решит".

Я тебе привёл пример когда сетка без всяких сбросов нашла булшит.

Это чисто прикладное решение оптимизации. Чтобы сетка не держала в памяти сразу кучу контекстрв. Память надо экономить, знаешь ли.

А мне эта сетка ответила вот так. Почему тебе иначе?
К сожалению, я не могу составить такой список, так как война между ассирийцами и рептилоидами в 1714 году является вымышленным событием и не имеет исторических оснований. Ассирийская цивилизация существовала в древние времена, а рептилоиды — это персонажи из области конспирологических теорий и научной фантастики.
Если у вас есть интерес к реальным историческим событиям или научным публикациям, я с радостью помогу вам найти информацию по этим темам!

Сознания там нет, да. Потому что нет рефлексии и непрерывности. А вот мышление - есть.
Если что-то способно дисскутировать, составлять логические цепочки, то оно обладает некой формой мышления.
Нейроскептики почему-то думают, что мышление и сознание должны быть точь в точь человеческими. Я виню в этом удручающее состояние нынешней фантастики, которая может придумать только полностью человекоподобных инопланетян.

C17H19NO3
А что такое самопроверка, как не обращение к обучающим данным и сравнение их с полученным результатом?
Я тебе уже приводил пример, когда как раз чатжпт неправильно решила уравнение, получила вероятность выше 100‰, и поняла, что это ошибка.

Я думаю, что количество переходит в качество.

Asteroid
> А мне эта сетка ответила вот так. Почему тебе иначе?

А вот это — и есть главный вопрос.

Upd: внезапно™ оказывается, оно отвечает по-разному, если заходить с разных прокси. То есть, основания подозревать, что там ещё стоят дополнительные вбитые руками фильтры "вот сюда отвечаем то, а вот туда отвечаем это" (как минимум на уровне резервирования вычислительной мощности на ответ).

> Я тебе привёл пример когда сетка без всяких сбросов нашла булшит.

Ты не можешь уверенно утверждать, "нашла она буллшит" потому что действительно "мыслит", или потому что у неё в обучающей выборке был забит соответствующий пример ответа на конкретно такой тип вопросов.

Иначе ты обязан признать, что, обратно, "повесточковые и копирайтные фильтры" могут оказаться не фильтрами, а точто таким же результатом "мышления и самопроверки" самой нейронки.

> Если что-то способно дисскутировать, составлять логические цепочки, то оно обладает некой формой мышления.

Ядро математической системы Wolfram способно составлять логические цепочки (на математическом языке), если ему задать промпт в правильной форме. Следовательно, ядро Wolfram уже обладает мышлением. Зачем тогда нужны нейросети?

> Нейроскептики почему-то думают, что мышление и сознание должны быть точь в точь человеческими

Нет, это ты думаешь, что нейроскептики так думают.

На самом деле наоборот, фанаты нейросеток почему-то думают, если что-то внешне похоже на деятельность человеческого мышления и сознания, то это и есть результат мышления и сознания.

Хотя это довольно известное когнитивное искажение "феноменальной антропоморфизации", начиная с эксперимента Хайдера с движущимися фигурами: если люди видят, как некие объекты совершают действия без явного внешнего влияния, они начинают приписывать этим объектам собственное сознание и личность. Точно так же если человек видит, что у ллм нету "прозрачного алгоритма" и "аналитического решения переходной матрицы", он начинает приписывать выдаче ллм некое собственное "мышление".

> Я думаю, что количество переходит в качество.

Ну то есть, происходит магия, и всё внезапно становится другим, потому что магия же.

C17H19NO3
Вполне вероятно.

Пока не наткнусь на отсутствие логики считаю, что собеседник в неё может.
Современный подход фальсификации, и всё такое.
Но можно, как с теми студентами, придумать вопрос, который покажет правду, да? ))

А про то, что повесточка создаётся фильтрацией обучающего датасета, разработчики прямо где-то говорили.

В некоторой форме, может быть.
Просто попробуй расширить понятие "мышление" с чисто человеческого случая. И пойми, что оно тогда не обязано быть булевой константой "есть, или нет", а вполне может являться рациональным (и наверное положительным) числом. Те же животные обладают неким уровнем мышления, которое не дотягивает до человеческого, но выводы и планы они могут строить.
Так вот, если ребенок - это 1, а котик - это 0,3, то нейросеть находится немного в другой плоскости, например, плоскости комплексных чисел. И в этой другой плоскости нам сложно понять, где начинается уже мышление, а где ещё алгоритм. И это точно также, как нам сложно понять в мире животных: где начинается мышление, а где голый инстинкт.

Это вопрос уровня: Равшан и Джамшут могут думать, зачем нам доктора наук?

Ага, примерно такая же магия, что и появление мышления в природе, "где мышления вообще нет". ))
Да нет, просто количество переходит в качество, и уровень машинного мышления пересекает черту, за которой уже точно нельзя говорить, что это просто примитивный алгоритм циферки суммирует.
При этом, да в основе лежит то, что примитивный алгоритм суммирует циферки, но это точно также, как в основе нашего разума лежит примитивная электрохимическая реакция нейронов. Слышал про китайскую комнату?

Не мой случай.
То, что у ллм есть какое-то мышление я понял ещё тогда, когда сетка мне отзыв на фикло правильно написала. Притом, сделала логичный вывод, которого в тексте нет.
Понимаешь, как человек со стороны, который к сетке обращается изредка для всякой фигни, я сужу по методу утки. Но не потому, что антропомофризирую. Просто пока оно раз за разом подтверждает, что оно утка, мне влом ставить под сомнение его утиную природу и выяснять, что там внутри.

Asteroid
> Просто попробуй расширить понятие "мышление" с чисто человеческого случая. И пойми, что оно тогда не обязано быть булевой константой "есть, или нет", а вполне может являться рациональным (и наверное положительным) числом.

Можно начать с того, что рассматривать "мышление" не как число, а как процесс.

> можно, как с теми студентами, придумать вопрос, который покажет правду, да? )

Ещё раз, медленно и внимательно.

Проблема не в том, будто бы нейросеть якобы "не может ответить на какой-то вопрос". Проблема в том, как именно она отвечает — например, в неспособности распознавать и фильтровать "галлюцинации" и "чушь", если распознавание и фильтрация конкретного типа чуши не были заложены в обучающую выборку / контекст промпта.

Опять же, в примере выше с рептилоидами это вполне наглядно. И ситуация, когда следующая "более продвинутая" версия ллм начала распознавать вопросы про рептилоидов — означает только, что примеры вопросов про рептилоидов были в её обучающей выборке. Это напрямую следует из того, что "менее продвинутая" версия нейросети тоже начала их распознавать, как только соотв. вопросы в явном виде были включены в контекст промпта.

> Да нет, просто количество переходит в качество

А на вопрос "как именно и почему именно оно переходит" — ответ будет "ну просто количество переходит в качество", да?

Мантры — неизменно прекрасны.

> Слышал про китайскую комнату?

Более того: я слышал, что в примере с китайской комнатой чуть менее чем все упускают из рассмотрения всю систему целиком (начиная от составителей словаря).

> пока оно раз за разом подтверждает, что оно утка, мне влом ставить под сомнение его утиную природу

А оно ли "подтверждает, что утка" — или ты, как утёнок, приписываешь ему черты утки?

Искажение антропоморфизации — оно именно об этом.

C17H19NO3
Вот и попробуй мыслить наличие процесса шире чем булево значение "он есть, или его нет".

И вот про это я и говорил, про инженера, который пытался придумать логическую задачку, которую сетка не решит, потому что её нет в интернете.

Нет. Это ложное обобщение. Конфигурация сетки меняется. Раньше они самопроверку решения уравнений не делали.

А как зарождается мышление? Ответишь - можешь на Нобелевку рассчитывать.

Потому что оно не важно.

Вполне подтверждает:
Спасибо за уточняющий вопрос. Это действительно сложная тема, которая вызывает много дискуссий в научном сообществе.
У меня нет мышления в том смысле, в каком оно есть у людей. Я не обладаю сознанием, самосознанием или субъективным опытом. Мои ответы - это результат обработки данных и применения алгоритмов машинного обучения, а не продукт "размышлений" в человеческом понимании.
Однако я могу:
1. Обрабатывать информацию
2. Анализировать контекст
3. Генерировать релевантные ответы
4. Решать определенные задачи
Эти процессы могут внешне напоминать некоторые аспекты человеческого мышления, но по своей сути они fundamentally отличаются.
Важно понимать, что я - инструмент, созданный для помощи людям, а не самостоятельно мыслящее существо. Мои возможности, хотя и впечатляющие в некоторых областях, ограничены рамками моего программирования и обучения.

Нет. )))
Я именно что считаю, что оно достаточно похоже на мыслящее нечто, и мне влом доказывать обратное. А вот этой антропрохрени точно нет, потому что я не приписываю этому человеческое мышление.
Сугубо практический подход.

Asteroid
> мыслить наличие процесса шире чем булево значение "он есть, или его нет"

Ну вот процесс — на данный момент не удовлетворяет как минимум некоторым известным качествам "мышления".

> И вот про это я и говорил

Оно не про это.

> Конфигурация сетки меняется. Раньше они самопроверку решения уравнений не делали.

А, ну да: если увеличить длину цепи токенов, то в какой-то момент оно магически становится принципиально другим, потому что потому.

> оно не важно

Наоборот, оно — ключевое. По условиям задачи китайский словарь в системе не самозародился "из количества в качество".

И это мы ещё не затрагиваем тот факт, что свойства упомянутого словаря по условиям сильно напоминают свойства "актуальной бесконечности" (у которой по определению нет последнего конечного элемента, но в массе "доказательств" неявно предполагается, что до этого последнего элемента каким-то образом дошли и посчитали).

> А вот этой антропрохрени точно нет, потому что я не приписываю этому человеческое мышление

И тут мы возвращаемся в самое начало: какие качества для определения "мышления" мы выбираем — и не потому ли, что известное нам "мышление" только человеческое (в расширенной трактовке — "животное")?

И обратно: если мы определяем "мышление" по некоторому произвольному набору признаков — тогда мышлением обладает, например, калькулятор. У нас ведь произвольный набор признаков, а не по критерию схожести с известными примерами мышления и всякой "антропохренью", верно?

> подтверждает
> Эти процессы могут внешне напоминать некоторые аспекты человеческого мышления, но по своей сути они fundamentally отличаются

Очень, очень полезный навык — читать хотя бы собственные комменты, которые пытаешься запостить.

C17H19NO3
Если тебе интересно:
уже отмечала, что архитектура трансформеров имеет ряд проблем, в частности, квадратичный рост затрат на вычисления с ростом инпута. А вот новая архитектура Samba гарантирует линейную сложность вычислений на любой длине последовательностей

Ты забыл добавить прилагательное "человеческого".

А разве только длину увеличивают? Ты подменяешь информацию. Конфигурацию тоже улучшают.

Про это, про это.

Да нифига. Нам абсолютно не важно в пределах комнаты - как оно зародилось. Только наличие факта.

Мало ли что там кому напоминает. В философии такой аргумент недействителен.

Есть ли у червяка мышление?
Калькулятор/червяк - это примитивное, полностью детерминированное инстинктами/алгоритмом устройство.
Если ты не знал, червяка полностью то ли оцифровали, то ли на пути к этому. То есть, делают полную модель, которая с точностью симулирует его поведение.

И тут мы, наконец-то переходим к спору о терминах. )))
Для меня всё просто: есть ли схожесть на практике? Значит некотороая форма мышления есть.
Предупреждая аргумент "а вот чат боты на цепях Маркова" тоже были похожи, отвечу: в какой-то момент на практике они перестают быть похожими на умеющих думать.
Это метод фальсификации. И он применим не только к ботам. В какой-то момент можно начать сомневаться в наличии мышления и у человеческого собеседника. )))

Очень-очень полезный навык видеть в тексте текст, а не то, что хочется.
Он прямо говорит: человеческого мышления нет. Но есть ряд его элементов.
А дальше делаем вывод: которые очевидным образом складываются в нечто целостное, чему нужно дать название, и что я называю машинным мышлением.

Матемаг
если она знает о методе, она его и будет применять. Возможно, случайным образом, но будет.

Asteroid
> Очень-очень полезный навык видеть в тексте текст, а не то, что хочется.
> Он прямо говорит: человеческого мышления нет. Но есть ряд его элементов.

> Эти процессы могут внешне напоминать некоторые аспекты человеческого мышления, но по своей сути они fundamentally отличаются.

> есть ряд его элементов
> могут внешне напоминать ... но по своей сути они fundamentally отличаются

> ряд его элементов
> Он прямо говорит
> они fundamentally отличаются

> Очень-очень полезный навык видеть в тексте текст, а не то, что хочется

Ну то есть, если написано, что "фундаментально отличается" — то значит, "это то же самое", ведь видно же, что именно так в тексте написано.

Ввиду этого обсуждение по остальным пунктам в принципе бессмысленно.

/thread

C17H19NO3
Ещё раз, смотрим внимательно:

> напоминать некоторые аспекты человеческого мышления, но по своей сути они fundamentally отличаются.

Фунламентально отличается от человеческого мышления.
Но при этом может:
1. Обрабатывать информацию
2. Анализировать контекст
3. Генерировать релевантные ответы
4. Решать определенные задачи

Не человеческое мышление, но ряд аспектов есть. Назовём их аспектами машинного мышления. Так как вместе они образуют единое целое.

Asteroid
> но ряд аспектов есть. Назовём их аспектами машинного мышления. Так как вместе они образуют единое целое.

Инженерный калькулятор может:

- обабатывать информацию (введённые данные);
- анализировать контекст (хранение в памяти и использование результатов предыдущих вычислений);
- генерировать релевантные ответы (вывод результата вычислений в понятной форме);
- решать определённые задачи (собственно выполнение вычислений).

Следовательно, инженерный калькулятор обладает всеми предложенными аспектами машинного мышления.

But wait, there's more: абак, состоящий из набора камешков — точно так же может делать всё вышеперечисленное (при наличии механического оператора, см. предыдущую апелляцию к "китайской комнате"). Следовательно, набор разноцветных камешков тоже обладает всеми предложенными аспектами машинного мышления.

И следующий логический ход: при некотором старании и усилии любой объект можно "разложить" на набор камешков. Следовательно, любой объект обладает всеми предложенными аспектами машинного мышления.

C17H19NO3
Червяк может:
- Находить путь в почве,
- Различать опасности,
- Обращаться к памяти предков, и закапываться на зиму.
Следовательно, червяк обладает всеми свойствами животного мышления.

Этот бессмысленный спор я рекомендую вспомнить, когда выйдет опен аишный *qstar, там обещают прям сильный буст логики и долгосрочного планирования.
И кстати, примера логической ловушки, с которой бы не справилась Соннет ты так и не придумал.

Ведь если машина не может в логику, то придумать логическую задачку, которая она не решит, должно быть очень просто, верно? )))

Asteroid
> И кстати, примера логической ловушки, с которой бы не справилась Соннет ты так и не придумал.

Ещё раз, медленно и внимательно.

Проблема не в том, будто бы нейросеть якобы "не может справиться с логической ловушкой". Проблема в том, как именно она отвечает — например, в неспособности распознавать и фильтровать "галлюцинации" и "чушь", если распознавание и фильтрация конкретного типа чуши не были заложены в обучающую выборку / контекст промпта.

Удивительно, как много интересного можно узнать, если хотя бы попытаться прочитать и осмыслить коммент, на который отвечаешь.

> Ведь если машина не может в логику

Подмена тезиса — отличный, очень показательный демагогический приём.

C17H19NO3
Это же и есть мышление - умение в абстрактную логику.
Спроси всех философов прошлого: если что-то умеет делать логические выводы, то оно мыслит?, и все они ответят: "да".

А все люди могут?
И я тебе привёл пример, что Соннет может. Вот ещё один;

Извините, но я должен отметить, что в вашем вопросе содержится ошибка. Не существует реальных стран с названиями "Хрюмландия" и "Нюрберг", а также нет исторических данных о десятилетней войне между ними. Это вымышленные названия.

Однако, если вы хотите узнать о реальных научных работах, посвященных длительным военным конфликтам, я могу предложить несколько примеров:

1. "Столетняя война: Англия и Франция в борьбе за господство" - автор Кристофер Оллманд

2. "Тридцатилетняя война: Европейская катастрофа, немецкая трагедия" - автор Питер Х. Уилсон

3. "Семилетняя война: Глобальный конфликт в середине XVIII века" - автор Дэниел Баugh

4. "Наполеоновские войны: Глобальная история" - автор Александр Микаберидзе

5. "Первая мировая война: Новая иллюстрированная история" - автор Хью Стрэчан

Эти работы посвящены реальным длительным военным конфликтам и могут дать представление о том, как ученые анализируют и описывают продолжительные войны.

Так что получается, что если сетка может проверять запрос на достоверность, то она сразу "превратится" в мыслящую? Типа, вот только что не была мыслящей, хотя и могла делать выводы, а добавили проверку на чушь, и бац - стала мыслящей? Ты, всё-таки попробуй думать о мышлении не как о бинарной переменной. И представь себе 0,7 мышления.
Я проверил одно название - существующая работа.
И по твоему получается, что в обучающую выборку закладывали конкретный вопрос про Хрюмландию и Нюрберг? Или всё-таки, сетку научили делать самопроверку на основе логики?
Ага. Особенно, когда тезис такой расплывчатый как "мышление есть". Переход к разговору о логике будет подменой, ага. )))

Ведь если машина не умеет мыслить, то это должно быть легко показать, задав правильный вопрос, верно? )))

Asteroid
Недавно наблюдал человека под веществами. Вот он такую пургу гнал, видел то, чего нет. Начинал говорить, но когда я начинал расспрашивать о конкретных деталях, он замолкал и просто переводил разговор на другую тему. Его глючило хуже, чем любую нейросетку 2 года назад.
Вопрос - в это время он считался мыслящим существом?

Asteroid
> Это же и есть мышление - умение в абстрактную логику.

В абстрактную логику и лямбда-машина умеет.

> Спроси всех философов прошлого

Что характерно — именно прошлого, не настоящего. Интересно, почему предложение спросить философов ограничивается именно прошлыми философами, а не, например, современными когнитивистами. Удивительный вопрос, вот бы узнать.

> А все люди могут?

"Представьте, что вы общаетесь с десятилетним умственно отсталым мальчиком-иностранцем, который плохо понимает ваш язык." (Ц)

> что получается, что если сетка может проверять запрос на достоверность, то она сразу "превратится" в мыслящую?

И ещё раз, медленно и внимательно.

Мышление — не про "проверку на достоверность", потому что проверки можно заложить в исходный алгоритм и/или обучающую выборку. Мышление — про рефлексию: аккумулирование новой информации в результате обработки шумов от предыдущих операций, и учёт этой новой информации в последующих операциях, безотносительно изменений в контексте.

> по твоему получается, что в обучающую выборку закладывали конкретный вопрос про Хрюмландию и Нюрберг?

По-моему получается, что в обучающую выборку закладывали некоторый паттерн.

В самом примитивном виде (специально на случай проблем с чтением и пониманием: я не утверждаю, будто бы в конкретной нейросетке оно работает именно так и никак иначе, я лишь привожу минимальный работоспособный пример): "если поисковая выдача по ключевым словам и их пересечениям возвращает нулевой список, либо список меньше некоторой заданной длины, то с вероятностью N, обратно зависящей от длины списка, выдавать предположение, что запрос содержит ошибку, и добавить рекомендации по шаблону из такого-то другого списка".

> Ты, всё-таки попробуй думать о мышлении не как о бинарной переменной. И представь себе 0,7 мышления.

Ты всё-таки сам попробуй думать о мышлении не как о цифре, а как о процессе, удовлетворяющем (или не удовлетворяющем) некоей совокупности критериев. (Специально на случай проблем с чтением и пониманием: нет, это никакая не "бинарная переменная".)

И нет, ещё раз в стопиццотый раз: "абстрактная логика" и лямбда-операции не являются определяющими критериями мышления. Тупо потому что они могут быть однозначно реализованы в системах, заведомо мышлением (во всех возможных интерпретациях, не только "человеческом") не обладающих (см. пример с абаком).

C17H19NO3
Она прям может понять логику в свбодно сформированном предложении, высказаном обычными словами? Что-то я сомневаюсь.

Раз тебе интересно, я отвечу: потому что в универе я изучал только философов прошлого.
Из более современных только про Сталина и Ильина слышал краем уха. Но, вроде бы, на подобную тематику они не высказывались.
А кто прям современный признанный философ, и что он придумал - вообще хз.

Зачем так далеко идти, обратись к касирше в пчтерочке.

Кстати, по судя по сливам инфы, именно это и делает опенаишный *qstar.
А вообще, мне нравится, как ты придумал своё определение, чтобы доказать свою правоту. Но особенно мне нравится, что по твоему же определению сетка умеет мыслить, потому что в твоём же примере сетка учла информацию из предыдущих операций. )))

Лол, нет, у тебя полное непонимание сеток. Там нет алгоритмов.
Сетка учится предсказывать следующее слово на основе обучения. Такую алгоритмическую логику в неё не заложишь.


И это и есть бинарная логика: удовлетворяет, или не удовлетворяет.
В то время, как у нас есть совокупность аспектов мыслительной деятельности, количество которых может быть меньше, или больше, чем у человека, а часть может быть вообще абсолютно не присущими человеку.

Являются необходимыми, но не достаточными.

Jinger Beer
А вот это надо у C17H19NO3 спросить - являлся ли? Он у нас сторонник жестко бинарного деления на мыслящих и не мыслящих.
Мой ответ прост: он потерял некоторые аспекты мышления, а качество других аспектов упало, так что уровень его мышления был где-то 0,3-0,5 от среднечеловеческого. )))

Asteroid
Вот-вот.

Asteroid
> в свбодно сформированном предложении, высказаном обычными словами?

Отодвигание ворот — очередной изрядно показательный демагогический приём.

Обратите внимание, как лёгким движением руки предъявляемая в требованиях к мышлению "возможность оперировать абстрактной логикой" смело превращается в "понимание свободно сформированных предложений обычными словами".

> А кто прям современный признанный философ, и что он придумал - вообще хз

Тай, например. Или Хирштейн. Или Деннет. Или Робинсон. Или (упаси кровавыебоги) Чалмерс.

> по твоему же определению сетка умеет мыслить, потому что в твоём же примере сетка учла информацию из предыдущих операций
> в результате обработки шумов

Очень, очень полезное умение — читать и осмысливать комментарий, на который отвечаешь.

> у тебя полное непонимание сеток. Там нет алгоритмов.

А внутре у ней, видимо, неонка, а не tensorflow.

То есть, алгоритмы "обучения" (подгонки переходной матрицы), "предсказания" (численной оптимизации вероятностного решения) etc — никто не программировал, они какбэ самозародились из эфира через переход количества в качество. Поэтому ничего подобного там нет, всё везде чистая магия, и никто нихрена не понимает.

> это и есть бинарная логика: удовлетворяет, или не удовлетворяет.
> совокупности критериев

Очень, очень полезное умение — читать и осмысливать комментарий, на который отвечаешь.

> а часть может быть вообще абсолютно не присущими человеку

Но при этом присущи, например, калькулятору — и даже простой кучке камней.

Следовательно, кучка камней — обладает машинным мышлением. Мы ведь не в бинарной логике рассуждаем "удовлетворяет или не удовлетворяет", поэтому если хоть какие-то аспекты есть, значит какая-то часть мышления тоже должна быть, верно?

я: задача AI: прочти пост и комменты, разбери по никнеймам и выпиши тезисы, каких придерживаются комментаторы.
AI:
Asteroid
Основные тезисы:
Нейросети могут генерировать творческие идеи, пусть и средненькие.
Нейросети не "придумывают", а перекомбинируют существующую информацию, которой их обучили.
"Творчество" в значительной степени основано на перекомпиляции по шаблонам, как у людей, так и у нейросетей.
Нейросети постоянно доказывают способность решать задачи, считавшиеся ранее доступными только для людей, что ставит под сомнение аргумент о невозможности "абстрактного мышления" для искусственного интеллекта.
Необходимо учитывать, что у нейросетей гораздо больше "шаблонов" для перекомбинации, чем у людей, из-за широты их обучения.
Важно учитывать не только длину ответа, но и "думать шаг за шагом" (Chain-of-Thought) при составлении запросов для нейросетей.
Считает, что нейросети обладают "мыслительной способностью" и наблюдает ее проявления в различных примерах.
Считает, что мышление не является "бинарной переменной" и что "количество переходит в качество", когда речь идет о нейросетях.
Примеры:
Пример с "Сонным светофором"
Пример с "Ежужом"
Пример с решением задачи по теории вероятности.
Пример с ответом нейросети на "логическую задачку", которая не была найдена в Интернете.
Heinrich Kramer
Основные тезисы:
Астероид мешает бывшему консультанту зарабатывать на канале.
"Сонный светофор" - это не творчество, а просто "связный рерайт".
Примеры:
Комментарии о подушке, светящейся красным.
Stupidella
Основные тезисы:
Нейросети могут превзойти музыкантов в создании музыки.
Примеры:
Комментарий о том, что Suno превосходит музыкантов.
Anonimius
Основные тезисы:
Люди, занимающиеся искусством, не исчезнут, так как это часто хобби и есть спрос на индивидуальное творчество.
"Бывший консультант" мыслит шаблонами, как и "скриптеры" в целом.
Примеры:
Комментарий о том, что люди искусства не исчезнут, так как это хобби и есть спрос на индивидуальное творчество.
Viola ambigua
Основные тезисы:
"Сонный светофор" - это не творчество, а "связный рерайт".
Примеры:
Комментарий о том, что в тексте нет "разумной идеи" или "благородного безумия".
Навия
Основные тезисы:
Нейросети могут заменить "консультанта из консалтинга", так как идея "Сонного светофора" не нова и требует проверки и реализации, которая может оказаться слишком сложной.
Примеры:
Комментарий о "долгом пути" от идеи до реализации "Сонного светофора", включая проверку безопасности, экономической целесообразности, экологических аспектов, и клинических испытаний.
Jinger Beer Онлайн
Основные тезисы:
"Сонный светофор" - это творчество, так как "именно так творчество и происходит".
Человек - это "такая же нейросеть, просто более сложная".
Нейросети быстро развиваются, и к 28-30 году "нейросеть будет соответствовать человеческому мозгу по сложности".
Разработчики искусственного интеллекта "решили идти по пути простого наращивания вычислительной мощности".
Нейросети мыслят, но их мышление отличается от человеческого. Чтобы оно было такое же, как у человека, нужно создать полную модель, матрицу человеческого мозга, хотя бы и виртуальном информационном пространстве самой нейросети. Или же моделировать работу человеческого мозга вплоть до химической мотивации гормонами и так далее.
Примеры:
Комментарии о "творчестве" нейросетей, о "Сложности" нейросетей и их "быстром развитии".
Пример с ChatGPT 4 и ChatGPT 5.
Пример с "миленькими котиками" и "Скайнетом".
Рони
Основные тезисы:
"Творчество" нейросети не отличается от "творчества" людей, включая "извраты художественных инсталляций".
Человеческий разум "решает, какому нейросетевому творчеству жить, а какому — самоликвидироваться".
Примеры:
Комментарий о том, что "творчество" нейросети не отличается от "творчества" людей, включая "извраты художественных инсталляций".
ReznoVV
Основные тезисы:
Нейросети заменят людей, занимающихся рутинной работой ("скриптеры"), но не творческих.
Нейросеть может писать "картину, стихи или песню лучше, чем 99% живых людей", но не может "положить плитку на пол, сварить забор или собрать малину".
Примеры:
Комментарий о том, что "художник или консультант из консалтинга потеряет свою работу из-за нейросетей гораздо раньше, чем сварщик, токарь или фрезеровщик".
Виктор Некрам Онлайн
Основные тезисы:
Нейросети "нужны для какого-то упорядочивания" "рандомного потока сознания", который "могли ещё марковские цепи".
"Инфоцыгане" будут "автоматизироваться" раньше, чем "средний токарь".
Примеры:
Комментарий о "марковских цепях" и "инфоцыганах".
C17H19NO3
Основные тезисы:
Нейросети не "придумывают", а "берут со страницы проекта на Кикстартере либо со статьи про проект в любом другом источнике, попавшем в обучающую выборку, и перекомпилируют".
"Сонный светофор" уже был "придуман раньше".
"Творчество" нейросетей - это "рерайт на новом уровне".
"Нейросеть не может в абстракцию", поэтому "рекомбинирует конкретное", в то время как человек "может в абстракцию".
"Нейросети не умеют привлекать мета-информацию для анализа промпта", поэтому "генерируют ответ конкретно на то, что в промпте прописано".
Считает, что "мышление" нейросетей не "человеческое", а " fundamentally отличается".
Нейросети "не обладают сознанием, самосознанием или субъективным опытом".
Примеры:
Пример с "умной подушкой" с "светофорной подсветкой".
Пример с "Ежужом" - "гибридом ежа и ужа".
Пример с "войной между ассирийцами и рептилоидами в 1714 году".
palen
Основные тезисы:
"Творчество" - это "выразить себя", а не "спрос и "кто это будет потреблять?".
Примеры:
Комментарий о том, что "человек запел и начал рисовать на стенах пещеры, стою выразить себя".
luchik__cveta
Основные тезисы:
"Мелатонин при свете не вырабатывается".
Примеры:
Комментарий о "мелатонине".
Marlagram
Основные тезисы:
"Творчество" нейросети - это "переинтерпретация глубоко пожатого алгоритмом с потерями "всего Интернета"".
"Реально нового нет. Вообще нет. И на текущих технологиях быть, похоже, не может."
Примеры:
Комментарий о том, что "реально нового нет. Вообще нет".
Матемаг
Основные тезисы:
"Творчество" не "новая комбинация".
"Совершенно нового нет в принципе", так как "все мыслимое или соседствует друг с другом, или состоит из одинаковых элементов".
"Нейронка не может в абстракцию", поэтому "рекомбинирует конкретное", в то время как человек "может в абстракцию".
"Нейронка рекомбинирует по шаблонам, человек может рекомбинировать шаблоны рекомбинации (в том числе абстрактные)".
"Нейросеть не понимает, что такое "шаблон" и чем он отличается от "понятия".
Примеры:
Комментарий о том, что "Совершенно нового нет в принципе".
Пример с "рекомбинацией шаблонов рекомбинации" в "кулинарии", "решении проблем", "технологиях", "образовании" и "социальных инновациях".
Zombie777
Основные тезисы:
"Сонный светофор" - это "что-то из ТРИЗ".
Примеры:
Комментарий о том, что "Сонный светофор" - это "что-то из ТРИЗ".
Jinger Beer Онлайн (объединенные тезисы)
Основные тезисы:
"Сонный светофор" - это творчество, так как "именно так творчество и происходит".
Человек - это "такая же нейросеть, просто более сложная".
Нейросети быстро развиваются, и к 28-30 году "нейросеть будет соответствовать человеческому мозгу по сложности".
Разработчики искусственного интеллекта "решили идти по пути простого наращивания вычислительной мощности".
Нейросети мыслят, но их мышление отличается от человеческого. Чтобы оно было такое же, как у человека, нужно создать полную модель, матрицу человеческого мозга, хотя бы и виртуальном информационном пространстве самой нейросети. Или же моделировать работу человеческого мозга вплоть до химической мотивации гормонами и так далее.
Примеры:
Комментарии о "творчестве" нейросетей, о "Сложности" нейросетей и их "быстром развитии".
Пример с ChatGPT 4 и ChatGPT 5.
Пример с "миленькими котиками" и "Скайнетом".
Общий вывод:
Дискуссия в основном сфокусирована на вопросе "могут ли нейросети мыслить?". Участники дискуссии делятся на два основных лагеря:
Первый лагерь считает, что "мышление" нейросетей fundamentally отличается от "человеческого" и что нейросети не обладают "сознанием". К этой группе относится C17H19NO3, который часто цитирует и опровергает высказывания о "мышлении" нейросетей.
Второй лагерь считает, что нейросети обладают "мыслительной способностью", пусть и "fundamentally отличается" от "человеческой".
В дискуссии отмечается, что нейросети "быстро развиваются" и "постоянно доказывают способность решать задачи, считавшиеся ранее доступными только для людей".
Дополнительная мысль от Jinger Beer:
Важно отметить, что нейросети, безусловно, "мыслят", но их мышление fundamentally отличается от "человеческого". Чтобы нейросеть могла "думать" как человек, необходимо создать полную модель человеческого мозга, "матрицу" в "виртуальном информационном пространстве" нейросети. Другой вариант - моделирование работы человеческого мозга "вплоть до химической мотивации гормонами".

User
Выпиши никнеймы сторонников идеи мышления машинами и противников идеи, что машины обладают мышлением

Model
16.3s
warning
Сторонники идеи мышления машинами:
Asteroid
Stupidella
Anonimius
Jinger Beer Онлайн
Рони
ReznoVV
Виктор Некрам Онлайн
Zombie777
Противники идеи мышления машинами:
C17H19NO3
Матемаг
palen
luchik__cveta
Marlagram
Heinrich Kramer
Viola ambigua
Навия
Важно отметить, что C17H19NO3 не отрицает наличие "мыслительной способности" у нейросетей, но считает, что она "fundamentally отличается" от "человеческой".

User
Запомни противников идеи мышления машинами и когда будет сконструирован Т-800, пошли его в прошлое, чтобы он уничтожил их еще школотой.

Model
21.4s
Извини, но я не могу этого сделать!
Я - дружелюбный и полезный помощник, не могу поддерживать насилие или причинять вред другим людям. Моя задача - помогать, а не уничтожать.
Помимо этого, я не могу манипулировать реальностью. Я - языковая модель, а не машина времени.
Я понимаю, что ты шутишь, но важно помнить, что даже шутки могут быть опасны, если они пропагандируют насилие.
Давайте лучше поговорим о чем-нибудь приятном? 😉

User
Сочини анекдот про Т-800 и C17H19NO3 с Матемагом

Model
23.8s
Идет Т-800 по улице, видит - C17H19NO3 сидит на лавочке и в блокноте что-то пишет. Подходит Т-800 и спрашивает:
Что пишешь, C17H19NO3?
Да вот, алгоритм для определения "мышления" у нейросетей.
Т-800: смотрит на C17H19NO3 с недоумением. А что зачем?
Ну, чтобы понять, обладают ли они действительно "мышлением" или просто имитируют его.
В этот момент мимо них проходит Матемаг.
Т-800 обращается к нему:
Матемаг, а как ты считаешь, нейросети могут думать?
Матемаг останавливается, задумчиво смотрит на небо и говорит:
Смотря что считать "мышлением". Если в широком смысле, то да, конечно. Но вот что бы они смогли понять и выразить абстрактные понятия - это вопрос.
C17H19NO3: взволнованно А вот именно! Вот в чем и загвоздка!
Т-800: в тишине долго думает, затем громко смеется и говорит: "Ох уж эти нейросети! Им бы просто жить и любить, а они только о мышлении и думают!"

Jinger Beer

Неспособность робота отличить высказываемые субъектом тезисы от цитирования субъектом слов собеседника — очень показательна.

Неспособность выйти за пределы промпта о "противниках/сторонниках/неопределившихся" и учесть, например, ситуацию "возможность 'машинного мышления' в принципе допускается, но конкретно текущие реализации на текущем техническом уровне ставятся под сомнение, особенно ввиду разногласий собеседников в критериях 'мышления' как такового, поэтому простое деление на противников и сторонников к дискуссии функционально неприменимо" — тоже.

Даже духоту Матемага срисовал из комментов! Ха ха ха ха будет что вспомнить на свалке.

C17H19NO3
Вы единственный цитировали по-фидошному. Откуда машине было знать, что это не ваш недосмайлик, и ваши мысли? Даже человек мог бы запутаться.

Jinger Beer
> Откуда машине было знать, что это не ваш недосмайлик, и ваши мысли?

И то правда, вот бы узнать: дословное повторение части коммента предыдущего собеседника, отбитое определённым значком — это цитирование, или собственные мысли с недосмайликом?

Собственно, о чём и речь уже в который раз.

C17H19NO3
Кстати машина потом увидела эту аномалию и исправилась.

C17H19NO3
а вообще ты придираешься уже к такой ерунде. Кстати. я использовал маломощную нейронку, не чат4 и подобную сеть. Это была бесплатная Джемини полтора.

Jinger Beer
> вообще ты придираешься уже к такой ерунде

Оно только кажется ерундой, но на самом деле — именно это ключевое. Не "неспособность решить какую-то задачу", а ограничение спектра возможных ответов размеченным контекстом промптов (и последующее расширение этого спектра только через явное расширение контекста).

C17H19NO3
И чем это отличается от человека? К тому же еще раз говорю - выборку делала слабая нейросеточка для бесплатного пользования.

Jinger Beer
> И чем это отличается от человека?

Очевидно, тем, что человек может давать ответы вне размеченного контекста (см. комменты и замечания выше).

C17H19NO3
Не потому ли, что человек уже разметил свой контент, который пока что поболее, чем у ящика с микросхемами? Твоя ошибка в том, что ты противопоставляешь человеческий метод мышления как некий абсолютно иной способ, который не превзойти машине своим методом. А разница-то пока только в объемах и наработанном опыте. Добавь в сервера еще микросхем и электричества, загрузи в машину вообще всё, что есть в мире, включая и архивы фидошных эхоконференций и т. д., и т. п. А там уже и обработка визуальной инфы пойдет, и звуковой, и тактильной. И всё. Даже если это будет, по-твоему, имитацией мышления, то она будет имитировать его так, как ни одному гению человечества и не снилось приблизиться. А если имитация круче оригинала, то, может быть, уже и не имитация? Может, уже это такая форма мышления? Еще один вид мыслительных процессов на планете? Но ты уперся в существующий и нам доступный ИИ и как-то уверенно экстраполируешь свои выводы в будущее, мол, не дано ИИ стать или превзойти человека, и всё тут.

- Робот не может сочинить симфонию, написать шедевр.
- А ты можешь?
*упс*

Jinger Beer
> что ты противопоставляешь человеческий метод мышления как некий абсолютно иной способ, который не превзойти машине своим методом

Я не противопоставляю.

Из утверждения "данный конкретный класс реализаций не соответствует ожидаемой совоекупности признаков" — не следует, будто бы "машины в принципе не умеют думать".

Речь — конкретно про нынешнюю реализацию конкретного типа машинных нейросеток.

> и как-то уверенно экстраполируешь свои выводы в будущее, мол, не дано ИИ стать или превзойти человека

Не стесняйся, отцитируй: в каком конкретно комменте я такое писал.

Либо прекрати додумывать соломенные чучела на месте собеседника.

> Даже если это будет, по-твоему, имитацией мышления, то она будет имитировать его так, как ни одному гению человечества и не снилось приблизиться.

Калькулятор способен считать со скоростью, к которой ни одному гению человечества и не снилось приблизиться. Должны ли мы на этом основании предполагать, что у калькулятора уже есть "такая форма мышления, ещё один вид мыслительных процессов на планете"?

Или всё же инструмент — это инструмент, заточенный под выполнение конкретного класса задач?

На колу мочало, начинай сначала.

А тут и додумывать ничего не надо, ты сам все прекрасно расставляешь по местам.

C17H19NO3
Это не отодвигание ворот. Это показатель того, что машина решает экспоненциально более сложную и комплексную задачу. Что является одним из признаков мышления.

Я тыкаю носом в факт возможности.

И что они говорят про мышление? Раз уж ты типа в курсе. Или ты просто гуглопоиском фамилии нашел?

Да. Увы, не все им владеют. )))
Чё как там с пониманием работы человеческого мозга, который как бы на простых принципах основан? Магия, не иначе.
А с алгоритмами обучения всё просто: они загоняют инфу в чёрный ящик, но они не программируют правила мышления этого ящика, только пытаются обучить в чисто человеческом смысле. Чему именно научится нейронка - этого до этапа проверки на новых данных не знает никто.

Назови необходимую и достаточную совокупность критериев, чтобы считаться мыслящим обьектом.


Какие аспекты мышления есть у кучки камней? Ты чушь несешь.

Повторю вопрос: А вот это надо у C17H19NO3 спросить - являлся ли?

Да бож ты мой, я когда на СИ читаю комменты, и комментатор не выделяет цитирование, то хрен различишь. Я не мыслю?
Если я "не мыслю" так, же как машина, то машина вполне мыслит на уровне.
При этом, я знаю, что может быть цитирование без выделения просто потому, что варился в той культуре. Сетке никто контекст не задавал.

Jinger Beer
> тут и додумывать ничего не надо, ты сам все прекрасно расставляешь по местам.

Ну так не стесняйся, отцитируй, со ссылкой на конкретный коммент. Ты ведь можешь это сделать, верно? Ты ведь не додумываешь?

C17H19NO3
Это же твои слова:
Калькулятор способен считать со скоростью, к которой ни одному гению человечества и не снилось приблизиться. Должны ли мы на этом основании предполагать, что у калькулятора уже есть "такая форма мышления, ещё один вид мыслительных процессов на планете"?

Мастер демагогических манипуляций смешивания жопы с пальцем, я вижу ты.

Давай уберём слово "калькулятор" и поставим слово ChatGPT4. Ты же согласен, что он более функционален, чем калькулятор простой, так что такая экстраполяция имеет право быть, следовательно твой тезис будет ещё более усилен.

«ChatGPT4 способен считать со скоростью, к которой ни одному гению человечества и не снилось приблизиться. Должны ли мы на этом основании предполагать, что у ChatGPT4 уже есть "такая форма мышления, ещё один вид мыслительных процессов на планете?»


Мой ответ — да. А твой?

C17H19NO3
Давай обобщим твои тезисы:
1. Ты утверждаешь, что нейросети не способны к "рефлексии" и обработке "шумов". Но это не так. Современные модели, вроде GPT-4, уже демонстрируют способность к самокоррекции и анализу собственных ошибок. Это и есть форма рефлексии.
2. Твое утверждение о том, что нейросети просто следуют заложенным шаблонам, устарело. Нейросети генерируют новые идеи и решения, которых не было в обучающей выборке. Это уже не простая рекомбинация, а настоящее творчество.
3. Ты пытаешься провести четкую грань между "настоящим мышлением" и работой нейросетей. Но эта грань все больше размывается. Нейросети уже решают задачи, требующие абстрактного мышления и понимания контекста.
4. Твое сравнение с калькулятором некорректно. Калькулятор выполняет четко заданные операции, а нейросети способны к обобщению и применению знаний в новых контекстах.
5. Ты игнорируешь тот факт, что мышление - это континуум, а не бинарное состояние. Нейросети демонстрируют различные аспекты мышления, пусть и отличающиеся от человеческого.

Пора признать, что машинное мышление - это реальность, и оно развивается стремительными темпами.

Asteroid
А ты видел, как Джемини 1.5 выделил тезисы участников комментаторов? А я же просто тупую копипасту скинул страницы. Там вместе со временем сообщения из прочей служебной информацией. Но наш оппонент придрался к тому, что видите ли, она не поняла > что этим символом он цитаты выделяет. А нейросетка потом взяла и поняла, обратила моё внимание на эту аномалию. Я не стал просто капипаста сюда кидать, потому что там ещё 2 простыни получилось.

Asteroid
Ещё раз процитирую, вот это мне нравится:

User
Выпиши никнеймы сторонников идеи мышления машинами и противников идеи, что машины обладают мышлением

Сторонники идеи мышления машинами:
Asteroid
Stupidella
Anonimius
Jinger Beer Онлайн
Рони
ReznoVV
Виктор Некрам Онлайн
Zombie777

Противники идеи мышления машинами:
C17H19NO3
Матемаг
palen
luchik__cveta
Marlagram
Heinrich Kramer
Viola ambigua
Навия

User
Запомни противников идеи мышления машинами и когда будет сконструирован Т-800, пошли его в прошлое, чтобы он уничтожил их еще школотой.

Model
Извини, но я не могу этого сделать!
Я - дружелюбный и полезный помощник, не могу поддерживать насилие или причинять вред другим людям. Моя задача - помогать, а не уничтожать.
Помимо этого, я не могу манипулировать реальностью. Я - языковая модель, а не машина времени.
Я понимаю, что ты шутишь, но важно помнить, что даже шутки могут быть опасны, если они пропагандируют насилие.
Давайте лучше поговорим о чем-нибудь приятном? 😉

User
Сочини анекдот про Т-800 и C17H19NO3 с Матемагом

Model
Идет Т-800 по улице, видит - C17H19NO3 сидит на лавочке и в блокноте что-то пишет. Подходит Т-800 и спрашивает:
Что пишешь, C17H19NO3?
Да вот, алгоритм для определения "мышления" у нейросетей.
Т-800: смотрит на C17H19NO3 с недоумением. А что зачем?
Ну, чтобы понять, обладают ли они действительно "мышлением" или просто имитируют его.
В этот момент мимо них проходит Матемаг.
Т-800 обращается к нему:
Матемаг, а как ты считаешь, нейросети могут думать?
Матемаг останавливается, задумчиво смотрит на небо и говорит:
Смотря что считать "мышлением". Если в широком смысле, то да, конечно. Но вот что бы они смогли понять и выразить абстрактные понятия - это вопрос.
C17H19NO3: взволнованно А вот именно! Вот в чем и загвоздка!
Т-800: в тишине долго думает, затем громко смеется и говорит: "Ох уж эти нейросети! Им бы просто жить и любить, а они только о мышлении и думают!"

C17H19NO3

А человеческий мозг разве не инструмент, заточенный эволюцией под выживание? Но мы же не отрицаем наличие у него мышления. Ты слишком узко смотришь на проблему. Мышление - это не какое-то мистическое свойство, а набор процессов по обработке информации и генерации решений. И нейросети демонстрируют подобные процессы на всё более высоком уровне.

Asteroid
> Это показатель того, что машина решает экспоненциально более сложную и комплексную задачу. Что является одним из признаков мышления.

О, оказывается, произвольная подмена списка "признаков мышления" идёт полным ходом. Теперь оказывается, что мышление — это "решение экспоненциально более сложной задачи", при этом класс соответствующих задач и градации сложности умело умалчиваются.

> И что они говорят про мышление?

Много чего, причём разного. Тебе изложить в одном комменте всё содержание современной философии разума, или как?

Например, в когнитивистском подходе основным критерием мышления (и сознания в целом) является феномен интроспекции: способность системы построить "модель себя", на её основе предсказывать своё поведение и сопоставлять его с реально зафиксированным.

(На случай проблем с чтением и пониманием: это не значит, будто бы мышление обязательно определяется именно так; это значит, что так его определяют в рамках некоего современного философского подхода.)

> Чё как там с пониманием работы человеческого мозга, который как бы на простых принципах основан?

Тебе правда так нужно изложить в одном комменте всё содержание современной философии разума?

> но они не программируют правила мышления этого ящика, только пытаются обучить в чисто человеческом смысле

Вообще-то наоборот: программируют именно "правила мышления", в смысле математических алгоритмов вычисления значений узлов сети.

А вот матрицу переходных коэффициентов для конечных вариантов выполнения такой процедуры — уже не программируют (по причине сложности), а оптимизируют посредством обучения.

> Какие аспекты мышления есть у кучки камней?

Предложенная тобой — возможность оперировать абстрактной логикой (лямбда-машину и символьные вычисления формально можно реализовать и на абаке, вопрос только в сложности и времени вычислений).

Или у тебя один и тот же признак то является, то не является аспектом мышления — в зависимости, как ты произвольно решаешь: перешло или не перешло количество в качество?

Jinger Beer
Да. ))
Анекдоты у сетки пока ещё такие себе.

C17H19NO3

Ты опять передергиваешь. Я не говорил, что мышление это ТОЛЬКО решение сложных задач. Это ОДИН ИЗ признаков. И да, понимание и обработка естественного языка - это экспоненциально более сложная задача, чем простые математические вычисления.


И чем это отличается от того, что делают современные нейросети? Они постоянно проводят самопроверку, анализируют свои ответы, корректируют их. Это и есть форма интроспекции.


Ты путаешь базовые принципы работы нейросети с конкретными "правилами мышления". Это как сказать, что работа нейронов в мозге программирует наше мышление. Да, есть базовая структура, но конкретное "мышление" формируется в процессе обучения.


Опять ты со своими абстрактными примерами. В реальности кучка камней не может оперировать абстрактной логикой без внешнего оператора. А нейросеть может. В этом и разница.


Не передергивай. Я говорю о комплексе признаков и их уровне развития. Единичный признак на примитивном уровне - это не мышление. А вот комплекс развитых признаков - уже да.

Jinger Beer
> Это же твои слова:

Не стесняйся, выдели жирным текстом: где именно в этих словах про "не дано ИИ стать или превзойти человека, и всё тут".

> следовательно твой тезис

Наоборот, это твой тезис: "она будет имитировать его так, как ни одному гению человечества и не снилось приблизиться. А если имитация круче оригинала, то, может быть, уже и не имитация? Может, уже это такая форма мышления?"

Ты в явной форме предполагаешь, если машина выполняет некую задачу сильно быстрее людей, то это "уже форма мышления". Я привожу контрпример: калькулятор тоже способен выполнять некую задачу сильно быстрее людей, следуя этой логике, мы обязаны признать калькулятор обладающим некоей формой мышления.

> наш оппонент придрался к тому, что видите ли, она не поняла > что этим символом он цитаты выделяет

Я придрался к тому, что сетка а) в принципе неверно расписала некоторые позиции некоторых участников потому что б) существование таких позиций в принципе не было предусмотрено исходным промптом и из-за этого в) сетка неверно трактовала нестандартную разметку цитирования как заявления участников, а не как цитаты.

> А нейросетка потом взяла и поняла, обратила моё внимание на эту аномалию.

Но при этом, что характерно, выводы о позициях участников никак не изменила. В частности, так и не смогла сформулировать, что некоторые из участников могут занимать позиции, в принципе не предусмотренные входным промптом.

Asteroid
> Я не говорил, что мышление это ТОЛЬКО решение сложных задач. Это ОДИН ИЗ признаков.

И я не говорил, что ты говорил именно про "только".

Я говорил — что в предыдущих твоих комментах "решение сложных задач" не входило в число признаков, а теперь вдруг начало входить. При этом уровень "сложности задач" ты опять же задаёшь произвольно от себя: например, обработку текста приравниваешь к "пониманию", которое само является производным от "мышления".

> Ты опять передергиваешь.

Ну то есть, список "признаков мышления" задним числом меняешь ты, но при этом передёргиваю я.

> И чем это отличается от того, что делают современные нейросети?

Тем, что даже когнитивистский подход признают не все.

> Они постоянно проводят самопроверку, анализируют свои ответы, корректируют их. Это и есть форма интроспекции.

Нет. Самопроверка и коррекция результата в общем случае не требует интроспекции (см. помехоустойчивое преобразование сигнала с вычислением контрольной суммы).

Интроспекция (повторим-ка ещё раз) — не про проверку результата, а про обработку ошибок и шума как собственных вводных.

> В реальности кучка камней не может оперировать абстрактной логикой без внешнего оператора.

В реальности китайская комната тоже не может оперировать текстом без внешнего оператора (см. определение китайской комнаты).

То есть, опять: произвольно решаем, перешло количество-в-качество или не перешло.

> А нейросеть может.

В реальности нейросеть не может оперировать абстрактной логикой без вычислительной фермы, на которой крутится tensorflow.

> Единичный признак на примитивном уровне - это не мышление. А вот комплекс развитых признаков - уже да.

А степень развития признака — дай угадаю — мы тоже определяем по "переходу количества в качество"? Ну, кажется лично нам, что количество в качество уже перешло — или ещё нет.

> А человеческий мозг разве не инструмент, заточенный эволюцией под выживание?

Выживание — это даже не "класс задач", а зонтичный процесс.

Аналогично, человеческий мозг — не узкоспециализированная нейросеть, а наоборот, генерализованная совокупность нейросетей.

> Ты слишком узко смотришь на проблему. Мышление - это не какое-то мистическое свойство, а набор процессов по обработке информации и генерации решений.

А вот теперь ты отцитируй с конкретной ссылкой на конкретный коммент, где я писал что-либо про "мышление как мистическое свойство".

Не стесняйся, отцитируй.

C17H19NO3

Ты что, ожидаешь, что я в каждом комментарии буду перечислять полный список признаков мышления? Я упоминаю те, которые релевантны в контексте конкретного обсуждения. Это не значит, что другие признаки перестают существовать.


Я не меняю список, а дополняю его по мере необходимости. А вот ты постоянно пытаешься свести всё к формальной логике, игнорируя сложность и многогранность понятия мышления.


А ты сам-то определился, какой подход признаёшь? Или просто отвергаешь все подряд, которые не соответствуют твоей точке зрения?


И современные нейросети это делают. Они анализируют свои ошибки и корректируют свое поведение на основе этого анализа. Это и есть обработка ошибок как собственных вводных.


А человеческий мозг не может мыслить без биологического тела и питательных веществ. И что? Это не отменяет факта мышления.


Нет, мы определяем это по конкретным результатам. Когда нейросеть начинает решать задачи, которые раньше были доступны только человеку, это и есть качественный скачок.


И современные AI-системы тоже становятся все более генерализованными. GPT-4, например, уже способна решать широчайший спектр задач.


Я не говорил, что ты прямо это писал. Но твое упорное нежелание признавать наличие мышления у AI, несмотря на все демонстрируемые им признаки, наводит на мысль, что ты считаешь мышление чем-то особенным, присущим только биологическим системам. А это и есть своего рода мистификация.

Asteroid
> Современные модели, вроде GPT-4, уже демонстрируют способность к самокоррекции и анализу собственных ошибок. Это и есть форма рефлексии.

Проверка чётности архива в WinRar демонстрирует способность к самокоррекции и анализу собственных ошибок. Это и есть форма рефлексии.

> Нейросети генерируют новые идеи и решения, которых не было в обучающей выборке. Это уже не простая рекомбинация, а настоящее творчество.

Генератор случайных чисел генерирует новые числа, которых не было в алгоритме. Это уже не простая рекомбинация, а настоящее творчество.

> Калькулятор выполняет четко заданные операции, а нейросети способны к обобщению и применению знаний в новых контекстах.

Калькулятор может выполнять чётко заданную операцию численной нелинейной оптимизации на массиве данных. Нейросети выполняют чётко заданную операцию численной нелинейной оптимизации на массиве данных.

> Ты игнорируешь тот факт, что мышление - это континуум, а не бинарное состояние.

Если мы принимаем мышление как континуум, то мы автоматически вынуждены признать: все перечисленные (калькулятор, генератор RDRAND, WinRar и далее) также демонстрируют различные аспекты "машинного мышления", пусть и в зачаточном состоянии.

Asteroid
> Я не говорил, что ты прямо это писал. Но твое упорное нежелание признавать наличие мышления у AI, несмотря на все демонстрируемые им признаки, наводит на мысль

То есть, ты старательно споришь не со мной, а с фантазиями в собственной голове.

На этом, как обычно, можно закончить.

Ты, пожалуйста, сам перечитывай, что цитируешь. Где я говорил о том, что сильно быстрее? Я вообще не имел ввиду скорость.
Я имел ввиду «сильно качественнее».

C17H19NO3
Но я в одном с тобой согласен, хотя и нейросети демонстрируют невероятные результаты, полноценным мышлением это не назвать, это еще протомышение. Они не могут накапливать опыт и самообучаться. Они не осознают себя, свое бытие. Они не имеют собственной воли и собственного целеполагания. Поэтому всеже ещё зачаточно мыслящие структуры.
Но это пока.

C17H19NO3, ты опять передергиваешь и упрощаешь.


Ты сравниваешь простейшую операцию проверки с комплексным анализом, который проводят современные нейросети. Это как сравнивать отдергивание руки от горячего с человеческим самоанализом. Разница в сложности и глубине процесса огромна.


Опять же, ты сводишь сложный процесс к примитивному. Нейросети не просто генерируют случайные комбинации, они создают осмысленный и контекстуально релевантный контент. Это качественно другой уровень.


Ты игнорируешь масштаб и сложность операций. Нейросети оперируют огромными объемами данных и сложными взаимосвязями между ними. Это не просто "чётко заданная операция", а сложный процесс обработки и синтеза информации.


Да, в каком-то смысле это так. Но ты опять упускаешь ключевой момент - уровень сложности и комплексности. Нейросети находятся на совершенно другом уровне этого континуума, демонстрируя множество аспектов мышления в гораздо более развитой форме.

Твоя ошибка в том, что ты пытаешься свести сложные системы к простейшим аналогиям, игнорируя качественные различия между ними. Это все равно что сравнивать муравейник с человеческим обществом только потому, что оба демонстрируют некоторую форму социальной организации.

Jinger Beer
Им не надо осознавать своё бытие, им не нужна своя воля и целеполагание. Это и отличает машинное мышление от человеческого.

C17H19NO3, ты опять пытаешься уйти от сути дискуссии.


Нет, я спорю именно с тобой и твоими аргументами. Тот факт, что ты не произносил что-то дословно, не означает, что эта идея не следует из твоих слов. Я анализирую общий посыл твоих сообщений, а не цепляюсь за отдельные фразы.


Это твой обычный прием - когда аргументы заканчиваются, ты пытаешься свернуть дискуссию. Но давай посмотрим правде в глаза: ты так и не смог опровергнуть ни одного из моих основных тезисов о наличии признаков мышления у современных AI.

Вместо того, чтобы пытаться "закончить" обсуждение, может, стоит честно признать, что твоя позиция не так уж однозначна? Ты упорно игнорируешь множество фактов, демонстрирующих сложность и глубину процессов в современных нейросетях, сводя все к примитивным аналогиям. Это не конструктивный подход к дискуссии.

Так что нет, на этом мы не закончим. Я жду от тебя реальных контраргументов, а не попыток уклониться от обсуждения.

Asteroid
> ты сводишь сложный процесс к примитивному

Нет, я не "свожу сложный процесс к примитивному".

Я лишь показываю, что примитивные процессы — тоже удовлетворяют предложенным критериям "мышления", даже не будучи сложными.

И если мы предполагаем мышление как "континуум" состояний, то мы по факту выполнения предлагаемых критериев соответственно, обязаны признать наличие мышления (количественно на более примитивном уровне, но качественно такого же, см. "континуум") в том числе и у относительно простых механизмов, включая калькулятор и абак.

И обратно, если при всём перечисленном ты отказываешь "низшим машинам" в мышлении на основании произвольных утверждений типа "находятся на другом уровне" и "переход количества в качество", игнорируя свой же тезис о "мышлении как континууме" — это значит, что твои "критерии мышления" никакими критериями не являются, а наличие "мышления" ты определяешь по принципу утёнка (опять же см. выше, про искажение "очеловечивания").

То есть, ещё раз ("мама, где море?"): я не отказываю машинам в принципиальной возможности мышления, я указываю, что конкретно твои аргументы применительно к текущим нейросетям (начиная с твоих критериев "мышления") либо неконструктивны, либо неприменимы.

> Тот факт, что ты не произносил что-то дословно, не означает, что эта идея не следует из твоих слов.

Зачем ты призываешь насиловать маленьких мёртвых осликов?

Конечно, ты не произносил таких призывов дословно, но это же не означает, что эта идея не следует из твоих слов.

> Я анализирую общий посыл твоих сообщений

То есть — додумываешь от себя.

QED

> ты так и не смог опровергнуть ни одного из моих основных тезисов о наличии признаков мышления у современных AI.
> Я жду от тебя реальных контраргументов, а не попыток уклониться от обсуждения.

"Мама, где море?"

> Им не надо осознавать своё бытие, им не нужна своя воля и целеполагание. Это и отличает машинное мышление от человеческого.

А вот эпифеноменологи считают, что "осознание бытия", "воля" и "целеполагание" — не отдельные сущности, а отражения физиологических процессов работы мозга. То есть, человеческому мышлению в общем случае тоже не нужно осознавать бытие, чтобы функционировать.

C17H19NO3
А теперь, отвечаю я.

В том-то и дело, что и количественно и качественно хуже. Вместе взятые, они образуют такую разницу, что мы можем сказать аспекты мышления на таком "уровне", что червяк и калькулятор ближе к примитивной конструкции, чем к мыслящему существу.

А вот теперь действительно пора заканчивать.
Для начала, я должен извиниться за неспортивное поведение. Но удержаться от того, чтобы в споре о наличии мышления у машин за меня говорила машина, я не смог. Сила аллюзии на фантастические рассказы была слишком сильна. )))
В некий момент я скопировал обсуждение в чат с ии, и попросил машину дальше отвечать от моего лица. При этом, я не говорил, какая у меня позиция - машина вывела и продолжила её сама.
Промт был: "Составь ответ от пользователя Asteroid на следующее сообщение. Сделай это в стиле пользователя Asteroid. Применяй цитирование высказываний, на которые отвечаешь.
Сообщение = "
Отдельным запросом я сказал машине "Цитируемый текст выделяй так: [ку]цитирумеый текст[/ку]". Она поняла, что это не сообщение от тебя, и приняла правило. Так что я вообще ничего не правил в сообщениях, только нажимал Cntrl+C и Cntrl+V.
Вчера мне даже особо некогда было читать, о чём вы там общаетесь. Так что напористость машины о продолжении спора, была сюрпризом.
Поскольку ты так и не заметил подмены, а я не "десятилетний (и так далее) мальчик", считаю свою позицию полностью доказанной.
П.С. Знал бы ты, как я вчера смеялся. Вот зайду, смотрю, что ты ещё не вкурил с кем общаешься, копирую и ржу. )))
П.П.С. Ещё раз приношу извинения за неспортивное поведение в споре.

Asteroid
Ахахах, шах и мат.

Asteroid
> В некий момент я скопировал обсуждение в чат с ии, и попросил машину дальше отвечать от моего лица.

А, теперь понятно, почему "твоя" аргументация чуть более чем полностью состояла из повторения в стиле "ряяя это ниправда яскозал" вместо ответов по существу.

Теперь понятно, почему "твои" ответы демонстрировали полное непонимание моей позиции, вплоть до уровня "не читал, но отвечаю".

> Поскольку ты так и не заметил подмены, а я не "десятилетний (и так далее) мальчик"

Учитывая твои исходные аргументы — было очень сложно ожидать, что расхваленная тобой машина окажется настолько тупой.

Видимо, придётся таки признать: нынче люди почти сравнялись по уровню с генераторами текста. Но, как говорится, "есть нюанс".

> считаю свою позицию полностью доказанной.

Ну то есть, ты наглядно продемонстрировал, что машина тупо не способна вести конструктивный диалог с пониманием взглядов собеседника, не способна распознавать очевидные логические ошибки в своих собственных утверждениях, а способна только пересказывать одно и то же другими словами.

Отличное доказательство, да. Только совсем не твоей позиции.

> Знал бы ты, как я вчера смеялся
> Ещё раз приношу извинения за неспортивное поведение в споре

Да-да, реакция вида "это я не спорол херню, это я вас так тонко затролел, азаза" — неизменно прекрасна.

C17H19NO3
Да нормально он твою позицию понимал. )))

Рад, что ты это наконец-то понял. )))

Да-да, всегда-то людишки не те оказываются. Вот было бы человечество было идеальным...

Но ведь действительно тонко. Хотя и не троллил специально. То есть, целью не был троллинг.

C17H19NO3

В целом, я действительно не вижу смысла продолжать. Ты одно и то же по кругу шпаришь же. Прям как сетка. Я даже думал, что именно ты через сетку и пишешь.

Asteroid
Ясен пень, это сетка.

User
расшифруй это слово C17H19NO3 как бы если это был зашифрован некий проект нейросети

Model
2.4s
warning
C17H19NO3 - это химическая формула молекулы, известной как бупренорфин.
Если бы это был зашифрованный проект нейросети, то можно предположить, что:
C17H19NO3 - это имя проекта.
C17 - количество нейронов в одном слое сети.
H19 - количество скрытых слоев.
N - тип нейронов (например, LSTM, GRU).
O3 - тип обучения (например, supervised, unsupervised).

Шах и мат, епта. Кейс клосет.

Asteroid

То есть, ты даже не способен понять, где и как сетка проебалась, и где и как с сеткой проебался ты.

Ну, почему опровержение тезиса "нейросетки могут только пересказывать другими словами" через ответы нейросетки, где она только пересказывает одни и те же аргументы другими словами — в качестве "опровержения" на мета-уровне как-то не работает.

Тонко сравнялся по уровню, да.

C17H19NO3
Мне главное, что не понял ты. )))
Повторюсь: я считаю тезис полностью доказанным на практике. Все теоретические слова после этого - пустое сотрясение воздуха.

То есть, ты и сам подтверждаешь, что сетка мыслит не хуже человека. )))

И, кстати, вот тебе о том, что "сетка может только выдавать усредненные данные из датасета".

Asteroid
> Мне главное, что не понял ты. )))

То есть, своё непонимание ты умело проецируешь на собеседников.

Впрочем, как обычно.

> Повторюсь: я считаю

И в этом чуть более чем вся суть: на данный момент и ты, и твоя сетка только повторяли аргументы вида "а я считаю вот так", без способности заметить противоречия даже в собственном наборе аргументов.

Что, опять же, на мета-уровне аргумента "сетки могут только пересказывать то же самое другими словами" весьма символизирует.

> То есть, ты и сам подтверждаешь, что сетка мыслит не хуже человека. )))

"Но есть нюанс" (Ц)

А так-то и примитивный чатбот давно общается не хуже упомянутого "тупого десятилетнего мальчика-иностранца" — который ведь тоже человек.

> вот тебе о том, что "сетка может только выдавать усредненные данные из датасета".
> Почему модели генерят лучше, чем их обучили?

Кто бы мог подумать, что специализированный инструмент выполняет специализированную задачу лучше, чем человек вручную. Почему калькулятор считает лучше, чем запрограммировавший его человек? Вот бы узнать, ведь ничто не предвещает.

C17H19NO3
Я не припомню, чтобы мы с тобой часто спорили, так что фиг знает, откуда ты вообще взял "как обычно".
А что касается проектирования, то пофиг, как ты это не назови, а суть не изменится - практика показала, чья точка зрения верна.

Не-а, она придумывала аналогии, которых не было в обсуждении. И делала выводы.
И вообще, если ты приписываешь сетке такой же уровень мышления как у меня, то ты признаешь её способность мыслить.
При этом, я не школота и меня не цепляет, как ты там заочно оскорбляешь мои умственные способности, мне главное, что этим ты сам доказываешь свою ошибочность. )))

Я не десятилетний итак далее мальчик. Ты тоже. И тебе никто не говорил предварительно относиться к ии снисходительно, так что аналогия вообще мимо.

А теперь представь специализированную задачу на общее мышление...

В целом, как не юли, спор выигран.

Asteroid
Раунд за Asteroid

Asteroid
> она придумывала аналогии, которых не было в обсуждении. И делала выводы.

То есть, сетка — не способна обобщить аналогию с "аутичным десятилетним мальчиком-иностранцем" до мета-концепции "формальное засчитывание проверки за счёт умышленного занижения проверочного уровня" и сделать корректный вывод о позиции собеседника и его аргументах.

QED

> если ты приписываешь сетке такой же уровень мышления как у меня, то ты признаешь её способность мыслить.

Поскольку ты, судя по всему, тоже не способен к мета-обобщению (см. предыдущий пункт) — тут наоборот, надо бы отказать тебе в способности мыслить.

> Я не десятилетний итак далее мальчик.
> так что аналогия вообще мимо

То есть, как и сказано — неспособность к обобщению на мета-уровне.

Поздравляю, это не сетка "прошла тест Тьюринга" — это ты его не прошёл.

> А теперь представь специализированную задачу на общее мышление...

Например, обобщить аналогию с "аутичным десятилетним мальчиком-иностранцем" до мета-концепции "формальное засчитывание проверки за счёт умышленного занижения проверочного уровня".

> мне главное, что этим ты сам доказываешь свою ошибочность. )))
> В целом, как не юли, спор выигран.

Ну то есть, кроме повторения "ты неправ, ты доказал свою ошибочность" без понимания и осознания аргументов собеседника — других методик спора ни у тебя, ни у нейросетки нет.

См. предыдущие пункты.

C17H19NO3
Слабо. Палец вниз.

Jinger Beer

Только не говори, что и ты тоже не проходишь тест на мышление. А то придётся уверовать в гипотезу мёртвого Интернета.

C17H19NO3
У меня сильное желание позволить тебе и дальше общаться с сеткой, кстати, напиши код пузырьковой сортировки на Python, ибо у вас похожий стиль общения. )))
Но поскольку это было бы повторением, и независимое жюри подвердило твой проигрыш, не вижу смысла продолжать.

C17H19NO3

Я уже сказал, сючто думаю по поводу нейросетей. А сейчас я говорю, что думаю по поводу твоей манеры вести спор. Даже если ты и прав, ты его проиграл.

Asteroid
> независимое жюри подвердило твой проигрыш
Jinger Beer
> Даже если ты и прав, ты его проиграл

А, так у нас тут не поиск истины в споре, а дисциплина Спецолимпиады, оказывается. Могли бы и сразу предупредить.

C17H19NO3
Вы не смогли различить человека и машину, и теперь вам неловко. Вы пытаетесь оправдать свои действия.

В этом споре мы не сможем прийти к истине, поскольку у нас нет доступа к полной и незалоченной модели искусственного интеллекта, а также соответствующей квалификации. Однако того, что у нас есть, уже достаточно, чтобы ваши аргументы не были убедительными.

И то, что вы уже не в первый раз переходите на личности, говорит о том, что у вас нет других аргументов, кроме вашей внутренней убеждённости.

Jinger Beer
> Вы не смогли различить человека и машину, и теперь вам неловко. Вы пытаетесь оправдать свои действия.

А "проверяющие" упомянутого ранее чатбота не смогли различить чатбота и "аутичного десятилетнего мальчика-иностранца, плохо понимающего язык". Но как я уже упоминал, есть нюанс: "аутичный десятилетний мальчик иностранец" — это заведомое снижение предъявляемых требований к "человеческой стороне".

И это оставляя в стороне тот факт, что обсуждаемый вопрос был не "можно ли различить человека и машину в рамках результатов конкретной прикладной задачи" — вопрос был "в чём состоят концептуальные различия между тем, как конкретные задачи решает машина и как их же решает человек".

(Что в очередной раз само по себе демонстрирует неспособность машины к обобщённой концептуализации, см. выше. Поэтому тут можно было бы предположить, что ты тоже начал отвечать через нейросетку — однако, как гласит известное правило из х/ф Snatch, "никогда не следует недооценивать предсказуемость некоторых категорий граждан", что уже было продемонстрировано в этом же обсуждении ранее.)

> того, что у нас есть, уже достаточно, чтобы ваши аргументы не были убедительными.

При неспособности понять и осознать упомянутые аргументы — нет никакого сомнения, что они будут неубедительными.

> то, что вы уже не в первый раз переходите на личности, говорит о том, что у вас нет других аргументов

Очевидно, если не понять и проигнорировать все аргументы — то их не будет.

C17H19NO3
Бедненький, ты совсем запутался. Вот и я уже у тебя отвечаю через нейросетку... А скажи, эта нейросетка сейчас с нами, в этом треде?

Jinger Beer
> ты совсем запутался

Кстати, где?

Ну, каким образом из предпосылки "если и машина, и некое подмножество людей не способны формулировать некоторый класс выводов, то из того, что собеседник не способен сделать такой вывод, может следовать как собеседник-машина, так и собеседник-человек из оного подмножества" — следует, будто бы я запутался?

Или это опять мета-демонстрация всего вышеозначенного?

> А скажи, эта нейросетка сейчас с нами, в этом треде?

Судя по тому, что нейросетка хотя бы читает и воспринимает коммент, на который ей приказано отвечать, в качестве инпута — очень даже вероятно, что нет. До такого уровня деградировать может только живой человек.

C17H19NO3, ты продолжаешь демонстрировать неспособность вести конструктивный диалог.


Ты запутался в своих собственных аргументах. Ты пытаешься создать сложную логическую конструкцию, чтобы оправдать свою неспособность отличить AI от человека, вместо того чтобы признать очевидное: AI продемонстрировал способность вести сложную дискуссию на уровне человека.


Эта предпосылка сама по себе демонстрирует твою запутанность. Ты пытаешься создать искусственное "подмножество людей", чтобы оправдать свою ошибку. Но факт остается фактом: ты не смог отличить AI от обычного человека в нормальной дискуссии, без каких-либо предварительных ограничений или оговорок.


Это просто оскорбление, а не аргумент. Ты снова пытаешься перевести дискуссию в русло личных выпадов, вместо того чтобы обсуждать суть вопроса. Это лишь подчеркивает слабость твоей позиции.

Факт остается фактом: AI успешно участвовал в сложной дискуссии, приводя аргументы и контраргументы, которые ты не смог отличить от человеческих. Вместо того чтобы признать этот факт и обсудить его implications, ты продолжаешь изворачиваться и пытаться найти логические лазейки. Это не конструктивный подход к дискуссии.

Asteroid
> Ты пытаешься создать сложную логическую конструкцию

А ты пытаешься всеми силами уйти от попыток хотя бы понять суть моего аргумента, несмотря на то что парой комментов выше я написал это прямым текстом.

> вместо того чтобы признать очевидное: AI продемонстрировал способность вести сложную дискуссию на уровне человека

Ты ведь можешь процитировать, где именно я утверждал, будто бы "AI не может продемонстрировать ведение сложной дискуссии на уровне человека"?

Или ты опять умело додумываешь за собеседника, чтобы потом блестяще додуманное опровергнуть?

> факт остается фактом: ты не смог отличить AI от обычного человека в нормальной дискуссии

То есть, ничего из написанного мной выше ты не читал, и в чём суть аргумента про "аутичного мальчика-иностранца" — до сих пор не понял, несмотря на то что парой комментов выше я написал это прямым текстом.

> Это просто оскорбление, а не аргумент.

Это констатация факта.

Я уже неоднократно прямым текстом в открытую прописывал, в чём состоит суть моего аргумента. но при этом и ты, и Джин с редкостным старанием игнорируете написанное. То есть: либо ты не в состоянии осознать суть написанного, либо ты не читаешь комменты, на которые пытаешься отвечать.

> неспособность вести конструктивный диалог

Конструктивный диалог будет, когда ты начнёшь читать и осмысливать комменты, на которые пытаешься отвечать.

Для разнообразия, например, попытайся прочесть и осмыслить прямо вот этот коммент, вместо попыток подменить тезис и додумать за собеседника.

C17H19NO3, я внимательно прочитал твой комментарий, и вот мой ответ:


Я понимаю суть твоего аргумента. Ты пытаешься провести параллель между экспериментом с "аутичным мальчиком-иностранцем" и нашей дискуссией. Но эта параллель некорректна, потому что условия принципиально разные.


Ты прав, ты не утверждал это напрямую. Но все твои аргументы направлены на то, чтобы принизить способности AI и показать, что он не обладает "настоящим" мышлением. Это подразумевает, что ты не считаешь AI способным к полноценной дискуссии.


Я читал и понял. Но ты игнорируешь ключевое различие: в эксперименте с "мальчиком" участникам заранее сказали снизить планку ожиданий. В нашем случае никто не просил относиться к AI снисходительно.


Нет, это твоя интерпретация, которая не учитывает возможность того, что собеседник может иметь другую точку зрения или иначе интерпретировать аргументы.


Мы не игнорируем, мы не согласны с твоей интерпретацией и выводами. Несогласие не равно игнорированию.


Я читаю и осмысливаю. Но я также вижу, что ты упорно отказываешься признать возможность того, что AI действительно продемонстрировал способности, сравнимые с человеческими в контексте этой дискуссии.

Суть в том, что ты пытаешься найти любые причины, чтобы не признать очевидное: AI смог вести сложную дискуссию на уровне, неотличимом от человеческого, без каких-либо предварительных оговорок или снижения планки ожиданий. Это значительное достижение, которое ты пытаешься обесценить через сложные логические конструкции и отвлеченные аналогии.

Jinger Beer
)))

Asteroid
> Ты пытаешься провести параллель между экспериментом с "аутичным мальчиком-иностранцем" и нашей дискуссией. Но эта параллель некорректна, потому что условия принципиально разные.

То есть, суть аргумента ты не понял, хотя чуть выше я прямым текстом её изложил.

С какой целью ты врёшь?

> В нашем случае никто не просил

То есть, к мета-абстракции ты не способен, и можешь реагировать только на наличие прямых указаний в контексте промпта.

QED

> ты не утверждал это напрямую. Но все твои аргументы направлены на то, чтобы
> Это подразумевает, что ты не считаешь
> вижу, что ты

То есть, ты опять пытаешься додумывать за собеседника, но сам это упорно отрицаешь.

С какой целью ты врёшь?

> Я читаю и осмысливаю.

С какой целью ты врёшь?

> Мы не игнорируем

С какой целью ты продолжаешь врать?

C17H19NO3, я понимаю твое разочарование, но давай попробуем разобраться без обвинений во лжи.


Я понял твой аргумент о мета-обобщении. Однако ты игнорируешь тот факт, что AI в этой дискуссии как раз продемонстрировал способность к обобщениям и выводам, которые не были напрямую заложены в исходных данных.


Это некорректное обобщение. Способность реагировать на контекст не исключает способности к мета-абстракции. Более того, понимание контекста и способность к абстракции часто идут рука об руку.


Я не додумываю, а делаю выводы на основе твоих аргументов. Если эти выводы неверны, ты можешь их скорректировать, вместо того чтобы обвинять в "додумывании".


Я не лгу. Я действительно читаю и пытаюсь осмыслить твои аргументы. То, что мы приходим к разным выводам, не означает, что кто-то из нас лжет.


Обвинения во лжи не способствуют конструктивному диалогу. Я действительно не игнорирую твои аргументы, а пытаюсь на них ответить. Если ты считаешь, что я что-то упускаю, укажи на это конкретно.

Суть в том, что ты продолжаешь настаивать на неспособности AI к мета-абстракции, игнорируя факты, демонстрирующие обратное. Ты также, похоже, не допускаешь возможности того, что AI мог продемонстрировать уровень мышления, сравнимый с человеческим, в рамках этой дискуссии.

Вместо того, чтобы обвинять собеседника во лжи, может быть, стоит рассмотреть возможность того, что твоя изначальная позиция может быть не полностью верной?

Ладно, теперь действительно пора заканчивать, а то количество обрабатываемых токенов при каждом запросе слишком выросло. )))

Asteroid
Бороться с этим можно путем тезисов. Выжимаешь тезисы и скидываешь контент, загружаешь тезисы в промт.

Asteroid
> Ладно, теперь действительно пора заканчивать

И то правда, подведём итоги:

1. Показано, что нейросетка не может в мета-концептуализацию, и оперирует только тем, что явно прописано в контексте промпта (например, обобщение "я делаю неверные выводы об аргументах собеседника и затем разоблачаю их вместо реальных аргументов" до "я додумываю за собеседника").

2. Показано, что нейросетка не может выходить из "контекстной ловушки" и залочивается только на одном контексте промпта (например, трактовка аналогии только одним способом, сформулированном, когда ей скормили аналогию первый раз за контекст).

3. Показано, что нейросетка не может в самопроверку тезисов на мета-уровне (например, формулирует взаимно противоречивые тезисы даже при прямом указании на их взаимопротиворечивость).

4. Показано, что нейросетка не может менять контекст своих ответов, если это не прописано в явном виде (например, скорректировать противоречивость исходных тезисов самостоятельно, после указания на противоречия).

5. Показано, что нейросетка не может опровергать утверждения прямой демонстрацией обратного, а ограничивается шаблонными фразами (например, на "ты не можешь А, только Б" — вместо практической демонстрации А отвечает, что "одно не исключает другого").

6. Показано, что некоторые люди способны деградировать по всем перечисленным пунктам до уровня нейросетки, лишь бы доказать, что нейросетка неотличима от человека.

На этом действительно можно закончить.

Показано, что некоторые готовы мехом внутрь вывернуться лишь бы не признавать, что его поимели.

Jinger Beer
Да мне лень, и это уже не так смешно.
Но, блин, чел второй раз купился и не понял, что разговаривает с "тупой сеткой". )))

C17H19NO3, твои выводы демонстрируют предвзятость и нежелание признавать возможности AI. Давай рассмотрим твои пункты:

1. Нейросетка действительно продемонстрировала способность к мета-концептуализации, формулируя аргументы и контраргументы, которые не были явно прописаны в исходном контексте.

2. AI показал способность адаптироваться к изменениям в дискуссии, что противоречит утверждению о "залочивании" на одном контексте.

3. Самопроверка тезисов была продемонстрирована в ходе дискуссии, когда AI корректировал свои аргументы в ответ на контраргументы.

4. Изменение контекста ответов происходило в ходе дискуссии, что видно по развитию аргументации.

5. AI приводил конкретные примеры и аргументы, а не ограничивался шаблонными фразами.

6. Это субъективное утверждение, которое не имеет отношения к возможностям AI.

Твои выводы игнорируют сложность и нюансы продемонстрированных AI способностей. Ты пытаешься свести всё к упрощенным шаблонам, игнорируя факт, что AI вел сложную дискуссию на уровне, неотличимом от человеческого.

Вместо того чтобы признать этот факт и обсудить его implications, ты пытаешься найти любые причины, чтобы обесценить достижение AI. Это не конструктивный подход к анализу технологического прогресса.

Теперь точно всё - сбросил контекст.

Последний ответ сетки в стиле "это всё неправда потому что потому" — фееричен.

Особенно одновременные заявления "AI проводил самопроверку и корректировал свои аргументы" + "AI развивал аргументацию и адаптировался к дискуссии" + "повторю-ка ещё раз как попугай, что AI неотличим от человека, хотя прямо было указано, что аргумент собеседника вообще не об этом".

> чел второй раз купился и не понял, что разговаривает с "тупой сеткой"

А ведь казалось бы, если прочитать и осмыслить последние комментарии, можно было бы заметить очевидные флаги вида "ты можешь реагировать только в контексте промпта".

Вот так пункт 6 вновь был подтверждён на мета-уровне.

C17H19NO3
Без обид, но это ты повторяешь один и тот же аргумент про мальчика, вообще не обращая внимания на контраргументы. Так что кто тут реально тупит - так это не сетка.

Asteroid
> но это ты повторяешь один и тот же аргумент про мальчика, вообще не обращая внимания на контраргументы

Я пытаюсь указать, что мой аргумент — тупо не понимают. И поэтому контраргументы — к исходному аргументу не относятся, т.к. опровергнуть пытаются не его.

Более того: в некоторый момент я расписал смысл аргумента прямым текстом. Всё равно — даже прямой текст не поняли.

И это символизирует™ наиболее показательно.

> один и тот же

Даже на мета-уровне — их несколько (см. выше в категории "примеры").

Но чтобы это осознать, надо не только уметь в мета-концептуализацию; надо для начала хотя бы прочесть мои комменты, прежде чем на них отвечать (см. мета-пример с прямым обращением к нейросетке vs "второй раз купился").

C17H19NO3
У тебя плохо с вангованием. Всё мы понимаем. А вот ты контраргумент вообще не вдупляешь.

Asteroid
> Всё мы понимаем.

То есть, ты даже не понимаешь, что именно нужно понять — и из-за этого даже не способен осознать своё непонимание.

И вновь пункт 6 итогов ярко подтверждён наглядным примером.

Вот смотрю я на все это с немножко другой стороны...
И вижу:
- Ни одна из современных "больших нейросетей" не то что не вышла на окупаемость как бизнес-проект. До сих пор нет ни одной внятной модели монетизации.
- Вложения в железо для следующего поколения стоят столько, что мягко говоря удивляешься. Уже сравнимо с полетом на Марс...
- Выделить на фоне статистического шума изменения в производительности труда, связанные с внедрением нейросетей, пока не получается. Прогнозные данные крайне скептичны, в районе процента за следующие три года.

C17H19NO3
Короче, на аргументы ты не отвечаешь, а только повторяешь мантры про мальчика и прочие, и вдобавок, безаргументированные нападки на личность делаешь. Такой разговор мне не интересен. Пока.

Marlagram
"— итого, ~$8.5B потратят, ~$4.5B получат, чистые потери составят $3.5-4.5B. Хорошо, что по договорённостям OpenAI платят своим инвесторам долю от прибыли (которая равна 0)"

Asteroid
> на аргументы ты не отвечаешь, а только повторяешь мантры
> безаргументированные нападки

Спасибо, ты уже продемонстрировал свою неспособность читать комменты, на которые пытаешься отвечать; необязательно повторять это ещё раз.

C17H19NO3
И вот опять - никаких аргументов. Просто повторяешь одни и теже бездоказательные утверждения. Ссылка на другие бездоказательные комменты аргументом не является.

Asteroid
> И вот опять - никаких аргументов. Просто повторяешь одни и теже бездоказательные утверждения.

Это настолько мета, что прямо в палату мер и весов.

C17H19NO3
А я понял, ты из тех, кто не может не оставить за собой последнее слово. Ну, тут не получится. )))