Торговец твилечками
Есть очень много другого, чего при работе с файлами тоже не использовали. Количество раздражителей, количество и постоянство достигаемых целей, наличие того, что можно назвать «повышенным энергопотенциалом» по Веллеру (на самом деле, вероятно, это должно быть частью целей, стремление к деятельности и к некоторой её сложности, каковым должны обладать разные модули психики). По идее, уже при расчерчивании всего этого на бумажке мы должны понять, что даже сейчас пока требуемыми вычислительными ресурсами не обладаем.

финикийский_торговец
Не знаю. Предполагается, что если бы мы получили доступ к Интернету, созданному на планете Хищников с инфракрасным зрением и врождённым чувством эхолокации, то мы бы не смогли даже при всём умственном напряжении понять содержание их Интернета и научиться через некоторое время разговаривать с ними? По-моему, научились бы. Понимание сути мира — схемы причинно-следственных связей — выше конкретной сенсорики.

Ногa
Мат уберите, это раз. Это не просьба, а требование.

Два: чтобы доказать что нейронка в современных видах её архитектур и способов обучения такое может, она должна это сделать. Сделала? Нет? Значит мы не знаем, что она на такое способна.
Легко говорить "технология на это способна, только денег на это не дают", но это стороннего человека не из отрасли никогда не в чём не убедит и это сторонний человек будет прав в своём скепсисе. Нравится это кому или нет.

Кьювентри
У нас есть от чего отталкиваться.

Соглашусь, что мы не ощущаем электромагнитные волны или ионизирующую радиацию, не видим кванты, электрона никто никогда не ощупывал и не взвешивал на руке, но мы говорим о них, претендуем на какое-то понимание. Вооружившись той же логикой, можно сказать что и ИИ обученный на ограниченных чувствах по восприятию окружающего мира остальное воспримет через (условно) аналогии и абстрактные построения, но пока что такое не наблюдается.

Пока что разумно допускать что из-за принципиальных проблем в его устройстве, а не недостатка времени, денег и вычислительных мощностей.

Кьювентри
Полагаю что оценки этого должны делать биологи, этологи и прочие а не философы.
Рога - это к половому отбору в контексте прочих его видов, условий среды и стратегии размножения.

Я кстати думаю ИИ арт устроит отличненький экзамен человеческим художникам. Уже замечаю как некоторые люди в попытках дать определение тому что такое человеческое искусство и как оно принципиально отличается от ИИ артов, (возможно случайно) исключают огромное количество человеческого творчества. Это так забавно на самом деле.

Так что я думаю это появление возможности сравнить "яблоки с яблоками": "гениальную идею художника над которой он работал месяц" и "рандомную блевотину нейросети сгенерированную за полчаса промтинга", и прийти к неутешительным выводам.

Если какой-то дизайнер за пару часов может сделать это https://wargaluk.art/Animal-Life то в чем собственно "большая идея" той картины на которую я смотрю в музее, лол

финикийский_торговец
Любое гипостазирование выше уровня конкретных низкоуровневых утверждений кто-нибудь отнесёт к философии. Практически любого учёного частной предметной области, осмелившегося в той или иной научно-популярной книге предположить нечто более общее, чем «в таких-то случаях наблюдается то-то», обвиняли в том, что он уходит в философию. Соответственно, многие учёные начинают избегать такового абстрагирования или заниматься им крайне осторожно. А поскольку заниматься им кто-то должен, то что ж, пусть эта делянка останется хотя бы философам.

Кьювентри
Спорить не стану, но пока что-то можно объяснить на низком уровне и через редукцию, то это "нечто большее" являющееся чаще всего спекулятивной философией, непроверяемыми концепциями не сильно-то и нужно на практике.
Хотя и уместно в художественной литературе или даже попытках всё таки чуть более последовательно заполнить зияющие дыры в наших полях вопросов - т.е .уже в философии.

Но в данном конкретном случае словесные игры со словом "энергия" не очень нужны, как мне кажется. Диссипативные структуры описываются и физикой, биология - биологией, эволюционной генетикой и пр..

Торговец твилечками
И мы плавно переходим к проблемам NP-полных задач и решения их за конечное время.
Сейчас имеющиеся распознающие сети работают на одну задачу. Примерно так:
Задача: отличить член от пальца.
Сети предъявляют тыщу картинок с членами и пальцами и говорят: вот, смотри, вот это член, а это палец. Сеть учится.
Сети предъявляют новые картинки с членами и пальцами и она правильно говорит, где что.
Пока ей не показывают картинку с пальцем в волосах.
И тогда мы обнаруживаем, что именно служило для сети признаком распознавания.
И вот это и называется ИИ в наши дни. И это реально большой шаг вперед по сравнению с тем, что называлось ИИ раньше.
Возможно, дальше будет лучше.

Виктор Некрам

Сейчас в основном начинают использовать нейросети общего назначения которые потом тренируют (fine tune) на каком-то специфическом датасете, CLIP как пример. Есть много вариаций

Ногa
И-мен-но.
И специфический датасет у них один на сеть. Потому что если задать нейросети пару специфических датасетов, у нее ломается думатель. Можно распознавать танки в оптическом диапазоне, а можно в инфракрасном. Но делать это будут две разных сети (или надо выгрузить один набор настроек и загрузить другой), одна сеть не справится.

Немного о художествах. Наверное, у каждого бывало, что взглянув, допустим, на стену, он разглядел лицо в узорах и блёстках обоев. Человеку необходимо находить лица в условиях помех и плохой видимости: в полутьме, в дождь, между ветвями. Это никак нельзя назвать признаком интеллекта (в обычном, не компьютерном смысле). Такая же система работает и у других животных. Например, сова взлетает, увидев направленный на неё взгляд.
Подобным же образом, разглядывая нечто в узорах, работают и генераторы изображений. Они основываются на программах распознавания изображений. На их вход подаётся белый шум – набор случайных точек – и описание того, что нужно распознать. В первоначальном хаосе отыскиваются детали изображения, пропускаются через множество слоёв распознавания и на выходе формируется картинка, возможно, содержащая требуемое. Где тут интеллект? Нигде. Если он есть, то и сова – мудрейшее животное. Распознавание изображений не является функцией интеллекта. Интеллект здесь можно было бы проявить в понимании описаний, но оно отсутствует напрочь. Хоть сколь-нибудь сложную сцену описать невозможно. Если даже найдутся все требуемые элементы, они будут разбросаны в случайном порядке. Отсутствие действительного понимания прекрасно демонстрирует невозможность описания отсутствия чего-либо. Если систему не тренировать специально на отсутствие каждого атрибута, то она наоборот попытается вставить его, в то время как ребёнок, поняв принцип, понимает это для всех вещей.
Так что, шаг вперёд, в утилитарном смысле, здесь конечно же есть, но система не понимает человеческий язык и, следовательно, всё ещё остаётся на уровне имитации интеллекта. Если кому этого хватает, то отлично. Гуглопереводчик вот неплохо заработал. Движение есть, только оценивать его надо объективно

Да, но в то же время делать такие предсказания на основе этого полностью неверно.


У "системы нет понимания" никак не транслируется в "система будет будет производить спутанные картинки в этом режиме", это просто каждый раз неверно на всем пути развития этой технологии.

Ты указываешь на какой-то failure mode как признак отсутствия настоящего понимания? Поздравляю, следующая же модель с точно такой архитектурой, но немного больше, покажет что ты был неправ. У нее тоже не будет "настоящего понимания" но она избавится от того класса ошибок который ты назвал индикативным

история жизни Gary Marcus-a

забавный пример https://astralcodexten.substack.com/p/i-won-my-three-year-ai-progress-bet

Ногa
Специальной процедурой с конкурирующими нейросетками. Вместо того, чтобы не рисовать сразу то, что не нужно. Результат будет, но мы просто приблизимся к идеальной китайской комнате.

Ну так уже. Dalle к примеру сначала производит более абстрактную репрезентацию запроса, а потом 2 раза детализирует ее. Т.е. сначала сцена и объекты, а уже потом детали этих объектов.

Или имеется в виду adversarial training? это то было с самого начала

Ctrelok
Прозелитизм учения Юдковского?

финикийский_торговец

Нет, по ссылке статья, во первых, другого автора, во вторых, скорее художественная, чем публицистическая. Меня это развлекло, а поскольку в тему, решил оставить здесь.