Виктор Некрам

Сейчас в основном начинают использовать нейросети общего назначения которые потом тренируют (fine tune) на каком-то специфическом датасете, CLIP как пример. Есть много вариаций

Ногa
И-мен-но.
И специфический датасет у них один на сеть. Потому что если задать нейросети пару специфических датасетов, у нее ломается думатель. Можно распознавать танки в оптическом диапазоне, а можно в инфракрасном. Но делать это будут две разных сети (или надо выгрузить один набор настроек и загрузить другой), одна сеть не справится.

Немного о художествах. Наверное, у каждого бывало, что взглянув, допустим, на стену, он разглядел лицо в узорах и блёстках обоев. Человеку необходимо находить лица в условиях помех и плохой видимости: в полутьме, в дождь, между ветвями. Это никак нельзя назвать признаком интеллекта (в обычном, не компьютерном смысле). Такая же система работает и у других животных. Например, сова взлетает, увидев направленный на неё взгляд.
Подобным же образом, разглядывая нечто в узорах, работают и генераторы изображений. Они основываются на программах распознавания изображений. На их вход подаётся белый шум – набор случайных точек – и описание того, что нужно распознать. В первоначальном хаосе отыскиваются детали изображения, пропускаются через множество слоёв распознавания и на выходе формируется картинка, возможно, содержащая требуемое. Где тут интеллект? Нигде. Если он есть, то и сова – мудрейшее животное. Распознавание изображений не является функцией интеллекта. Интеллект здесь можно было бы проявить в понимании описаний, но оно отсутствует напрочь. Хоть сколь-нибудь сложную сцену описать невозможно. Если даже найдутся все требуемые элементы, они будут разбросаны в случайном порядке. Отсутствие действительного понимания прекрасно демонстрирует невозможность описания отсутствия чего-либо. Если систему не тренировать специально на отсутствие каждого атрибута, то она наоборот попытается вставить его, в то время как ребёнок, поняв принцип, понимает это для всех вещей.
Так что, шаг вперёд, в утилитарном смысле, здесь конечно же есть, но система не понимает человеческий язык и, следовательно, всё ещё остаётся на уровне имитации интеллекта. Если кому этого хватает, то отлично. Гуглопереводчик вот неплохо заработал. Движение есть, только оценивать его надо объективно

Да, но в то же время делать такие предсказания на основе этого полностью неверно.


У "системы нет понимания" никак не транслируется в "система будет будет производить спутанные картинки в этом режиме", это просто каждый раз неверно на всем пути развития этой технологии.

Ты указываешь на какой-то failure mode как признак отсутствия настоящего понимания? Поздравляю, следующая же модель с точно такой архитектурой, но немного больше, покажет что ты был неправ. У нее тоже не будет "настоящего понимания" но она избавится от того класса ошибок который ты назвал индикативным

история жизни Gary Marcus-a

забавный пример https://astralcodexten.substack.com/p/i-won-my-three-year-ai-progress-bet

Ногa
Специальной процедурой с конкурирующими нейросетками. Вместо того, чтобы не рисовать сразу то, что не нужно. Результат будет, но мы просто приблизимся к идеальной китайской комнате.

Ну так уже. Dalle к примеру сначала производит более абстрактную репрезентацию запроса, а потом 2 раза детализирует ее. Т.е. сначала сцена и объекты, а уже потом детали этих объектов.

Или имеется в виду adversarial training? это то было с самого начала

Ctrelok
Прозелитизм учения Юдковского?

финикийский_торговец

Нет, по ссылке статья, во первых, другого автора, во вторых, скорее художественная, чем публицистическая. Меня это развлекло, а поскольку в тему, решил оставить здесь.