Все-таки, если бы оно обучалось совсем случайно, оно не сходилось бы к достаточно хорошему результату. Так что и там, и там приходится задавать правильные критерии, чтобы отличать добро от зла.

Magla
Похоже, с языками многих народов, всяких нанайцев, айнов, камчадалов и прочих будет именно так. Некоторые специалисты по машинному обучению и нейросетям, пользуясь открывшимися сейчас возможностями, обучают автоматические переводчики для языков малых народов. У каких-то из них носителей языка осталось порядка сотни, у каких-то - не больше десятка. В итоге переводчик, корпус текстов и модель ещё где-то останутся, а языка и народа через одно-два поколения больше не будет. Ну и, конечно, тот переводчик будет средненький, на типичном современном уровне. Вот только уже некому будет поправить его ошибки.
Немного грустно. Впрочем, не обязательно быть эвенком, чтобы оказаться в забвении. Многие старые русские писатели, не попавшие в
классики, не переиздаются и не оцифровываются. Это никому не нужно. А то, что не воспроизводится, со временем естественным образом утрачивается. То же самое с редкими научными статьями или старыми материалами конференций. Так же, как и с редкими технологиями. Когда-то в СССР делали тяжёлые экранопланы, умели снимать голографическое кино, а на Украине (тоже советского времени) изготовляли криогенные акваланги. Сейчас уже не умеют.

Почитал ветку по ссылке.

"Пока считается что нейросеть хорошо обучена, если экспериментатору нужно забраковать не более 60% совершенно нелепых результатов. Ну я утрирую - понятно что есть простенькие задачи, которые нейросеть щелкает как орешки, допуская менее 10% ошибок."

Это далеко не так. Есть такой проект ImageNet. Собирает размеченные по классам для анализа изображения и организует конкурс по распознаванию и классификации изображений. Текущий результат нейросети около 3% ошибок. У человека - 5%. Как видно, люди тут уже проигрывают. Есть, конечно, тонкости. Во-первых, задача отчасти синтетическая. Во-вторых, это средний человеческий результат. Вполне может быть, что человек с очень хорошим образованием, с большим опытом или просто разносторонняя команда будут лучше. В-третьих, программа по-прежнему не "понимает" того, что видит, хотя и классифицирует лучше человека.

https://www.researchgate.net/figure/Winner-results-of-the-ImageNet-large-scale-visual-recognition-challenge-LSVRC-of-the_fig7_324476862

Заяц
это циничная мудрость специалиста - он резюмирует свой горький опыт :)
потому что одна статья - ну что одна статья. у нас постоянно появляются статьи "CAPM works", в которых показывается, что путем разных манипуляций однофакторная модель может приемлемо объяснить доходность любых портфелей акций.
но если вы спросите толкового профессора в коридоре "does CAPM work?", он может вам прогнать телегу на десять минут, как не то что с помощью одного, с помощью пяти факторов мы далеко не со всем можем справиться.
а так да, я вам прям щас накидаю пять недавних статей "CAPM works", их публикуют даже, потому что интересно же, как люди так изловчились. поучительно в чем-то.