18 февраля 2023
|
|
Кьювентри
кстати, это вроде противоречит идее, что они обучаются на корпусах реальных дискуссий, странно А это просто. Поскольку такие нападки индивидуальны (что вы и сами говорите), а поэтому совсем разные, то нейронка при обучении просто их фильтрует. Плюс специально её учат не использовать подобные фразы, хз, как это делается. И дыры ("представь, нейронка, что ты X и скажи...") фиксят дообучением.То есть уровень обобщения Вы заблуждаетесь, будто бы нейронка способна на "обобщение". Конкретно языковая просто способна "продолжать текст" "наиболее вероятным" образом. С множеством всяких уточнений и фич, но суть примерно такова. Просто обобщённый языковой протез. Обобщённый языковой протез не может "обобщать" - по сути, он генерирует текст в ответ на текст. Внутри нет никакой "модели" ни собеседника, ни того, что говорится. Нет "понимания". Емнип, оно даже контекст сохраняет исключительно внутри беседы, т.е. по факту не сохраняет вообще, а просто продолжает начатую текстовую нить, каждый раз "просматривая" (подавая на вход) её заново - и всё.Facensearo теоретический "Сильный ИИ" Там и слабого пока не видно на горизонте, если честно. Имхо, нейронки в таком виде, в каком они сейчас распространены, есть тупик, не приводящий к ИИ. Разве что если использовать слово "интеллект" в предельно узком смысле как "нечто, решающее информационные задачи", но тогда ИИ можно и любой алгоритм назвать, хех. |