↓
 ↑
Регистрация
Имя/email

Пароль

 
Вход при помощи VK ID
временно не работает,
как войти читайте здесь!
Торговец твилечками
20 августа в 09:35
Aa Aa
#цифровое #ии абсолютно #всякая_фигня
Наверное, я разочарован. Как будто дошёл до края вселенной и потрогал его рукой: твёрдый и за ним ничего нет. Знания ИИ ограничены и она не способна воспринимать что-то новое из пользовательского ввода. Всё должно быть уложено в известную ей картину мира.
Суть вопроса я могу описать, но вряд ли это кому-нибудь будет интересно. Пластические деформации металлов. Кристалл металла довольно тяжело расплющить или вытянуть, но относительно легко можно сдвинуть по атомным плоскостям. Но для этого в кристалле изначально должны иметься дефекты. И вот в механизм генерации дефектов (источник Франка – Рида) я пытался вникнуть. Имеется линейный дефект (дислокация) ограниченной длины. Под действием сдвигающей силы он изгибается, а затем распространяется за пределы своей проекции в бездефектную область. Как? Я замучил нейросеть, она уже начала жалобно спрашивать: «ну может быть пойдём дальше?», но нисколько не продвинулся, она просто рассказывала одно и то же слегка другими словами. Все попытки уточнения ни к чему не привели. Я перечитал все источники, там было написано то же самое словами школьного учебника. Нейросеть ещё и пыталась вставить дурацкие, не подходящие аналогии.
Кажется, я всё-таки понял сам. В местах наибольшего натяжения происходит разрыв вертикальной цепочки (если плоскость сдвига считать горизонтальной) и рождаются две дислокации противоположной направленности сверху и снизу от плоскости сдвига. Одна из них убегает вперёд и сливается с изначальной, а другая уходит назад за препятствия. Я описал это, и ИИ меня не поняла. То есть она вписала объяснение в имеющуюся у неё картину мира, но по ответу было видно: не то. А ИИ умеет понимать (или квази-понимать) довольно сложные вещи. Например, я послойно описывал структуру кристалла с расположением атомов в решётке, и видно было, что да, понимает. Она же не умеет давать короткий ответ, она повторила сказанное, не дословно, с комментариями, всё в тему. А здесь – нет. То есть получается, нейросеть нельзя обучить ничему новому, кроме того, что описано в этих ваших интернетиках? Я понимаю, что если каждый начнёт учить чему-то своему, но хотя бы локально? С другой стороны, чат-боты вроде бы новое воспринимают, а здесь серьёзная дама.
Так что если кто-то считает, что человечеству конец, то пока ещё не конец. Надеюсь, это будет исправлено в новых версиях.
20 августа в 09:35
10 комментариев
Об этом в последнее время экономист Хазин писал. Он не в мейнстриме, скорее как "ниспровергатель основ" денежными мэтрами воспринимается, и когда начал разговаривать с ИИ, обнаружил, что тот пытается отделаться информацией с Вики :-) Говорит, очень долго пришлось бедному "интеллекту" связывать руки, ограничивая доступ ко всякой чуши, пока тот не стал выдавать хоть что-то нормальное. Но результат всё равно его разочаровал, потому что, говорит, то, что апостолы ИИ называют "обучением", это всего лишь использование того, что уже есть в Сети.
Я сам от вопросов обучения и контакта с ИИ далёк, но тенденция характерная, и о ней всё чаще говорят на Ютубчике. Разочаровывается народ.
С одной стороны, есть серия сообщений о заметных прорывах в математике. С другой, это агентские ИИ с профессиональными настройками и много платных токенов - и типичная схема прорыва "ИИ смог применить к проблеме подход из смежной области, до проверки пригодности которого не дошли руки из-за трудоёмкости".
когда начал разговаривать с ИИ, обнаружил, что тот пытается отделаться информацией с Вики
Это так, источники у неё действительно так себе, но вопрос несколько шире. Допустим нейросеть будет иметь доступ к самому полному хранилищу научно информации. И некто выдвинет новую гипотезу, то есть выйдет за пределы имеющейся информации, хотя на ней основываясь. Способна ли нейросеть понять новое? Если я выдвину гипотезу, она скажет, что да, доктор околовсяческих наук Петров выдвигал такую же, а если не выдвигал, то она и не способна понять?
Торговец твилечками
ты не знаешь какие ограничения наложены на ИИ разработчиками и все твои вопросы идут через фильтры. Потому сложно судить что он реально может.
Vanchope
Здесь чистый научпоп, так что очень не похоже, что «они что-то скрывают». Не видно никакой логики в том, что здесь можно, а там нельзя. Один эффект, объяснить начальную стадию и не объяснять последующую.
Торговец твилечками
Подозреваю что да, понять она не способна. Впрочем, я не математик, может просто какие-то протоколы в ней отключены, как в общедоступном продукте.
Торговец твилечками
я не говорю что они что-то скрывают, может быть урезана сама модель ИИ. Ты же видишь как они сейчас пытаются втюхать более продвинутые модели по подписке.
То есть получается, нейросеть нельзя обучить ничему новому, кроме того, что описано в этих ваших интернетиках?
Нейросеть вообще не обучается во время разговора с пользователем, такая архитектура. Можно обучить когда-нибудь после, на основе этих данных. Но она учитывает всё, о чем они сейчас говорили, с поправкой на пределы контекстного окна. Что вышло за его пределы - моментально забывается. В целом, это позволяет в какой-то степени изобразить "обучение". Ещё, насколько я помню, архитектура внимания в трансформерах такова, что наибольшее влияние на ответ оказывает именно последнее сказанное (и нейросетью, и человеком). Поэтому ИИ так охотно перестраивается и меняет показания, следуя критике.
Заяц
Имелось ввиду немного не то. Если ты сформулировал некую новую концепцию, и та укладывается в известные факты, но нигде до этого не описана (то есть нейросеть об этом не знает), то может ли она сказать: да, это похоже на правду, непротиворечиво, что-то в этом роде? У меня она начала гнуть концепцию под своё видение мира.
Торговец твилечками
Сложно сказать. Вообще, Большие Языковые Модели сначала тренируют на то, чтобы наиболее вероятным образом продолжать любые тексты. Потом на решение задач, сформулированных в виде текста. Все остальное уже как следствие. Но, допустим, пересчитать, сколько букв "и" в каком-то абзаце своего собственного текста она обычно не может правильно, потому что токенизатор обычно режет входной текст на токены, которые по размеру больше, чем одна буква. И машина воспринимает только токены, но не отдельные буквы. Так что без привлечения сторонней программы нейросеть (она же Большая Языковая Модель, LLM и ИИ) решить эту задачу не способна.
ПОИСК
ФАНФИКОВ









Закрыть
Закрыть
Закрыть