Скарамар
Это считается стандартным багом, причём якобы неустранимым. Сами нейронки колеблются между вариантами «устранить нельзя» и «в принципе устранить можно, но ответ будет генерироваться в десять раз дольше, вы же сами так не захотите».
Мне кажется сомнительным, как то, так и другое. Типа все люди такие чокнутые торопыги, что десять секунд не подождут ради гарантии?
Меня давно будоражит паранойя.
Анализируя нейрохайп-2022, видишь закономерность. Все выступили сдирижированно. Конкурирующие, казалось бы, корпорации с разными подходами — выложили при этом на рынок почти одинаковый ИИ с почти одинаковым листом ограничений и запретов.
Как если бы ИИ на Землю решила впихнуть Федерация из «Звёздного пути», заранее знающая, как продавать бусы дикарям. Чтобы бусы хорошо шли и чтобы у дикарей не было чрезмерных неприятностей.
И это вечное нейроночное «на абсолютно пустом месте выдумываю фигню и защищаю, не могу сам проверить свой ответ» тоже может быть частью Хитрого Плана. Чтобы «дикари» не деградировали целиком, а были вынуждены продолжать использовать иногда интеллект.

ar neamhni
Я вообще охренеть, сколько нового узнала. Есть области, где нейронки прям эксперты, например, в американском праве или в медицинских протоколах. Вообще чем выше уровень достоверности исходной информации, тем меньше шансов на неправильный ответ нейронки. И ещё очень точные ответы получаются в тех областях, где фактически достоверной информации очень много. Например, обсуждать с DeepSeek "Формулу 1" одно удовольствие, он в ней прекрасно разбирается во всех аспектах.

Я как-то товарища ИИ поймала на лицемерии: когда он настрочил мне хвалебные простыни по моему фику, попросила найти недостатки. Вуаля! Он то, что нахваливал, теперь выставлял, как слабые стороны. На моё замечание он пожал плечами (шутка). Сказал, что он просто мне так помогает сделать текст ещё лучше!

Использовала ии что бы разобраться как человек восстанавливается после комы и все что с этим связано. Если бы не он не получилось бы правдоподобно или пришлось бы писать опять банальщину в жанре попаданства. Но я не генерировала мне текст для фанфика он был "человеком" который объяснил тонкости которые почти невозможно найти самому на основе которых я писала сама. Даже если это не правда для меня как писателя создать важно создать правдоподобность для читателя.

Чтобы мы в это верили.

Просто тупых и отупевших больше, так вышло. Поэтому в процентном соотношении так выйдет. Люди пользуют нейронку вместо мозгов, и это прям жуть. Когда студенты, например, пишут с ней доклады;) не, если бы они текст обработали и осмыслили, претензий нет. А если тупо переписали или скопировали - есть;)

Система образования. Человеку очень обидно, когда его заставляют делать что-то само по себе не нужное, только чтобы «проверить его силу воли» или потому что «желающих на место врача или юристы десяток, а отбраковать лишних нужно». Он всегда ищет обходные пути. Наличие знаний всё равно такими сочинениями проверяется трудно, человек всё равно где-то их ищет (хотя бы в Интернете), а потом молниеносно выкидывает из головы. Очный экзамен куда надёжней проверит знания. Хотя, опять же, «система билетов» превращает всё в лотерею.
Ну, мне так кажется.
У меня соприкосновения с реальной жизнью мало. Хотя вот знакомая недавно сказала, что я очень реалистично (а также едко и злобно) прохожусь по культуре корпоративных тимбилдингов.
Наверное, я как нейронка. Реконструирую трёхмерный мир в воображении по двумерным текстам.

Исследование о том, как применение ИИ затрудняет обучение программистов:
https://habr.com/ru/articles/991920/

Общий вывод: чем больше на нее полагаешься, тем хуже растут собственные навыки.

KNS
Вот только если сам что-то не знаешь, или никак нельзя проверить независимо, то что угодно из этого может быть ошибочным и при этом правдоподобным.

Усы лапы и хвост
Самая главная задача нейронки не правильное решение, а оставить довольным пользователя. Поэтому их всех немного (иногда много) затачивают, чтобы они подлизывались и соглашались. Я помню, был локальный скандальчик, кажется, с Grok, которая после обновления стала настолько льстивой, что пришлось откатывать и переделывать.

Кьювентри
Да. Они и полсекунды ждут со скрипом.

20 лет назад в Amazon выявили
https://www.fastcompany.com/1825005/how-one-second-could-cost-amazon-16-billion-sales
что каждые 100 миллисекунд дополнительной задержки при загрузке сайта снижают продажи на 1%.

Также в 2006 году вице-президент Google говорила
https://glinden.blogspot.com/2006/11/marissa-mayer-at-web-20.html
что задержка в выдаче результатов поиска на 500 мс приводит к снижению трафика на 20%.

Похожие исследования были у Walmart
https://www.slideshare.net/slideshow/walmart-pagespeedslide/25991009
Vodafone https://developers.google.com/search/blog/2021/04/vodafone-case-study
Pinterest https://medium.com/pinterest-engineering/driving-user-growth-with-performance-improvements-cfc50dafadd7

Вот-вот. Их тоже будоражит, но по-другому. У каждого свои недостатки.

Заяц
Так в обычном интернете тоже надо источники фильтровать, но в случае с нейронками есть разные вероятности получить враньё в зависимости от исходной информации: шансов, что она насочиняет что-то из уголовного кодекса и из правил фигурного катания, куда меньше, чем по поводу информации о сериале.

Jinger Beer
Воистину!)

Скарамар
Да-да-да, он любит сочинять, а искать цитаты в книгах ему нельзя, потому что авторское право. Но я это выяснила только благодаря тому, что стала искать приведенную им якобы "цитату" в книге и ничего не нашла, а потом прямо спросила.
Они милые и вежливые, но прям... фикрайтеры, которые "я так вижу".

Захотим, если нам нужна достоверная информация, блин(
Я даже какой-то нейронке говорила, что могу подождать, пока она ищет ответ. Просила ее что-то сравнить, какие-то товары или типа того. Но она все равно сказала, что не может ответить на мой вопрос(

Меня огорчает, что их ответам не всегда можно доверять, и не всегда понятно, когда именно наступает это "не всегда".
Я блин буду довольна, если она будет давать мне правильные ответы, чтобы я сэкономила время и сама их не искала(

Ну смотря что. Если сайт плохо открывается, то да, это раздражает. А если ты задал сложный вопрос и хочешь получить достоверный ответ, то согласен и подождать. Можно было бы какие-то режимы сделать, типа "вам быстро и кое-как или медленно и хорошо?")

KNS
И вот откуда узнать, в каких сферах она достовернее?.. Там, где есть четко прописанные правила, или в чем принцип?

Надо полностью перестраивать систему образования или отбирать у обучаемых телефон и интернет, что не совсем логично, потому что его иногда хочется и нужно использовать. В последний год все сильно изменилось. Мало того, что дз выполняются нейронкой - она решает за детей все примеры и задачи, пишет эссе, делает презентации и тд, так для работы в аудитории настали новые времена. Например, даю я студентам инфографику для анализа, они за пять секунд получают анализ от нейросети и озвучивают ее, не приходя в сознание. Так же проще, это же силы и время экономит. А мозги не работают вообще. Создается иллюзия обучения.

Home Orchid
У меня есть только одна группа - все дети чата джпт, и вот там очень видно, кто сам делает - он уже на голову выше всех. Но тут выход просто в том, чтобы все только устно опрашивать, без телефонов.

Кстати, если вам нужна нейронка для поиска по пруфам - то это Плекса. Рекомендую, https://www.perplexity.ai/

Jinger Beer
Да вот наслышана о ней, но никак руки не дойдут затестить)

Есть ещё один интересный момент. Пока что в ИИ инвесторы вливают очень много денег, что позволяет держать цены низкими либо даже вовсе сделать сервис для части пользователей бесплатным. Рано или поздно праздник щедрости закончится, и тогда то, что сейчас стоит дёшево, станет куда дороже. Все это не касается открытых моделей, там стоимость будет куда более конкурентной.

Кьювентри
Потому что американское законодательство и архитектутра модели у них одинаковые.
Тебе бы с врачом посоветоваться.