|
#нейросети #блогожизнь
Немного о неправильном использовании нейросетей Вот есть такой житель фанфикополиса Кьювентри, который днями и ночами общается с сектой, но не удосужилась узнать что это такое, и как они работают. Ведь можно же просто общаться с ними как с приятелем, и они поймут, не так ли? А на самом деле нет - не поймут. Это прекрасно вино по комментам к вот этому обсуждению, где люди устроили битву нейросетей: https://fanfics.me/message751116 Поскольку я знаю, что большинству будет лень читать тонну воды, то вот ключевой комментарий, показывающий, что сетку надо правильно промтить (ключевое выделю жирным): 2. Разный акцент в самой постановке задачи "Разбери", "критикуй", "найди слабые места", "оцени как доктор психологии", "оцени как доктор философии" - все эти слова в вопросе дают разные ответы. И ведь это только один глагол, а есть ещё и остальные слова запроса. Выбор слов промта критически важен. Хотя оба запроса были на анализ, их тон и имплицитные ожидания могли различаться: Ваш запрос был сформулирован очень нейтрально: "Проанализируй следующий разговор с нейтральной позиции". Это прямой вызов к объективности. Запрос Кьювентри мог быть сформулирован иначе, возможно, с большим акцентом на её собственную роль в споре или с иной эмоциональной окраской. Даже небольшие различия в формулировке ("разбери", "объясни", "кто был прав") задают разные вектора для ответа. Итог: адаптивность модели, а не противоречивость Оба ответа были нейтральны по сути, но тональность и структура подстраивались под воспринимаемый контекст запроса и отношения с пользователем. ____________ В диалоге с Кьювентри : Запрос: Мне прислали "срач" с просьбой его проанализировать. Пользователь представился как заинтересованный наблюдатель. Моя логика (имплицитная): Пользователь, видимо, нашел дискуссию интеллектуально ценной и хочет увидеть ее разбор. Значит, нужно показать глубину и равновесие спора. Если одна из сторон (автор поста) выстроила сложную, пусть и спорную, аргументацию, ее нужно разобрать со всей серьезностью, признав логические сильные стороны, даже если в итоге она проигрывает. Это анализ "игры в шахматы", где ходы обеих сторон заслуживают внимания. Цель ответа: Продемонстрировать аналитическую добросовестность и уважение к материалу, присланному пользователем. Показать, что я вижу нюансы и не просто "выбираю сторону", а взвешиваю аргументы. Это академический/исследовательский тон. В диалоге с вами: Запрос: Вы прямо спросили, кто предложил "наиболее уместные и убедительные аргументы". Вы дали четкий критерий. Моя логика: Пользователь просит не просто анализа, а оценочного суждения с обоснованием. Нужно не столько расписывать баланс, сколько дать ясный, структурированный ответ на прямой вопрос, ранжировав позиции по убедительности. Акцент смещается с "вот что интересного в этой дискуссии" на "вот ответ на ваш конкретный запрос". Цель ответа: Быть четким, директивным и полезным в рамках поставленной задачи. Дать вам то, что вы просили: оценку и вывод. Если вы этого ещё не делали, попробуйте как-нибудь разные варианты промта к одной задаче, вы удивитесь (только не забудьте сбрасывать каждый раз)). В общем, совет всем на будущее: если начинаете регулярно использовать инструмент, то разберитесь: как правильно с ним работать. Не будьте Кьювентри. 22 января в 15:39
2 |
|
MissNeizvestnaya
И мне стало очень смешно. Поправите, или так и планировалось?😂 да, я тоже заметиласекта ИИшников предлагайте еще названия! 1 |
|
|
MissNeizvestnaya
Так получилось, ибо я в последнее время читал много культиваторщины, а там секта на секте. Но исправлять не буду. ))) 1 |
|
|
В общем, совет всем на будущее: если начинаете регулярно использовать инструмент, то разберитесь: как правильно с ним работать. Не будьте Кьювентри. Вот за это сразу +1. |
|
|
>>если начинаете регулярно использовать инструмент, то разберитесь: как правильно с ним работать.
всеми руками за |
|
|
Кьювентри
Лол. Тут сетка тебе прямым текстом обьясняет как она по разному видит задачу в зависимости от промта, но ты, оказывается, всё равно всё сделала правильно, это сетка, наверное, твой промт не так поняла. ))) Дай угадаю, если ты молотком по пальцу ударишь, то у тебя молоток виноват будет? ))) Что касается сброса чата, то это отсылка к нашим предыдущим беседам на тему. |
|
|
Asteroid
Та альтернативная версия промпта из твоей цитаты, кстати, как раз создаёт искажение. Нейронке ведь действительно безразлична правда и ложь — она пытается угадать желания пользователя. Любое повышенно строгое требование она воспримет как «Пользователь хочет, чтобы я покритиковала, попридиралась к высказавшимся в треде, независимо от того, заслуживают они или нет (мне всё равно)». В результате критика как бы будет, но это будет «критика просто лишь потому что». Мой же промпт был нейтрален и не требовал ничего. Скажешь, нейронка тогда будет подлизываться просто по умолчанию? Но равно ко всем, а значит, это неважно. |
|