↓
 ↑
Регистрация
Имя/email

Пароль

 
Войти при помощи
Временно не работает,
как войти читайте здесь!
Asteroid
22 января в 15:39
Aa Aa
#нейросети #блогожизнь
Немного о неправильном использовании нейросетей

Вот есть такой житель фанфикополиса Кьювентри, который днями и ночами общается с сектой, но не удосужилась узнать что это такое, и как они работают. Ведь можно же просто общаться с ними как с приятелем, и они поймут, не так ли?
А на самом деле нет - не поймут. Это прекрасно вино по комментам к вот этому обсуждению, где люди устроили битву нейросетей:
https://fanfics.me/message751116

Поскольку я знаю, что большинству будет лень читать тонну воды, то вот ключевой комментарий, показывающий, что сетку надо правильно промтить (ключевое выделю жирным):
2. Разный акцент в самой постановке задачи
Хотя оба запроса были на анализ, их тон и имплицитные ожидания могли различаться:

Ваш запрос был сформулирован очень нейтрально: "Проанализируй следующий разговор с нейтральной позиции". Это прямой вызов к объективности.

Запрос Кьювентри мог быть сформулирован иначе, возможно, с большим акцентом на её собственную роль в споре или с иной эмоциональной окраской. Даже небольшие различия в формулировке ("разбери", "объясни", "кто был прав") задают разные вектора для ответа.

Итог: адаптивность модели, а не противоречивость

Оба ответа были нейтральны по сути, но тональность и структура подстраивались под воспринимаемый контекст запроса и отношения с пользователем.
____________

В диалоге с Кьювентри :

Запрос: Мне прислали "срач" с просьбой его проанализировать. Пользователь представился как заинтересованный наблюдатель.

Моя логика (имплицитная): Пользователь, видимо, нашел дискуссию интеллектуально ценной и хочет увидеть ее разбор. Значит, нужно показать глубину и равновесие спора. Если одна из сторон (автор поста) выстроила сложную, пусть и спорную, аргументацию, ее нужно разобрать со всей серьезностью, признав логические сильные стороны, даже если в итоге она проигрывает. Это анализ "игры в шахматы", где ходы обеих сторон заслуживают внимания.

Цель ответа: Продемонстрировать аналитическую добросовестность и уважение к материалу, присланному пользователем. Показать, что я вижу нюансы и не просто "выбираю сторону", а взвешиваю аргументы. Это академический/исследовательский тон.

В диалоге с вами:

Запрос: Вы прямо спросили, кто предложил "наиболее уместные и убедительные аргументы". Вы дали четкий критерий.

Моя логика: Пользователь просит не просто анализа, а оценочного суждения с обоснованием. Нужно не столько расписывать баланс, сколько дать ясный, структурированный ответ на прямой вопрос, ранжировав позиции по убедительности. Акцент смещается с "вот что интересного в этой дискуссии" на "вот ответ на ваш конкретный запрос".

Цель ответа: Быть четким, директивным и полезным в рамках поставленной задачи. Дать вам то, что вы просили: оценку и вывод.
"Разбери", "критикуй", "найди слабые места", "оцени как доктор психологии", "оцени как доктор философии" - все эти слова в вопросе дают разные ответы. И ведь это только один глагол, а есть ещё и остальные слова запроса. Выбор слов промта критически важен.
Если вы этого ещё не делали, попробуйте как-нибудь разные варианты промта к одной задаче, вы удивитесь (только не забудьте сбрасывать каждый раз)).

В общем, совет всем на будущее: если начинаете регулярно использовать инструмент, то разберитесь: как правильно с ним работать. Не будьте Кьювентри.
22 января в 15:39
8 комментариев из 9
MissNeizvestnaya
И мне стало очень смешно. Поправите, или так и планировалось?😂
да, я тоже заметила
секта ИИшников
предлагайте еще названия!
MissNeizvestnaya
Так получилось, ибо я в последнее время читал много культиваторщины, а там секта на секте. Но исправлять не буду. )))
Вот есть такой житель фанфикополиса Кьювентри, который днями и ночами общается с сектой
Прочла раз пять и каждый раз читала именно "сеткой".
Даже в следующем сообщении.
И сижу, думаю с лицом лица: "А что, собственно, не так?"😆
В общем, совет всем на будущее: если начинаете регулярно использовать инструмент, то разберитесь: как правильно с ним работать. Не будьте Кьювентри.
Вот за это сразу +1.
>>если начинаете регулярно использовать инструмент, то разберитесь: как правильно с ним работать.

всеми руками за
Повторю уже сказанное:
«Предсказуемый комментарий от Астероида😝 Ты можешь как угодно исхитриться с нейтральностью промпта — он всё равно скажет, что ты неправильно всё сделал, не обнулил чат, специально всё так настроил, чтобы нейронка тебе подольстила».
1. Приведённый мной постинг был первым в чате.
2. Если ты хочешь загнуть что-то в духе «ВсеДругиеЧатыНадоБылоУдалить!» — эту хрень я не буду делать ради тебя, конечно. По договорам и прочему нейронка формально не должна в одном чате учитывать содержание других. Если всё же учитывает — не моя проблема.
3. Приведённые обоснования, почему якобы мой промпт не требовал по звучанию серьёзного разбора, шиты белыми нитками. Здесь ты сам делаешь то, в чём обвиняешь других, — доверяешь самооправданию нейронки. «Я протупила не потому что тупая, а потому что пользователь не там запятую поставил!» Ясно, что она сочиняет на ходу.
Кьювентри
Лол. Тут сетка тебе прямым текстом обьясняет как она по разному видит задачу в зависимости от промта, но ты, оказывается, всё равно всё сделала правильно, это сетка, наверное, твой промт не так поняла. )))
Дай угадаю, если ты молотком по пальцу ударишь, то у тебя молоток виноват будет? )))

Что касается сброса чата, то это отсылка к нашим предыдущим беседам на тему.
Asteroid
Та альтернативная версия промпта из твоей цитаты, кстати, как раз создаёт искажение. Нейронке ведь действительно безразлична правда и ложь — она пытается угадать желания пользователя. Любое повышенно строгое требование она воспримет как «Пользователь хочет, чтобы я покритиковала, попридиралась к высказавшимся в треде, независимо от того, заслуживают они или нет (мне всё равно)». В результате критика как бы будет, но это будет «критика просто лишь потому что». Мой же промпт был нейтрален и не требовал ничего. Скажешь, нейронка тогда будет подлизываться просто по умолчанию? Но равно ко всем, а значит, это неважно.
ПОИСК
ФАНФИКОВ













Закрыть
Закрыть
Закрыть