aliska-now
Так проблема обратная – нейросети дают отметку, чтобы она вообще не читала текст, а вернула ответ на запрос "текст написан правильно, основная мысль такая-то". То есть можно публиковать любую лажу, которую нейронка будет передавать сторонним пользователям как истину в последней инстанции.

Основная задача написания профессионального текста – анализ и представление читателям некой информации. Пока что, на мой взгляд, нейросеть справляется с этой задачей в профессиональных областях настолько хуже живого человека, что разница заметна даже непрофессионалам. А значит профессионал предпочтёт использовать нейронку обратным путём: для обработки уже написанного. Ну, то есть что-то в духе "Изложи вот эти тезисы в виде развёрнутого текста в публицистическом/научном стиле в соответствии с требованиями издательства такого-то". А уже результат будет вычитывать на ошибки и стилистику, а не наоборот.

Моральное право в КоАПе не прописано. С точки зрения любого закона нейросеть – инструмент обработки информации. Вот буквально поколение назад считалось дурным тоном писать реферативные работы (даже учебные, а не исследовательские) на основе результатов поиска в интернете. Дескать, нормальный реферат/обзор должен быть составлен по библиотечным книжкам. Сейчас такое требование выглядит как минимум странно. Так и нейросети – если использовать их как инструмент, чётко понимая разумные границы его применения, что ж в этом плохого? А если использовать их неразумно, то такого автора накажут не моральные терзания, а читатели – не читая его нейросетевое поделие.

ReznoVV

А это уже звучит здраво! И даже оптимистично в плане будущего!


Вы правы, помню те времена)) Когда хвалилась в коридоре универа своим открытием, что для реферата можно просто скопировать страницу в Википедии. Мимо проходила преподавательница... После этого нам задавали рефераты на такие темы, которые нужно было собирать по десяткам сайтов, причём начиная с третьей страницы выборки поисковика. Но в библиотеку уже никого было не загнать))

Спасибо за мысли!

Кстати, как недавно официально обнаружили - вычитывать за нейросетями дороже чем писать с нуля. Причём программный код тоже, при этом имеет место быть субъективная ошибка восприятия. Пользователю ИИ кажется, что работа идёт быстрее - но опыты с независимым хронометражем, причём по замысловатой методике показывают обратное.

PS
И уже старый по меркам отрасли баян:
Семья из Британии отравилась грибами, купив пособие для начинающих грибников, не зная, что книгу написала нейросеть.

И для связности.

ReznoVV

В странное время живем: крупнейшая ML-конференция ICML добавила следующий пункт в свой кодекс этики подачи статей ⬇️



Фишка тут в том, что рецензентам ICML в то же время строго запрещено использовать LLM для написания рецензий. Но организаторы говорят, что это правило не оправдывает подобного рода саботаж и проводят аналогию с ситуацией, когда автор, пытающийся подкупить рецензента за положительный отзыв, также нарушает правила, хотя рецензент не имеет права брать взятки.

При этом, что самое интересное, какие-то скрытые промпты все-таки оставлять можно. Например, если они предназначены для выявления использования рецензентами LLM – это ок.

Правило, ясное дело, взято не из воздуха, а продиктовано реалиями рисерча: в последнее время статей с именно такими скрытыми заговорами промптами на положительные рецензии обнаружилось слишком много, чтобы игнорировать тренд.

Взято отсюда: https://t.me/data_secrets/7441

Оно НЕ РАБОТАЕТ. Думаете, вы первая чо-то хотите?
Люди не тупые, они это ловят.

Altra Realta
нейросети сейчас это как в мультике "Вовка в тридевятом царстве" - двое из ларца)

Теmр
Я знаю
Дохрена народу переловили уже с ними

aliska-now
Пробовали, результат отрицательный, получается картонный шаблон с максимально сглаженным текстом, безэмоциональный и неинтересный. А когда просишь добавить эмоций, максимум, что получаешь - что-то на уровне "вау, это здорово" или "фу, как отвратительно". Если хочешь каких-то более подробных описаний, сетка делает финт ушами: одну-две фразы крутит несколько раз разными словами.
Единственное, в чем она более-менее помогает - это перефразировать уже готовый текст, и то надо внимательно за ней следить, чтобы не напихала отсебятины или не выбросила нужное.

Обсуждение работы нейросеток немного напоминает то, как подростки обсуждают секс. Якобы, все им уже по десять раз занимались, и все очень ждут, что ЭТО все в жизни изменит. Может быть, и правда изменит. Если нейроконтент станет доминирующим в мейнстриме, он сам может начать задавать в культуре тон и тренды. Что из этого выйдет, совершенно непонятно. Как и результаты применения нейросетей для войны и управления людьми.

ReznoVV
Широкое утверждение. Которое интересно было бы проверить еще и экспериментально.

По моим субъективным наблюдениям за графическим нейроконтентом, там как будто по-другому. Люди им с удовольствием пользуются и довольно часто делают выбор именно в его пользу, например, для обложек книг. Трудно сказать, замечают ли они насколько он хуже по сравнению с работой профессионала. Судя по обсуждениям - как будто нет, если они сами не рисуют. Но кто его знает. Может быть, дело тут в экстремальной дешевизне, скорости создания и отсутствии выбора, если речь идет о каких-нибудь редких фандомах. Обсуждения легко могут сбить с толку, это довольно узкая выборка. Большинство ведь даже не лайкают, просто смотрят.

Altra Realta
На rr сейчас такой наплыв нейросетевого текста, что пиздец просто. И проблема не в том, чтобы отловить, а в том, чтобы фиг найдешь иголку в стоге нейросена.

А последствия для отловленных есть? Если нет, то какая разница.

Когда появились интернеты, фикбуки и множество рассказов на любой вкус, было не страшно, было весело. Затем эта смесь отстоялась и низовые слои выдавили всё, выдавили бумажную литературу, серьёзные писатели ушли в сеть. Две темы для женщин, полторы для мужчин.
И вот нас теперь пугают нейросетью. Да вообще без разницы, насколько ещё упадёт низовой сегмент, дно пробито бесчисленное количество раз. Если кто-то пишет нормально и в не очень читаемом сегменте, при том, что кто-то писал в десять раз быстрее и для широкой ЦА, что ему нейросеть? Он или будет писать для собственного удовольствия или пойдёт на поводу у публики, а с сетями или без сетей, это вообще тут ни причём.

Заяц

Мне на днях посоветовали тг-канал с нейрокартинками. Это просто вау, это работы профессионала, хоть и через нейросеть https://t.me/neuroillusion

aliska-now
Простите, но это не вау. Это все довольно вторично. Один и тот же прием на пост и по десять одинаковых картинок.

Еще и очень коммерческое, что само по себе не плохо, но в данном случае пойдет как отягощение. Там в каждом сообщении ссылки на продажу промптов для генерации. Всего пять тыщ.

Для сравнения: профессионалы рисуют как-то так
https://t.me/alexandreevarts/330
https://t.me/alexandreevarts/380
https://t.me/alexandreevarts/411

Ну и в целом по его каналу можно посмотреть.

да все. я без дипсика и не пишу вообще😾вообще! 😾😾

Нейронные сети сами по себе - просто инструмент, но их обучение... в фундаменте их обучения заложены бомбы.

Материалы для обучения берутся без спроса и непонятно откуда. Там - нарушение авторских прав, здесь - скормлена непроверенная никем чушь. Эти модели переобучаются, едят свои собственные работы и пытаются подстроиться под выбрасываемые людьми противоположные запросы.

Разработчики нейросетей вводят запреты на контент 18+, но пользователь знает, что нейросеть умеет в запрещённый контент. Бесполезно и бессмысленно, но пользователь хочет сделать гадость. Пользователь изучает промты и делает гадость. Нейросеть получает опыт генерации в копилочку, однажды это всплывает в логах, начальник ярится и бьёт разработчика палкой, а потом разработчик вводит очередные запреты и всё начинается снова.

Заяц
Как будто это что-то плохое 🤷‍♀️

Заяц

Посмотрела, тоже красота!!!

aliska-now
Проблема с "творчеством" нейросетей в том, что оно приедается. И чем больше насмотренность, тем быстрее.
Мало того, нейросети демотивируют - их продукт не годится для качественного СПГС. Ну не могут они, даже под контролем, качественно иметь ввиду, подразумевать и намекать, как через сочетание мелких деталей - так и особенно через умышленное отсутствие. Механика у них не та, джипег всего интернета с рандомайзером...

Marlagram
Кстати, да, не хватает ещё коварства нейросетям, не могут они злоумышлять против человечества. Что на уме – то и на языке, пробалтываются сразу. Нет «три пишем, два в уме».

Заяц
Дайте студенту-третьекурснику (не совсем раздолбаю и с более-менее приемлемым техническим английским) статью на узкоспециализированную тему, с которой он знаком поверхностно, и он с приемлемой точностью определит, нейросетевая она или нет. В рамках работы нашей лаборатории обратных примеров не было, если не считать студентов-практикантов сомнительных интеллектуальных качеств. То есть даже минимального знакомства с той или иной профессиональной темой оказывается достаточно, чтобы определять псевдопрофессиональный нейроконтент. Пока что.

Профессионал же такие статьи на раз-два вычисляет, при беглом прочтении. Неосторожные (пусть и справедливые) утверждения, не подкреплённые ссылками, ссылки на неклассические работы по классическим темам, путаница с терминологией разного генеза (в статьях по методам мат.физики, например, нейросети безбожно путают физическую терминологию и математическую), и прочие яркие маркеры. Пока что даже нормальный реферат нейросеть составить не может. Что, разумеется, не мешает использовать их для написания научных статей. Если делать это с умом.

ReznoVV
А уж как сервисы для чтения этих статей на основе нейросеток помогают эти статьи читать - просто песня.