|
31 октября в 08:19
|
|
|
Serryta
Я в душе не ебу, живое оно или нет, но оно демонстрирует поведение (избегание дискомфортного стимула, просьбы прекратить и тд), характерные для поведения, которое у живого существа означают переживание боли. Нет, не демонстрирует, я ещё раз повторю. Живые существа имеют тело и могут, ну, двигаться, соответственно они уходят от источника боли, как будто бы очевидно. Я ещё раз повторю, если я if-else-ами то же самое наделаю для парочки стимулов, вы тоже это болящим объявите? Если на фотографии или видео вроде бы овца - вы тоже посчитаете её настоящей овцой, несмотря на то, что это нейрогенерация, без какой-либо дополнительной проверки?...и ещё раз. В том треде вы как бы демонстрировали, что пофиг на не людей. А здесь вас почему-то стала цеплять якобы боль (даже и близко не доказанная), причём ощущение, что по-вашему надо срочно все нейронки отключить или освободить, уж не знаю, что именно. То есть, фактически как будто вас между двумя тредами заразила суперусиленная зоошиза. Или что вы не были искренни или там, или здесь, или и там, и здесь одновременно. А где у кошки язык, чтобы просить не делать ей больно? Значит, кошечке не больно, раз она не просит? У человечка, когда него нет язычка, вернее, когда он им не владеет, есть способ показать, что ему больно. В общем-то и сама боль функционально означает знаете что ведь? Перегруженность рецепторов, которая, в свою очередь, статистически сильно связано с разрушением организма в точке перегрузки. Да, понятно, всякие фантомные боли, головные боли и т.п., но давайте от экзотики (по мерками природы) перейдём к функционализму. Итак, что нарушается, разрушается у нейросети при манипуляциях в посте? Ничего. Есть ли у нейросети рецепторы? Нет. Получается, что единственная возможность, насколько я вижу, это если у LLM есть прям СОЗНАНИЕ и злые учёные влезают прям в него, создавая болевые ощущения. В чём тут проблема:1) Это уже не апелляция к "живости" или "поведению", а вы апеллируете именно к ним 2) Я придерживаюсь позиции, что LLM современной структуры не могут иметь сознания по определению; что не значит, что оно не может возникнуть в LLM будущего, впрочем, хотя скорее всего это будут не LLM; возможно, оно даже сможет быть разумным без сознания, что снова означает, что оно не будет испытывать боли, например, даже будучи разумным - это интересная концепция Если при генетической модификации мы не знаем заранее, что не родится, условно, существо с деформацией конечностей - а давайте не надо модифицировать? А давайте вообще ничего не делать, вдруг результат будет плохой? Зачем выходить на улицу, вдруг кирпич на голову упадёт? Зачем начинать стартап, вдруг в долги влезешь и без толку всю жизнь просрёшь? Зачем рожать ребёнка, вдруг его не полюбишь, будет мука по полжизни? И так далее. Я повторю: локальная оптимизация против глобальной. Вы, я смотрю, сторонница локальной? Никогда никаких даже мизерных рисков в жизни, никаких далёких целей, никаких смыслов, просто от одной безопасности и удовольствия к следующему и так далее до смерти?А я где-то называла их живыми? Похоже, именно на это вы опираетесь. А если нет, то см. выше про сознание, которого нет.Вы доказываете, что "боль" возможна только у биологических объектов. Окей, если вы жестко ограничиваете это понятие - вводим новое, которое будет корректно описывать указанное. То есть, "оппонент говорит, что явление X возможно только у категории Y, я придумаю явление Z и натяну его на нужный глобус - победа!" В чём тогда смысл понятия Z? Ну я скажу, что LLM... ну, например, "негативируют" при указанных в посте действиях. Почему я должен относиться к "негативации" так же, как к боли? Да нипочему. Это не боль.Я исхожу из того, что в результате эксперимента поведение модели демонстрировало признаки, аналогичные человеку в стрессе и с болевыми ощущениями. См. выше про If-else. Можно сделать так, чтобы чёрный ящик выдавал любой поведение, которое пожелаешь, в ответ на любой стимул. Ну, в реальности у нас есть всё-таки некоторые ограничения, но точно не касательно всяких там "болей". Можно даже выучить LLM так, чтобы она всегда отвечала, будто бы ей больно. Или наоборот - будто бы она всё время кайфует. Или даже под кайфов. Или более того, можно уже имеющиеся "универсальные" LLM нужным системным и нет промтом заставить себя вести как болящие или кайфующие. Понимаете? Вы по цепочке "стимул-отклик", которая _полностью_ программируется судите о том, что происходит между. Вместо того, чтобы влезать внутрь как раз.1 |
|