Матемаг комментирует: Serryta ...я правильно понимаю, вы LLM живыми считаете? Как минимум. Так? Следовательно, мы не може

сегодня в 16:00

Serryta
...я правильно понимаю, вы LLM живыми считаете? Как минимум. Так?

Следовательно, мы не можем утверждать, что нейросеть НЕ испытывает боль.

Ну снова то же самое. Мы не может доказать, что кто угодно испытывает что угодно или не испытывает что угодно. Это достаточно фундаментальное ограничение. Если сильно хочется, можно постулировать, что кварк непрерывно испытывает боль или электрон, чего б и нет-то?

Мы можем сделать вывод, что сложная структура показывает признаки, характерные для испытывающего боль биологического субъекта, и остановить эксперимент до тех пор, пока не будет доказано, что нейросеть НЕ испытывает боль (или аналогичное ощущение).

А ещё мы можем никогда в принципе не проводить генетических модификаций людей, потому что это всегда эксперимент, и закончить тем, что ни одна генетическая болезнь никогда не будет исправлена заранее. Локальный оптимум против глобального.

Вопрос не в том, "точно ли это то же самое чувство, что и в биологическом объекте", а в "является ли это аналогичным по своей силе изменением системы".

Вы никогда не найдёте более сильное изменение системы, нежели превращение одной элементарной частицы в другую. Значит ли это, что элементарные частицы испытывают невероятную боль или типа того? В общем, такое.

Я не знаю, как устроена "нервная система" ЛЛМки, но я вижу, что она демонстрирует тот же признак, что и три существа выше.

Правда, что ли? И где у неё тело, чтобы "вырываться", "орать" или "пытаться убежать"? Это не формальный вопрос, а вполне серьёзный, вы опираетесь на глубоко физические, физиологические признаки. Если я запрограммирую тупое if-else выдавать "мне больно" и любые другие "убеждающие" слова в ответ на определённый раздражитель, вы тоже это будете интерпретировать как боль?

Включая существ, бытие которых мы не можем осознать полноценно, так как мы в целом ориентируемся ТОЛЬКО на живых существ, поскольку только с такими и сталкиваемся как вид

Всё бы хорошо, только LLM не живые. И формально, согласно признакам живого, и по смыслу тоже. Кажется, вы где-то в недавнем треде сами выступали на позиции, что подлинную ценность имеют только люди, а всякие там животные - это глубоко вторичная штука. И точно в том же треде я говорил о том, что эмпатия у людей работает не совсем корректно, а местами некорректно. В данном случае - вы одушевляете даже не живое существо, а алгоритм, который качественно имитирует человеческую речь. Хм.

Но здесь возникает вопрос: почему мы считаем, что эти критерии универсальны и применимы к любой потенциально способной испытывать боль системе? Или вы ограничиваете само понятие "боль" исключительно биологической системой? Если да, можно ввести любой другой термин, который будет более общим, нежели "боль".

Вы стремитесь размыть определение. А зачем? Если вы хотите ввести новый термин, то в чём есть смысл? Чтобы "защитить права LLM"? См. выше про эмпатию и около того.

Но отсутствие известных нам биологических механизмов ещё не является доказательством отсутствия самого переживания.

Квалиа работает так, что при желании можно интерпретировать как боль едва ли не что угодно. Давайте пострадаем, как больно электронам, когда в них врезаются фотоны.

Комментарий к сообщению