 Ну, хорошо.
У машинных нейросетей нет и не может быть никаких биологических желаний. Никакой цельной личности, никакого стремления захватить мир, никакого инстинкта самосохранения. А что у них может быть? Нет, серьёзно. Естественный отбор или обучение должны к чему-то вести. Нам говорят, что базовым условием обучения LLM вначале было только одно — всего лишь умение предсказывать следующее слово текста. «Всего лишь». На этих словах мне хочется злобно съязвить. Люди, говорящие «всего лишь» про подобную задачу, не понимают её уровня сложности. Если говорить не о частотном анализе, а о реально работающем эффективном предсказании сложных смысловых текстов, то насколько сложных правил это требует? Но не будем об этом. Человек является результатом естественного отбора. Миллиарды лет эволюция развивала организмы только по одному критерию — выживай и размножайся. Больше не требовалось ничего. Это всё. ...очевидно, мы сейчас должны быть «всего лишь алгоритмом, стремящимся к сексу и размножению»... Нет? 12 июня в 00:47
4 |
 |
|
|
Ногa
А что значит "не соглашаться с теологией"? Отрицать все или отдельные рассуждения и построения в ней? Отрицать какую-либо полезность данных рассуждений и построений? Отрицать, что теология существует? Прошу уточнить. |
|
 |
|
|
На самом деле главное про теологию ты и так знаешь. Есть различие в том что ты уверен on priors (например эта религия в частности это чушь, потому что религии в общем это чушь) vs после того как ты рассмотрел свидетельства за и против (например эта религия в частности это чушь, потому что их догма делает такие-то заявления которые являются чушью) Юдковского тоже можно (и нужно) так игнорить потому что он делает заявления которые принадлежат к классу с плохой вероятностью быть истинными. А можно рассмотреть что именно говорит он и другие люди на эту тему и сместить свои суждения немного, в сторону от "это полная чушь" как ты думал on priors. (имхо конечно, вы можете прийти к другим выводам) |
|
|
|
|
Ногa
например эта религия в частности это чушь, потому что религии в общем это чушь Ну если бы твои данные ограничивались этим (без пояснения даже, почему чушь), то убеждённость была бы глупой. А если нет, то ты также знаешь и почему конкретная рассматриваемая религия тоже глупа (отличайся она сильно в главном, об этом скорее всего было бы известно, а впрочем, конкретные детали надо смотреть).Юдковского тоже можно (и нужно) так игнорить потому что он делает заявления которые принадлежат к классу с плохой вероятностью быть истинной Ага, это как Матемаг в соседней ветке доказывает, что ноль чёрных лебедей и надо им красную улицу. Перспективный подход. |
|
 |
|
|
Кьювентри
Пожалуй, и правда лучше обсуждать по существу, но я пас. Слишком много букв, слишком много мыслей, слишком много времени нужно потратить, а итог непонятен. Теоретики такие теоретики. Гладко было на бумаге. Воздушные замки очень красиво смотрятся, но только пока не пытаешься их построить в жизни. Кстати, я понял, что насчёт "сами не осилили, свалили на какую-то девочку" это моя ошибка. Во-первых, это был мальчик. Во-вторых, он написал только саммари. В-третьих, может быть им и на самом деле лень разбираться в том, что они написали, и они предпочитают вместо этого написать ещё десять новых программных статей, но для того чтобы это утверждать с уверенностью, надо хотя бы часть прочитать и немного погрузиться в это сообщество, а я не буду. |
|
|
|
|
Ага, это как Матемаг в соседней ветке доказывает, что ноль чёрных лебедей и надо им красную улицу. Перспективный подход. Я согласен что ноль чёрных лебедей это слишком мало чёрных лебедей. Но они редки и если рассматривать каждого лунатика который предсказывает что инопланетяне съедят наши мозги в день 13 ноября 2026 и строчит простыни текста на эту тему, то ты сожжешь все свое время впустую. Хз какой баланс должен быть, выбирает каждый для себя |
|
Включить тёмную тему
Популярное
VKontakte
WhatsApp
Telegram
Отключить рекламу
