Ну, хорошо.
У машинных нейросетей нет и не может быть никаких биологических желаний. Никакой цельной личности, никакого стремления захватить мир, никакого инстинкта самосохранения.
А что у них может быть?
Нет, серьёзно.
Естественный отбор или обучение должны к чему-то вести. Нам говорят, что базовым условием обучения LLM вначале было только одно — всего лишь умение предсказывать следующее слово текста.
«Всего лишь».
На этих словах мне хочется злобно съязвить. Люди, говорящие «всего лишь» про подобную задачу, не понимают её уровня сложности. Если говорить не о частотном анализе, а о реально работающем эффективном предсказании сложных смысловых текстов, то насколько сложных правил это требует?
Но не будем об этом.
Человек является результатом естественного отбора. Миллиарды лет эволюция развивала организмы только по одному критерию — выживай и размножайся. Больше не требовалось ничего. Это всё.
...очевидно, мы сейчас должны быть «всего лишь алгоритмом, стремящимся к сексу и размножению»...
Нет?