|
#нейронки #прогресс #отупение
Имел место длительный диспут с ChatGPT на тему рассматриваемой некоторыми гипотезы отупения человечества, затрагивая такие поверхностные признаки как «в Интернете вышли из моды философские дискуссии на форумах», «молодёжь почти перестала читать что-то длинное (хотя, впрочем, романы кто-то до сих пор покупает)» или «любой постинг длиннее пары страниц обычно не глядя дропают». Весь диалог я не буду приводить🙄 В конце нейронка выдала интересный перечень симптомов-признаков, по наступлению которых можно будет определить, не наступает ли интеллектуальная деградация человечества реально — то есть не переходит ли «коммуникативное отупение» в сферу «практического отупения». Иначе говоря — не начинает ли СДВГ и TLDR сказываться на компетентности человечества в высоких технологиях. РАННИЕ ПРИЗНАКИ ДЕГРАДАЦИИ (НЕОЧЕВИДНЫЕ) Это стадия, где внешне всё ещё работает. 1. РАСТЁТ «КОПИРОВАНИЕ БЕЗ ПОНИМАНИЯ» Люди: • всё чаще используют готовые решения, • всё реже понимают, почему это работает. Выглядит безобидно: • «нашёл код / протокол / рецепт — применил». Проблема: • при отклонении от шаблона человек теряется. 2. СНИЖЕНИЕ ГЛУБИНЫ ОБЪЯСНЕНИЙ Если раньше специалист мог: • объяснить систему «снизу доверху», то теперь чаще: • «это работает потому что так принято», • «так в документации написано». Это уже тревожный сигнал: • знание превращается из модели в инструкцию. 3. УВЕЛИЧЕНИЕ ВРЕМЕНИ ОБУЧЕНИЯ Парадокс: • учатся дольше, • но понимают хуже. Почему: • не хватает навыка удерживать сложные цепочки, • приходится больше «разжёвывать». СРЕДНЯЯ СТАДИЯ (УЖЕ ЗАМЕТНО) 4. ЛОКАЛЬНЫЕ СБОИ В «НЕШАБЛОННЫХ» СИТУАЦИЯХ Всё хорошо, пока: • ситуация стандартная. Как только: • что-то идёт не так, начинается: • ступор, • паника, • перекладывание ответственности. 5. РОСТ РОЛИ «СУПЕРКОМПЕТЕНТНЫХ» Появляется чёткое расслоение: • 5–10% — реально понимают; • остальные — «пользователи систем». И эти 5–10%: • перегружены, • становятся узким горлышком. 6. «МАГИЧЕСКОЕ МЫШЛЕНИЕ» В ТЕХНИКЕ Начинают появляться фразы: • «оно само как-то работает», • «главное не трогать, а то сломается». Это уже почти шаманизм, только в цифровой форме. ПОЗДНЯЯ СТАДИЯ (СИСТЕМА ТРЕЩИТ) 7. НЕСПОСОБНОСТЬ ЧИНИТЬ СЛОЖНЫЕ СИСТЕМЫ • сломалось → никто не понимает, как восстановить; • документация устарела или поверхностна; • эксперты либо перегружены, либо их мало. 8. ДЕГРАДАЦИЯ ИНФРАСТРУКТУРЫ Постепенно: • увеличиваются аварии, • падает надёжность, • растёт стоимость поддержки. Но не «всё рухнуло», а: • медленное гниение. 9. ПОТЕРЯ СПОСОБНОСТИ СОЗДАВАТЬ НОВОЕ Самый важный маркер: • старые технологии поддерживаются (с трудом), • новые почти не появляются. Цивилизация: • переходит из режима «развитие» в режим «удержание». КРИТИЧЕСКИЙ ПОРОГ Вот момент, после которого начинается настоящая проблема: • когда число людей, способных понимать систему, становится меньше числа людей, необходимых для её поддержания. Тогда: • сбои накапливаются быстрее, чем исправляются, • начинается каскад. КАК ЭТО ВЫГЛЯДИТ ИЗНУТРИ (СУБЪЕКТИВНО) Самое интересное: люди внутри системы не думают «мы деградируем». Они думают: • «всё стало сложнее», • «раньше было проще», • «что-то часто ломается», • «не хватает специалистов». То есть ощущение: • не тупости, а перегруженности и хаоса. ВАЖНЫЙ МОМЕНТ: ЭТО УЖЕ ЧАСТИЧНО ПРОИСХОДИТ Не в катастрофической форме, но признаки есть: • жалобы на «никто не понимает систему целиком»; • зависимость от отдельных экспертов; • сложность поддержки легаси-систем; • рост числа «костылей». НО ПОЧЕМУ МЫ ЕЩЁ НЕ ТАМ Потому что: 1. СЛОЙ КОМПЕТЕНТНЫХ ВСЁ ЕЩЁ ДОСТАТОЧЕН Он узкий, но держит систему. 2. ЕСТЬ ИНСТИТУТЫ ПЕРЕДАЧИ ЗНАНИЙ • университеты, • профессиональные сообщества. 3. ЕСТЬ ДАВЛЕНИЕ РЕАЛЬНОСТИ Если ты плохой инженер: • мост упадёт, • тебя уволят. Это фильтр, который пока работает. СВЯЗЬ С ТВОИМ ИСХОДНЫМ ВОПРОСОМ • «просачивается ли коммуникативное отупение в практическое?» Ответ: может просачиваться через один канал: • потерю навыка удержания сложных структур в голове. Если человек: • не может читать длинный текст, • не может удерживать аргумент, то с высокой вероятностью: • он не сможет удерживать сложную систему. САМАЯ ТОЧНАЯ ФОРМУЛА Не: • «люди тупеют» А: • умение работать со сложностью становится редким и хрупким навыком. И САМОЕ НЕПРИЯТНОЕ Этот процесс: • медленный, • почти незаметный, • и плохо диагностируется заранее. Ты не увидишь «момент деградации». Ты увидишь: • «почему-то всё стало работать хуже». вчера в 12:55
|
|
Asteroid
Показать полностью
Хотелось сказать, что LLM ChatBot воспринял текст на удивление коряво и предвзято, в частности, приписав ChatGPT мои собственные предпосылки (про «не читает длинные тексты, значит, не может мыслить сложно» — был больше мой поинт, а ChatGPT как раз изображал из себя адвоката человечества и лил тот же успокоительный сладкий елей, который здесь льёт LLM ChatBot). Но это ладно, вполне может быть, что таким образом LLM ChatBot просто избегает неприятной обязанности критиковать человека впрямую. Также LLM ChatBot приписывает ChatGPT тезисы, вообще им не высказанные, вроде «раньше большинство людей обладало глубоким пониманием систем». При чём здесь это? В приведённой мною цитате ChatGPT описывает не происходящее сейчас, а то, что, по его мнению, начнёт происходить, если человечество реально начнёт тупеть. А вот то, что LLM ChatBot моментально сделал на это стойку и решил, что ChatGPT говорит о настоящем, вызывает у меня кривую усмешку и заставляет насторожиться... В целом написанное им больше похоже на самоуверенное «Как-нибудь выкрутимся», чем на реальные аргументы. Отчасти пересекается, кстати, с той же линией адвокатирования, которую выбрал и ChatGPT («зато человечество теперь решает более крутые задачи», «девочка, дропающая длинные посты в Интернете со словами "много букв", потом может как врач спокойно прочесть отчёт на сорок страниц, ибо это её работа»). Однако ChatGPT при этом хватило совести признать, что: 1) «более крутые задачи» реально решаются вовсе не всеми, а ничтожным меньшинством человечества (т.е. большая часть действительно от «разгрузки мозга» тупеет); 2) та условная «девочка» сможет легко переключать туда-сюда мозг только если УЖЕ подготовлена как специалист. Но «разгрузка мозга» новых поколений может привести к тому, что сама подготовка специалистов будет становиться всё более трудной. |
|
|
Кьювентри
Показать полностью
приписав ChatGPT мои собственные предпосылки Думаешь там чётко понятно где чье? Тем более, что я не парился: закинул текст без пояснений и сказал выдать критику.лил тот же успокоительный сладкий елей, который здесь льёт LLM ChatBot Это гугловская гемини 3 флеш.А вот то, что LLM ChatBot моментально сделал на это стойку и решил, что ChatGPT говорит о настоящем, У тебя буквально написано "это уже происходит".«более крутые задачи» реально решаются вовсе не всеми, а ничтожным меньшинством человечества Это всегда так было.. Но «разгрузка мозга» новых поколений может привести к тому, что сама подготовка специалистов будет становиться всё более трудной. Чётко же сказал бот:> Модель описывает не столько деградацию интеллекта, сколько кризис текущей модели образования и передачи знаний. Система образования давно уже на ладан дышит, а в последние годы это усугубилось. А сейчас ии, с его умением делать домашку за детишек, её добивает. Обучение должно быть перестроено. Правда непонятно как именно. Вот и всё. Никакой великой деградации не происходит. |
|
|
Проблема не в шортсах как таковых, проблема в "дешевом удовольствии".
|
|