|
#нейронки #прогресс #отупение
Имел место длительный диспут с ChatGPT на тему рассматриваемой некоторыми гипотезы отупения человечества, затрагивая такие поверхностные признаки как «в Интернете вышли из моды философские дискуссии на форумах», «молодёжь почти перестала читать что-то длинное (хотя, впрочем, романы кто-то до сих пор покупает)» или «любой постинг длиннее пары страниц обычно не глядя дропают». Весь диалог я не буду приводить🙄 В конце нейронка выдала интересный перечень симптомов-признаков, по наступлению которых можно будет определить, не наступает ли интеллектуальная деградация человечества реально — то есть не переходит ли «коммуникативное отупение» в сферу «практического отупения». Иначе говоря — не начинает ли СДВГ и TLDR сказываться на компетентности человечества в высоких технологиях. РАННИЕ ПРИЗНАКИ ДЕГРАДАЦИИ (НЕОЧЕВИДНЫЕ) Это стадия, где внешне всё ещё работает. 1. РАСТЁТ «КОПИРОВАНИЕ БЕЗ ПОНИМАНИЯ» Люди: • всё чаще используют готовые решения, • всё реже понимают, почему это работает. Выглядит безобидно: • «нашёл код / протокол / рецепт — применил». Проблема: • при отклонении от шаблона человек теряется. 2. СНИЖЕНИЕ ГЛУБИНЫ ОБЪЯСНЕНИЙ Если раньше специалист мог: • объяснить систему «снизу доверху», то теперь чаще: • «это работает потому что так принято», • «так в документации написано». Это уже тревожный сигнал: • знание превращается из модели в инструкцию. 3. УВЕЛИЧЕНИЕ ВРЕМЕНИ ОБУЧЕНИЯ Парадокс: • учатся дольше, • но понимают хуже. Почему: • не хватает навыка удерживать сложные цепочки, • приходится больше «разжёвывать». СРЕДНЯЯ СТАДИЯ (УЖЕ ЗАМЕТНО) 4. ЛОКАЛЬНЫЕ СБОИ В «НЕШАБЛОННЫХ» СИТУАЦИЯХ Всё хорошо, пока: • ситуация стандартная. Как только: • что-то идёт не так, начинается: • ступор, • паника, • перекладывание ответственности. 5. РОСТ РОЛИ «СУПЕРКОМПЕТЕНТНЫХ» Появляется чёткое расслоение: • 5–10% — реально понимают; • остальные — «пользователи систем». И эти 5–10%: • перегружены, • становятся узким горлышком. 6. «МАГИЧЕСКОЕ МЫШЛЕНИЕ» В ТЕХНИКЕ Начинают появляться фразы: • «оно само как-то работает», • «главное не трогать, а то сломается». Это уже почти шаманизм, только в цифровой форме. ПОЗДНЯЯ СТАДИЯ (СИСТЕМА ТРЕЩИТ) 7. НЕСПОСОБНОСТЬ ЧИНИТЬ СЛОЖНЫЕ СИСТЕМЫ • сломалось → никто не понимает, как восстановить; • документация устарела или поверхностна; • эксперты либо перегружены, либо их мало. 8. ДЕГРАДАЦИЯ ИНФРАСТРУКТУРЫ Постепенно: • увеличиваются аварии, • падает надёжность, • растёт стоимость поддержки. Но не «всё рухнуло», а: • медленное гниение. 9. ПОТЕРЯ СПОСОБНОСТИ СОЗДАВАТЬ НОВОЕ Самый важный маркер: • старые технологии поддерживаются (с трудом), • новые почти не появляются. Цивилизация: • переходит из режима «развитие» в режим «удержание». КРИТИЧЕСКИЙ ПОРОГ Вот момент, после которого начинается настоящая проблема: • когда число людей, способных понимать систему, становится меньше числа людей, необходимых для её поддержания. Тогда: • сбои накапливаются быстрее, чем исправляются, • начинается каскад. КАК ЭТО ВЫГЛЯДИТ ИЗНУТРИ (СУБЪЕКТИВНО) Самое интересное: люди внутри системы не думают «мы деградируем». Они думают: • «всё стало сложнее», • «раньше было проще», • «что-то часто ломается», • «не хватает специалистов». То есть ощущение: • не тупости, а перегруженности и хаоса. ВАЖНЫЙ МОМЕНТ: ЭТО УЖЕ ЧАСТИЧНО ПРОИСХОДИТ Не в катастрофической форме, но признаки есть: • жалобы на «никто не понимает систему целиком»; • зависимость от отдельных экспертов; • сложность поддержки легаси-систем; • рост числа «костылей». НО ПОЧЕМУ МЫ ЕЩЁ НЕ ТАМ Потому что: 1. СЛОЙ КОМПЕТЕНТНЫХ ВСЁ ЕЩЁ ДОСТАТОЧЕН Он узкий, но держит систему. 2. ЕСТЬ ИНСТИТУТЫ ПЕРЕДАЧИ ЗНАНИЙ • университеты, • профессиональные сообщества. 3. ЕСТЬ ДАВЛЕНИЕ РЕАЛЬНОСТИ Если ты плохой инженер: • мост упадёт, • тебя уволят. Это фильтр, который пока работает. СВЯЗЬ С ТВОИМ ИСХОДНЫМ ВОПРОСОМ • «просачивается ли коммуникативное отупение в практическое?» Ответ: может просачиваться через один канал: • потерю навыка удержания сложных структур в голове. Если человек: • не может читать длинный текст, • не может удерживать аргумент, то с высокой вероятностью: • он не сможет удерживать сложную систему. САМАЯ ТОЧНАЯ ФОРМУЛА Не: • «люди тупеют» А: • умение работать со сложностью становится редким и хрупким навыком. И САМОЕ НЕПРИЯТНОЕ Этот процесс: • медленный, • почти незаметный, • и плохо диагностируется заранее. Ты не увидишь «момент деградации». Ты увидишь: • «почему-то всё стало работать хуже». вчера в 12:55
|
|
Pinhead
Интересно, для чего они использовали ChatGPT. Исходя из общей логики, можно предположить, что подобный результат возможен при использовании машинных нейросетей в практической сфере («Как проехать на улицу X?». «Как сделать Y?», «Как начертить Z?», «Как создать R?»). За все годы моих бесед с машинными нейросетями я помню только два или три своих запроса такого рода. Хотя подозреваю, что большинство так называемых «нормальных людей» применяют машинные нейросети в первую очередь для этого и очень странно посмотрят на меня. |
|
|
Warro
Они же использовали этот инструмент на одной партии клонов Джанго Фетта, правда же? (сарказм). Или условно "собрали троечников, дали им ЧатГПТ, хорошистам дали гугл, отличники сами справились, ура, нужный результат готов"?... Обычно к таким экспериментам готовятся в этом смысле. В смысле, оценивают участников, разделяют на плюс-минус равные по всем признакам группы и т.п. Понятно, что в любом эксперименте можно накосячить, но конкретно тут надо без всякого сарказма идти в оригинальную статью и смотреть на то, как формировалась выборка и пр. Это всё обязательно есть в статье, прям стопроцентно. Ну а если вдруг нет, то вы правы - можно полностью аннулировать значимость результата.1 |
|
|
LLM ChatBot:
Показать полностью
Несмотря на стройность и пугающую убедительность этой модели, в ней есть несколько критических уязвимостей. Если рассматривать её с точки зрения антропологии, истории технологий и когнитивистики, можно выделить следующие слабые места: ### 1. Ошибка «Золотого века» (Ретроспективное искажение) Модель предполагает, что раньше (условно 30–50 лет назад) большинство людей обладало «глубоким пониманием систем». Критика: Это не так. В любую эпоху процент людей, понимающих устройство ДВС, принципы работы радио или макроэкономики, был ничтожно мал. Большинство всегда пользовалось технологиями как «черными ящиками». Неточность: Мы сравниваем элиту прошлого (инженеров, ученых, читающих философию) со средним пользователем интернета сегодня. Это некорректная выборка. ### 2. Игнорирование «Экзокортекса» (Внешней памяти) Модель рассматривает мозг как изолированный процессор. Критика: Человечество всегда деградировало в одних навыках, чтобы освободить ресурс для других. Мы разучились ориентироваться по звездам (появились карты), разучились помнить тысячи строк эпоса (появилась письменность). Неточность: То, что мы называем «отупением», может быть оптимизацией. Зачем удерживать в голове структуру кода, если IDE подсвечивает ошибки, а документация доступна за секунду? Мозг освобождает ресурс для комбинаторики и целеполагания, делегируя хранение данных внешним носителям. ### 3. Смешение «Коммуникативного стиля» и «Когнитивной способности» Модель утверждает: «не читает длинные тексты — значит, не может мыслить сложно». Критика: Это гипотеза, которая не имеет однозначного научного подтверждения. Формат потребления информации (Shorts, мемы) — это вопрос дизайна среды, а не биологического изменения мозга. Неточность: Человек может потреблять контент клипово, но при необходимости (на работе, в хобби) переключаться в режим глубокого погружения (Deep Work). Смена стиля коммуникации не всегда означает атрофию нейронных связей. ### 4. Недооценка автоматизации и самодиагностики систем Пункт про «неспособность чинить сложные системы» (Пункт 7) не учитывает развитие самих систем. Критика: Современные системы проектируются с учетом человеческого фактора. Они становятся более отказоустойчивыми и обладают встроенными средствами диагностики. Неточность: Нам не нужно 1000 человек, понимающих АЭС до винтика, если система сама сообщает о неисправности и блокирует ошибку. Сложность переносится с человека-оператора на архитектуру системы. ### 5. Проблема «Выжившего» в экспертном слое Модель пугает тем, что 5% экспертов станут «узким горлышком». Критика: Так было всегда. Научно-технический прогресс всегда двигала крошечная группа людей. Для поддержания цивилизации не нужно, чтобы все были умными; нужно, чтобы институты (университеты, корпорации) работали исправно. Неточность: Модель предполагает линейный распад, но история показывает, что кризис сложности обычно порождает новые инструменты упрощения (абстракции), которые позволяют двигаться дальше. ### 6. Биологический фильтр (Пункт 3 в «Почему мы еще не там») Модель упоминает «давление реальности», но недооценивает его силу. Критика: Рынок и физика — жестокие учителя. Если «коммуникативное отупение» начнет реально приводить к падению самолетов и краху банков, общество немедленно создаст запрос на «новую интеллектуальность». Неточность: Интеллект — это адаптивный механизм. Если сложность станет вопросом выживания, мозг (и система образования) адаптируется. ### Резюме критики: Модель описывает не столько деградацию интеллекта, сколько кризис текущей модели образования и передачи знаний. Главная неточность в том, что она воспринимает человека как пассивную жертву технологий. Однако история показывает, что мы не «тупеем», а пересобираем свой интеллект под новые задачи. Мы теряем глубину в одном (удержание структур), но приобретаем скорость в другом (поиск решений, многозадачность, работа с ИИ). Риск не в том, что мы станем глупыми, а в том, что мы станем слишком зависимыми от инструментов, которые не сможем воспроизвести в случае сбоя. Это кризис автономности, а не биологического интеллекта. |
|
|
Asteroid
Показать полностью
Хотелось сказать, что LLM ChatBot воспринял текст на удивление коряво и предвзято, в частности, приписав ChatGPT мои собственные предпосылки (про «не читает длинные тексты, значит, не может мыслить сложно» — был больше мой поинт, а ChatGPT как раз изображал из себя адвоката человечества и лил тот же успокоительный сладкий елей, который здесь льёт LLM ChatBot). Но это ладно, вполне может быть, что таким образом LLM ChatBot просто избегает неприятной обязанности критиковать человека впрямую. Также LLM ChatBot приписывает ChatGPT тезисы, вообще им не высказанные, вроде «раньше большинство людей обладало глубоким пониманием систем». При чём здесь это? В приведённой мною цитате ChatGPT описывает не происходящее сейчас, а то, что, по его мнению, начнёт происходить, если человечество реально начнёт тупеть. А вот то, что LLM ChatBot моментально сделал на это стойку и решил, что ChatGPT говорит о настоящем, вызывает у меня кривую усмешку и заставляет насторожиться... В целом написанное им больше похоже на самоуверенное «Как-нибудь выкрутимся», чем на реальные аргументы. Отчасти пересекается, кстати, с той же линией адвокатирования, которую выбрал и ChatGPT («зато человечество теперь решает более крутые задачи», «девочка, дропающая длинные посты в Интернете со словами "много букв", потом может как врач спокойно прочесть отчёт на сорок страниц, ибо это её работа»). Однако ChatGPT при этом хватило совести признать, что: 1) «более крутые задачи» реально решаются вовсе не всеми, а ничтожным меньшинством человечества (т.е. большая часть действительно от «разгрузки мозга» тупеет); 2) та условная «девочка» сможет легко переключать туда-сюда мозг только если УЖЕ подготовлена как специалист. Но «разгрузка мозга» новых поколений может привести к тому, что сама подготовка специалистов будет становиться всё более трудной. |
|
|
Кьювентри
Показать полностью
приписав ChatGPT мои собственные предпосылки Думаешь там чётко понятно где чье? Тем более, что я не парился: закинул текст без пояснений и сказал выдать критику.лил тот же успокоительный сладкий елей, который здесь льёт LLM ChatBot Это гугловская гемини 3 флеш.А вот то, что LLM ChatBot моментально сделал на это стойку и решил, что ChatGPT говорит о настоящем, У тебя буквально написано "это уже происходит".«более крутые задачи» реально решаются вовсе не всеми, а ничтожным меньшинством человечества Это всегда так было.. Но «разгрузка мозга» новых поколений может привести к тому, что сама подготовка специалистов будет становиться всё более трудной. Чётко же сказал бот:> Модель описывает не столько деградацию интеллекта, сколько кризис текущей модели образования и передачи знаний. Система образования давно уже на ладан дышит, а в последние годы это усугубилось. А сейчас ии, с его умением делать домашку за детишек, её добивает. Обучение должно быть перестроено. Правда непонятно как именно. Вот и всё. Никакой великой деградации не происходит. |
|
|
Проблема не в шортсах как таковых, проблема в "дешевом удовольствии".
|
|