Вообще странно читать человека, который воспринимает нейросеть всерьез, как личность с именем, а не как инструмент.
Это именно что математический инструмент, обученный на трендовых стереотипах и открытых (плюс-минус) данных, он открывает возможности сокращать ручной труд и малоинтеллектуальную шаблонную деятельность. Кто против, извольте по справедливости плюнуть в сторону той же "заплатки" в фотошопе, это примерно то же самое, только сильно ниже уровнем.

Творческую или производственную конкретную задачу, особенно в новой области, по которой мало данных, нейросеть в большинстве случаев не воплотит и не реализует. Да, она способна предложить варианты решения, но они будут в должной мере шаблонными, и выбор останется за человеком и на его ответственности. Да и вообще наличие нового инструмента в идеале должно побуждать повышать свой уровень, а не презирать прогресс и гордиться своим наскальным камушком, высокомерно отворачиваясь от компьютера.

Есть опасность того, что наша система не будет успевать подстроиться, и как минимум одно поколение вырастет, изрядно избаловавшись на готовой домашке и решениях стандартных задачек и т.д. Другая опасность в коммерческих барыгах, которые будут внедрять непроверенные сетки всюду, включая государственную систему, и кто-нибудь обязательно от этого пострадает.
Но всё это в целом укладывается в процесс внедрения нового элемента прогресса в человеческую цивилизацию. "Сроду такого не было, и вот опять!" (с)