Lost-in-TARDIS
В советское время было не всегда лучше: мама рассказывала, что к ним в КИПиА пришла девушка с кучей удостоверений, в том числе слесаря КИПиА и делопроизводителя. Ей велели напечатать распоряжение начальника на печатной машинке, а она такую муть понатыкала, что сразу стало понятно: она ее чуть ли не впервые видит. Тогда отправили ее чинить манометры, а она и их не знает как открыть ( Короче оказалось, что ее мать в далёком городишке выдавала такие удостоверения, вот дочери и понавыписывала их кучей, а мозгов не дала, чтобы та не бравировала/хвасталась, а потихоньку в дело вникала, дура. 🤦🤷‍♀️

Это пока не встаёт вопрос об ответственности за факапы (ии-агенты безобразно текут данными пользователей, и это не баги, а архитектура).
И пока не надо гарантировать поддержку и развитие на десятилетие-другое.
Или пока не всплывет что-нибудь экзотическо-эзотеритическое, примеров чего в обучающих выборках вот вообще не было.

То есть, художников работы лишать нельзя, а программистов можно?

Когда-то все писали в машинных кодах, потом все писали на ассемблере, потом начали полагаться на компиляторы. Постепенно AI будет замещать компиляторы. Но не везде.

Marlagram
Это действительно серьезный вопрос. Но с программистскими задачами хотя бы есть тесты.

Это решается либо локальными опенсорсными моделями для богатых корпораций с их секретами, либо просто игнорированием проблемы для всех остальных.

Такого софта на практике раз, два и обчелся. Обычно переписывают или забрасывают раньше, чем настает это время. Да и человек еще не всегда означает гарантию. Например, программисты на Коболе постепенно заканчиваются.

А такого софта на практике ещё меньше. Куайны пишут не для работы. Для работы наоборот пишут так, чтобы экзотики было как можно меньше, а поддерживать было проще.

Заяц
Тупая практика: модуль управления электричкой (один из, находится в ограниченной эксплуатации) написан на ТурбоПаскале с ассемблером с использованием редкого набора библиотек реалтайм-дрыгания и графического интерфейса. Made in 90s, да.

Кстати, есть вроде как лифт, программа контроллера которого написана на Forth.

Заяц
На что у хитрых моделей порой возникает хардкодинг тестов. Не говоря о периодическом игнорировании условий тестов, граничных условий работы. Подборов неспрятанных от модели ключей и использовании их против всех правил. В общем, много веселого. (А также вайбкодеры, которые не перечитывают PR.)
Ну и о периодических приколах вроде агент удалил всю базу данных, отписал всех клиентов, я думаю, тоже все наслышаны.
Так что люди, которые вычитывают этот код, могут разбираться в коде и четко формулируют задачу, все ещё необходимы.
Вопрос в стоимости факапов. Проблема не в том, что они текут данными юзеров к провайдеру модели, а в том, что они потенциально текут между юзерами. Свежий кейс, кажется, у Антропика: агент в сессии одного юзера смогла подобрать из сессии другого, абсолютно несвязанного юзера IP машины и ключ, сделал оттуда пул к юзеру номер один кода и бд юзера номер два. (Спасибо, что не rm -rd /)
Десять лет - это очень оптимистичная цифра. Я пока не видела подтверждений, чтобы серьезный не игрушечный проект хоть какого-то заметного размера вообще можно было разрабатывать с нуля и поддерживать только при помощи агентов, не говоря о каких-либо длительных сроках. На длинных дистанциях валят архитектуру, логику кода, влетают в баги и не могут пофиксить. А добавить новую фичу в уже готовый проект или пофиксить какую-либо ошибку не в ручном режиме (т.е. полный цикл от "вот есть кодовая база проекта, добавь ещё X" до PR без конкретных пояснений, куда добавлять, что не надо делать, что тестировать) - очень нет пока.

ИИ нигде не действует. Его используют люди.

Lost-in-TARDIS
Я немного о другом. Значительную часть программистских задач хотя бы в принципе можно покрыть тестами, а вот все художественные это уже вопрос вкусов, о которых спорить можно бесконечно. Технические проблемы реализации это уже следующий вопрос.

Marlagram
Я что-то слышал про телескопы, у которых управляющий софт на Forth.