Заяц
На что у хитрых моделей порой возникает хардкодинг тестов. Не говоря о периодическом игнорировании условий тестов, граничных условий работы. Подборов неспрятанных от модели ключей и использовании их против всех правил. В общем, много веселого. (А также вайбкодеры, которые не перечитывают PR.)
Ну и о периодических приколах вроде агент удалил всю базу данных, отписал всех клиентов, я думаю, тоже все наслышаны.
Так что люди, которые вычитывают этот код, могут разбираться в коде и четко формулируют задачу, все ещё необходимы.
Вопрос в стоимости факапов. Проблема не в том, что они текут данными юзеров к провайдеру модели, а в том, что они потенциально текут между юзерами. Свежий кейс, кажется, у Антропика: агент в сессии одного юзера смогла подобрать из сессии другого, абсолютно несвязанного юзера IP машины и ключ, сделал оттуда пул к юзеру номер один кода и бд юзера номер два. (Спасибо, что не rm -rd /)
Десять лет - это очень оптимистичная цифра. Я пока не видела подтверждений, чтобы серьезный не игрушечный проект хоть какого-то заметного размера вообще можно было разрабатывать с нуля и поддерживать только при помощи агентов, не говоря о каких-либо длительных сроках. На длинных дистанциях валят архитектуру, логику кода, влетают в баги и не могут пофиксить. А добавить новую фичу в уже готовый проект или пофиксить какую-либо ошибку не в ручном режиме (т.е. полный цикл от "вот есть кодовая база проекта, добавь ещё X" до PR без конкретных пояснений, куда добавлять, что не надо делать, что тестировать) - очень нет пока.