Опять свалят вину на ИИ? Но это вина в принципе тупых проектировщиков.

И без ИИ случаев с автоматизацией хватало. Читал про то, как на какой-то американской системе для радиологического лечения рака пациенты периодически умирали. Оказалось, что там в системе была переменная, управляющая заслонкой для лучей, которая периодически переполнялась, и заслонка оказывалась открытой не в нужный момент. Просто программист «оптимизировал» переменную, поместив её в тип данных с меньшей разрядностью и не проверил возможность переполнения.