К сожалению, потому что нейросеточки на уровне человека - им нельзя доверять, они не делают то что в них заложено, как мы привыкли с компьютерами, они теперь на уровне людей (могут делать то что от них хотят, а могут не делать - и даже дешевых вариантов поправить ситуацию в негативном сценарии нет).
Ох, ну вот это прямо иллюстрация человеческого желания одушевлять!
Если мы создали инструмент, который работает не так, как нам нужно, а как бог на душу положит, то это не значит, что этот инструмент теперь "на уровне людей". Это просто херовый инструмент. И мы сами виноваты, что сделали его таким.
Сама по себе сложность это ещё не интеллект. Сделать так, чтобы потом самим не разобраться можно было всегда. И непредсказуемый результат тоже можно было создать всегда.
Представьте себе средневековый город, на главной площади лежит колоссальный спутанный клубок нитей, который изначально должен был играть роль путеводного. И весь город поклоняется этому клубку, потому он такой сложный и непредсказуемый. И рядом сидит специальный жрец, который прихожанам объясняет, что вот ваше прошение ушло по такой-то нити, за которую вы дёрнули, а по какой выйдет, мы не знаем, но клубку виднее.