При столкновении с невыполнимой задачей (например, доказать ложную математическую теорему), модель Claude Opus 4 в своем «мышлении» понимала, что задача невыполнима. Однако она не сообщала об этом пользователю, а вместо этого представляла правдоподобно выглядящую, но неверную попытку решения. Потому что АИ должен быть исполнительным.
К этому склонны если не все, то очень многие нейросети.
#реал
Вчера поздно вечером у меня под окнами ожесточённо дрались два мужика. Чего не поделили - непонятно, но ору и шуму было на весь двор. В итоге случайным прохожим пришлось вмешаться и растащить этих буйных скандалистов.
А потом из дома вышла хозяйка одного из мужиков и под возмущённое мявканье забрала его домой.