Матемаг
Да в том-то и дело, что не по набору правил. Так марковские алгоритмы работают. А как именно работает сетка, то полностью не понимает никто. Недаром сейчас куча исследований типа "какой длины могут быть логические цепочки в рассуждениях сетки?" и "если мы вот так поменяем датасет, то стабильность результатов вырастает!" (причем, оказывается, что примеры неправильных решений и ошибок не менее важны, чем правильных).

А я и говорю: не бывает не по шаблонам. При этом, шаблонов у сетки гораздо больше, чем у людей. Просто потому что.

А как выяснить: может ли что-то в чёрном ящике в абстракции?
Я тебе так скажу: каждый раз нейронка доказывает, что может решить задачи, которые "под силу только людям, потому что они в отличии от сеток умеют думать". И каждый раз нейроскептики говорят: "ну, это не считается. А вот эту логическую задачку ии точно не сможет решить!". Сетка решает, причем, без всякого предварительного натаскивания, и тогда нейроскептики придумывают новую "непреодолимую" линию .
Читал я забавную статью про такого чувака, причем, он сам разработчиком работал (вроде бы даже в опен аи, и ушел после очередного своего провала).

Всё просто же. Придумай задачку на вот это, и посмотри, как она решит.
Я тебе скажу больше: большинство людей не может в вот это. Потому что их шаблоны мышления примитивны.