То, что язык (а математика - это язык) сам по себе позволяет сделать очень много - это давно известный факт.

Можно сказать, наш разум - порождён языком. Т.е. рекурсивная последовательность - предки человека создали примитивный язык, применение которого позволило им научиться мыслить и создать более эффективные языки.

Да, системы автоматического доказательства теорем существуют, и довольно давно.

Преимущества компьютеров тут в том, что они могут запомнить все промежуточные леммы и теоремы - что человек сделать физически не может.

При этом совершенно нет необходимости использовать именно нейросеть - обычный переборный алгоритм вполне справляется.