Матемаг
В профессиональных издательствах для профессиональных писателей для этой цели существуют редакторы (в целом). Для научных книг -- еще и научные редакторы.