Матемаг
Эти слова - синонимы и часто взаимозаменяемы. У defence есть свое значение "capability of resisting attack", которого нет у protection, а в остальном можно и так, и так. То, что вы описали - я бы перевела как defence, по аналогии с Defence Against the Dark Arts.