Предел определён над метрическим пространством. Что является этим пространством неважно, лишь бы у него была метрика, т.е. расстояние между элементами множества. Можете считать предел котиков, например, если формально определите метрику котичности. Определите метрику вашего пространства пределов (очевидно, у пределов последовательностей, функций различных аргументов и котиков она будет различной), и считайте пределы пределов, сколько вашей душе угодно. Потом можно считать пределы пределов пределов, потом - пределы пределов пределов пределов, и так до тех пор, пока для всех элементов получающегося множества можно будет определить метрику.
Собственно, вы так и делаете. Вот это вот:
разрешить расстояние только между сходящимися последовательностями
и есть определение метрики.
какому-либо признаку типа "не больше", "не меньше" и т.п.), чтобы между ними определялся какой-то аналог "расстояния" и чтобы было некоторое надмножество, в котором они находятся - и, емнип, обязательно, чтобы оно ещё и топологическим было.
Именно метрическим, это частный случай топологического. Вы ж сами пишете, что вам расстояние нужно, а топологическое пространство с количественно определённым в нём расстоянием и есть определение метрического пространства.
как определить аналог расстояния между последовательностями
Любым нравящимся вам образом в соответствии с аксиомами метрики: тождества, положительности, симметричности и треугольника. Ваш способ вполне подходит.