Возвращаясь к теме спора — способность Волдеморта определять ложь всплыла при обучении окклюменции, так что скорее всего, именно через нее он и определял.

Кстати, на первом курсе сходу распознал, что Гарри лжет насчёт зеркала, ещё будучи скрытым под тюрбаном. Да и потом узнал, что камень в кармане.