isomori
С разной, само собой. Но я бы ориентировалась на условное среднее. Зависит еще и от жанра. Тут речь не о каком-то авангарде на любителя, а о приключенческой литературе для широкого круга читателей, логично выбрать то, что не будет мозолить глаза этому широкому кругу.
Да, в некоторых контекстах непривычно - это плохо. Если читатель будет постоянно спотыкаться об эту несчастную мулицу, или вместо мулицы - о множество аналогов витиеватых перил (когда слово употреблено формально правильно, но обычно его используют в другом значении), - его это будет раздражать. Раздражение не улучшает общее впечатление от книги и не способствует тому, чтобы внимательно следить за сюжетом. В предельном случае это приведет к тому, что читатель скажет: "книга интересная, но автор задолбал своими словечками" и бросит его читать. Немного не тот результат, к которому стремится любой автор, я полагаю.
Так что кругозор своих читателей вы немного расширите - насильно и против их воли, - но ничего хорошего это не принесет ни вам, ни им.
Если человек сам хочет расширить лингвистический кругозор, он читает словарь. Такие люди реально есть - читающие словари. Или литературу определенного типа, где в языке будет много непривычного и не повседневного - очень старую, посвященную какой-то специфической сфере и т.д., да хотя бы историческую. Но это не то, что ищут в фэнтези.
Можно использовать непривычные слова и в произведениях для широкого круга, но или редко, или там, где это реально важно. Но не превращать книгу в иностранную, которую надо читать со словарем или гуглом. Я не люблю отвлекаться на гуглинг как читатель и не понимаю этого как автор: я хочу, чтобы читали мой текст, а не гугл.

Грызун
Насчет гномок я скорее за. Вроде звучит нормально, а надо ж как-то их называть. Как образовать женский род от эльфа, мы тоже не знали, пока не пришел человек с эльфийкой (не знаю, кто этот неизвестный герой, но спасибо ему))

Круги на воде
Не соглашусь -- как раз фэнтези пестрит словами, которые автор вводит вообще сам. Магические термины, названия рас, земель и растений-животных, непривычные имена и тд и тп

На фоне "Конференции Конклава Магов прошедшей в синий месяц в земле Лельваль и посвященной проблемам трансмиграции осенних туманников" -- одна несчастная мулица (или даже мулица вместе с гномкой!) погоды явно не делает.

Грызун
Так их и гуглить не надо!)
Ладно, мулицу тоже не надо.
Возможно, вы и правы, но я фэнтезийные слова и названия, которые часть сетиинга, воспринимаю иначе. И половина из них яисто для атмосферы, а важную для сюжета половину автор поясняет. Но это больше к вопросу незнакомых слов (или знакомых в другом значении). А просто непривычно и странно звучащие... ну да, пожалуй, мулица вполне приживется. А гномка тем более.