Лучший вариант, как мне кажется, - разговаривать напрямую с начальством по поводу того, как все устроить. Потому что этот менеджер по персоналу уже наверняка выставил вас крайней, умолчав о том, почему вы так отвечали.
Ну а во-вторых. Если не получится решить вопрос нормально - увольняйтесь без страха и сожалений, потому что нет смысла держаться за то, что вы терпите и из-за чего страдают нервы. А перед увольнением сообщите, что пригласите к ним трудовую инспекцию ^___^