Перепроверять, конечно, нужно - как и при работе с живым человеком (с поправкой на то, что люди чушь несут заметно чаще). Тем не менее, многие виды ошибок можно исключить еще на этапе составления промпта - сразу указав, какой уровень вольностей допускается, какая степень следования источникам нужна и т.п.