Да ладно, они ж наверняка натягали дешёвых данных и не парятся. Чтобы откорректировать выборку, нужно её, ну, просмотреть. Кучу гигов текста просмотреть хотя бы полуавтоматически (т.е. наделать нейронок-распознавателей "вредного" контента). А это время и деньги. Так что цель такая стоять не могла, цель была "на дешёвых данных сделаем меганейронку и пофиксим самое очевидное", а не "сделаем из дешёвых данных очень дорогие и уже потом..." Вопрос цены же.