Понимание и имитация понимания...
Ну, Лем в своё время писал, что любой интеллект в первую очередь будет стараться минимизировать усилия, затрачиваемые на порученную ему работу.
Нейросеть, ищущая на фотографиях леса танки, будет не искать способы сделать это более-менее по-человечески, а просто прицепится к факту, что фото с танками были сделаны в одну погоду, а фото без танков — в другую.
Нейросеть, пытающаяся написать за кого-то роман или рассказ, с наиболее высокой вероятностью попытается не придумать цельный сюжет с интересной развязкой и всё такое, а сделать так, чтобы читатель не смог распознать в тексте отсутствие перечисленного (и нажать красную кнопку «больно»).
Простые пути.
Но с использованием большого количества по-настоящему мотивированных бета-тестеров, наверное, ситуация изменится.
Хм... интересная оплачиваемая профессия будущего.
Тестер фанфиков нейросети.