За ссылку спасибо (если она просто не взята из википедии), но просмотрю позже, на выходных. Правда, не сумел найти doi статьи. Где можно прочитать?

> Расшифруйте
Такая метафора: стишок не равномерно стал блеклым, а можно вспомнить общий ритм первой строки, первую букву второй строки и нельзя остальное.

Если от стишка остались только такие куски - стишка считай не осталось.
Нельзя полностью восстановить информацию, если она смешивалась с шумом.

Как происходит любое "уничтожение" информации? Она смешивается с высокоэнтропийным источником (лист с сообщением сгорает в огне) - и всё, информация вроде как в нашей вселенной осталась, но "извлечь" её на практике не возможно. Так же и тут: нельзя аппелировать к тому, что текущие веса в нейросети основываются на прошлом и как бы таким образом "помнят" прошлое. Потому что извлечь это прошлое уже не выйдет. По крайней мере, полностью. Только часть (не известно какую), а остальное - угадывать.