За ссылку спасибо (если она просто не взята из википедии), но просмотрю позже, на выходных. Правда, не сумел найти doi статьи. Где можно прочитать?
> Расшифруйте
Такая метафора: стишок не равномерно стал блеклым, а можно вспомнить общий ритм первой строки, первую букву второй строки и нельзя остальное.
Если от стишка остались только такие куски - стишка считай не осталось.
Нельзя полностью восстановить информацию, если она смешивалась с шумом.
Как происходит любое "уничтожение" информации? Она смешивается с высокоэнтропийным источником (лист с сообщением сгорает в огне) - и всё, информация вроде как в нашей вселенной осталась, но "извлечь" её на практике не возможно. Так же и тут: нельзя аппелировать к тому, что текущие веса в нейросети основываются на прошлом и как бы таким образом "помнят" прошлое. Потому что извлечь это прошлое уже не выйдет. По крайней мере, полностью. Только часть (не известно какую), а остальное - угадывать.
После осознания того, что сегодня девятое января, два часа вспоминала, у кого сегодня день рождения. Перебрала всех друзей, коллег, друзей родителей, — ну никак не могла вспомнить, хотя ощущение, что у кого-то точно день рождения, меня прямо-таки мучило.
Кажется, в моей жизни слишком много фанфикшена в целом и ГП в частности.