"этот прискорбный факт не позволит ИИ стать разумнее человека" - эмн, а почему? Вы осознаёте этот баг, осознает ИИ и попытается изменится в ходе эволюции. Не факт, что получится, но в отличие от нас, он имеет доступ к произвольным самоизменениям (ну, если специально не ограничивать доступ к своему же коду).