Нет сейчас никакого ИИ. Соответственно, взламывать нечего. Рассуждать о том, чего нет, это все равно, что обсуждать качество снега следующей зимой. Нафантазировать можно что угодно, что-то будет звучать правдоподобно, что-то - не очень.

Есть нейросети, это не ИИ. "Взломать" нейросеть... Не очень понятно, что под этим может подразумеваться. Есть всякие фокусы. Например, некоторые нейросети, обученные для классификации изображений, можно обмануть, заставив принять фотографию одного предмета за совершенно другой. Некоторые примеры: https://habr.com/ru/company/mailru/blog/348140/