Читала, что chatgpt помечает подозрительные сообщения, дальше модераторы проверяют и обращаются в полицию.
Плюс в куче дел запросы туда рассматриваются как доказательства вины преступника. (Всё в Америке.)

У них ещё беда с удержанием контекста.
Я с ИИ часто обсуждаю сюжет и всякие детали, типа там медицинские, технические и прочее. То с ним нормально всё, его ничего не смущает. Потом я отвлекусь на полчаса и вернусь с продолжением обсуждения, а его переклинивает на каком-то слове (которое я порой даже вычислить не могу) и потом надо полчаса перебирать формулировки запроса и заново вводить контекст, чтобы он заговорил.
То есть, если это вроде как обсуждение истории и персонажей - ему норм. А если чонить такое своеобразное вкинуть ему после паузы - то он на дыбы встаёт.