|
#странные_новости #искусственный_идиот
В апреле этого года одна из школ Сахалина окунулась в скандальный омут. Некто (скорее всего, ученики) сгенерировали с помощью нейронки якобы новостной репортаж, в котором их учителя обвиняют в педофилии. Затем они создали фейковый аккаунт в Тик Токе от его имени и напихали туда сущего трэш-контента. В настоящее время СК по Сахалинской области устанавливают причастных к данному делу. Я так думаю, это насколько же ученики должны не любить учителя, чтобы замутить такое? Это же просто повезло, что по видео сразу видно, что это фуфло, а если бы нет? Прям вот настолько решили испоганить человеку жизнь? Получается, что сейчас никто не в безопасности вообще ни разу. И меня могут обвинить в том, что я из горящего дома Яйца Фаберже вынес, и видео это даже подтвердит, и еще куча всего. А с учителями такие истории возникали уже не раз по всему миру. И далеко не всегда все обходилось малой кровью. Тут есть, над чем поразмыслить. сегодня в 10:16
12 |
|
yzman
Это как со штрафами, когда тень машины пересекла сплошную. В новостях не раз, не два показывали сюжеты, когда долги приходили полному тезке должника, а он вообще другой человек. Или там что-то было про обвинение в убийстве много лет спустя. Или вывод нейронки использовали в качестве решающего аргумента в суде. Трэш творится, на самом деле.Если отдадут все в руки ИИ, это будет жопа 3 |
|
|
yzman
Ну а на кого вешать косяки? Был же недавно случай, когда нейроассистенту ЖКХ дали для обучения записи разговоров с пользователями, и через месяц нейронка стала людей нахуй слать. Там косяк организации, но какие то алгоритмы то там должны быть. А ИИ просто все подряд фразы глотал |
|
|
Al Sah Him
Алиби строится на том, где в минуты/час преступления был подозреваемый. Думаю, тот же подход можно переложить на нейронки. То есть, если доказано, что в такое-то время человека не было на месте преступления, значит он не виновен. Более того, что если наложат бремя доказательства на того, кто прислал видео? С одной стороны, клеветники будут 7 раз думать, обвинять ли кого-то с помощью фальшивых видео. С другой стороны, а если видео не фальшивое, то эта процедура затянет процесс следствия. 1 |
|
|
Алексей Выдумщик
Алиби имеет вес только если его можно подтвердить показаниями свидетелей или иными доказательствами. Если оного нет, тут будут вопросы. Система противодействия нейронкам еще сырая и по большей части базируется на внимательном осматривании видео на предмет косяков в картинке, вроде шести пальцев или двух левых рук. Загвоздка в том, что неиронки развиваются, этих косяков становится все меньше 1 |
|
|
Al Sah Him
Тогда система алиби останется такой же, но с проверкйо нейро-видео. Конечно показания свидетелей необходимы и без них алиби будет слабым, что с нейро-видео, что с фальшивыми рукописными письмами и взломанные аккаунтами в соцсетях. 1 |
|
|
Алексей Выдумщик
Al Sah Him Тогда система алиби останется такой же, но с проверкйо нейро-видео. Конечно показания свидетелей необходимы и без них алиби будет слабым, что с нейро-видео, что с фальшивыми рукописными письмами и взломанные аккаунтами в соцсетях. Там все зависит от масштабов мистификации. К счастью, пока что создание грамотного фуфла требует вложения массы сил и времени, мало кто готов настолько этим заморачиваться 2 |
|
|
Serryta Онлайн
|
|
|
Al Sah Him
ЕМНИП, самый простой способ - обязать вообще все нейронки писать в видео (не в инфораздел, а конкретно вшивать в каждый кадр) "ЭТО НЕЙРОНКА". Вроде даже поднималась такая тема за рубежом, причем включаться такое должно вообще во все модели, даже фриварные. Т.е. видео разбирается, извлекается кадр и проверяется - нейронка или нет. Если да - видео идет лесом. 1 |
|
|
Serryta
Ви таки в курсе, что "нейронки" можно запускать и на своём железе? И что исходники как правило открыты, а оттого можно будет найти вариант без ватермарки? |
|
|
Serryta Онлайн
|
|
|
yzman
Ви таки читали до конца написанное? :) Речь шла о том, чтобы во ВСЕ модели, ВКЛЮЧАЯ ФРИВАРНЫЕ, вшить эту настройку прямо на уровне "невырезаемо". Не как отключение NSFW у SD, а прямо вот "нет, не отключу, иди нафиг". Не вотермарку, а кодирование текста в изображение. |
|
|
trionix Онлайн
|
|
|
непонятно, что можно сделать, чтобы защитить себя Не выкладывать никакие видео в инет, чтобы не было основы для генерации. |
|
|
trionix
Блокировка нового видео контента не поможет, так как в сети существуют сотни тысяч видео, на которых нейронов могут обучаться. Даже если возможность публикации видеоматериалов останется у телеканалов, всë равно можно будет скачивать материалы с телевидения и тренировать на них нейронки. |
|