 #странные_новости #искусственный_идиот
В апреле этого года одна из школ Сахалина окунулась в скандальный омут. Некто (скорее всего, ученики) сгенерировали с помощью нейронки якобы новостной репортаж, в котором их учителя обвиняют в педофилии. Затем они создали фейковый аккаунт в Тик Токе от его имени и напихали туда сущего трэш-контента. В настоящее время СК по Сахалинской области устанавливают причастных к данному делу. Я так думаю, это насколько же ученики должны не любить учителя, чтобы замутить такое? Это же просто повезло, что по видео сразу видно, что это фуфло, а если бы нет? Прям вот настолько решили испоганить человеку жизнь? Получается, что сейчас никто не в безопасности вообще ни разу. И меня могут обвинить в том, что я из горящего дома Яйца Фаберже вынес, и видео это даже подтвердит, и еще куча всего. А с учителями такие истории возникали уже не раз по всему миру. И далеко не всегда все обходилось малой кровью. Тут есть, над чем поразмыслить. сегодня в 10:16
12 |
|
|
|
Алексей Выдумщик
Раньше обвинение человека в преступлении из-за нейро-видео — тема шуток. Сейчас: реальность... Страшно, на самом деле. Да, раньше это казалось чем-то фантастическим. Самое раннее упоминание этого, что я встречал, это Звездный Путь TOS. Там компьютер перепрограммировали, и он запись с камер подкорректировал, в результате на видео было абсолютно не то, что на самом деле. И пересмотрев эту серию сейчас, ты понимаешь, что вот оно: будущее наступило 3 |
|
 |
|
|
В Казахстане вон уже будущее наступило, когда приняли закон о запрете скрывать лицо на улице. При том, что система распознавания лиц сейчас используется для того, чтобы искать сбежавших преступников. И бремя доказывания, что ты не верблюд, лежит на самом человеке. У нас в РФ история с ложным срабатыванием нейросетки и мариновке уважаемого препода тоже не так давно была.
2 |
|
|
|
|
yzman
Это как со штрафами, когда тень машины пересекла сплошную. В новостях не раз, не два показывали сюжеты, когда долги приходили полному тезке должника, а он вообще другой человек. Или там что-то было про обвинение в убийстве много лет спустя. Или вывод нейронки использовали в качестве решающего аргумента в суде. Трэш творится, на самом деле.Если отдадут все в руки ИИ, это будет жопа 3 |
|
|
|
|
Если отдадут все в руки ИИ, это будет жопа Работать никто не хочет. А потому будут отдавать, конечно. Я уже забыл, когда я в последний раз на stack overflow заходил, дипсики с гемини время экономят на поиски решения проблемы, с которой кто-то сталкивался уже, прилично.Но и в другую сторону если сделать, повесить ответственность за косяки на разработчиков ПО, то никто это ПО разрабатывать не станет. Весь расцвет ИИ произошёл потому, что сфера никак не регулировалась и можно было ставить любые эксперименты. 2 |
|
|
|
|
yzman
Ну а на кого вешать косяки? Был же недавно случай, когда нейроассистенту ЖКХ дали для обучения записи разговоров с пользователями, и через месяц нейронка стала людей нахуй слать. Там косяк организации, но какие то алгоритмы то там должны быть. А ИИ просто все подряд фразы глотал |
|
 |
|
|
Al Sah Him
Алиби строится на том, где в минуты/час преступления был подозреваемый. Думаю, тот же подход можно переложить на нейронки. То есть, если доказано, что в такое-то время человека не было на месте преступления, значит он не виновен. Более того, что если наложат бремя доказательства на того, кто прислал видео? С одной стороны, клеветники будут 7 раз думать, обвинять ли кого-то с помощью фальшивых видео. С другой стороны, а если видео не фальшивое, то эта процедура затянет процесс следствия. 1 |
|
|
|
|
Алексей Выдумщик
Алиби имеет вес только если его можно подтвердить показаниями свидетелей или иными доказательствами. Если оного нет, тут будут вопросы. Система противодействия нейронкам еще сырая и по большей части базируется на внимательном осматривании видео на предмет косяков в картинке, вроде шести пальцев или двух левых рук. Загвоздка в том, что неиронки развиваются, этих косяков становится все меньше 1 |
|
|
|
|
Al Sah Him
Тогда система алиби останется такой же, но с проверкйо нейро-видео. Конечно показания свидетелей необходимы и без них алиби будет слабым, что с нейро-видео, что с фальшивыми рукописными письмами и взломанные аккаунтами в соцсетях. 1 |
|
|
|
|
Алексей Выдумщик
Al Sah Him Тогда система алиби останется такой же, но с проверкйо нейро-видео. Конечно показания свидетелей необходимы и без них алиби будет слабым, что с нейро-видео, что с фальшивыми рукописными письмами и взломанные аккаунтами в соцсетях. Там все зависит от масштабов мистификации. К счастью, пока что создание грамотного фуфла требует вложения массы сил и времени, мало кто готов настолько этим заморачиваться 2 |
|
 |
Serryta Онлайн
|
|
Al Sah Him
ЕМНИП, самый простой способ - обязать вообще все нейронки писать в видео (не в инфораздел, а конкретно вшивать в каждый кадр) "ЭТО НЕЙРОНКА". Вроде даже поднималась такая тема за рубежом, причем включаться такое должно вообще во все модели, даже фриварные. Т.е. видео разбирается, извлекается кадр и проверяется - нейронка или нет. Если да - видео идет лесом. 1 |
|
|
|
|
Serryta
Ви таки в курсе, что "нейронки" можно запускать и на своём железе? И что исходники как правило открыты, а оттого можно будет найти вариант без ватермарки? |
|
|
Serryta Онлайн
|
|
yzman
Ви таки читали до конца написанное? :) Речь шла о том, чтобы во ВСЕ модели, ВКЛЮЧАЯ ФРИВАРНЫЕ, вшить эту настройку прямо на уровне "невырезаемо". Не как отключение NSFW у SD, а прямо вот "нет, не отключу, иди нафиг". Не вотермарку, а кодирование текста в изображение. |
|
 |
trionix Онлайн
|
|
непонятно, что можно сделать, чтобы защитить себя Не выкладывать никакие видео в инет, чтобы не было основы для генерации. |
|
|
|
|
trionix
Блокировка нового видео контента не поможет, так как в сети существуют сотни тысяч видео, на которых нейронов могут обучаться. Даже если возможность публикации видеоматериалов останется у телеканалов, всë равно можно будет скачивать материалы с телевидения и тренировать на них нейронки. |
|
Включить тёмную тему
Популярное
VKontakte
WhatsApp
Telegram
Отключить рекламу
