|
#странные_новости #искусственный_идиот
В апреле этого года одна из школ Сахалина окунулась в скандальный омут. Некто (скорее всего, ученики) сгенерировали с помощью нейронки якобы новостной репортаж, в котором их учителя обвиняют в педофилии. Затем они создали фейковый аккаунт в Тик Токе от его имени и напихали туда сущего трэш-контента. В настоящее время СК по Сахалинской области устанавливают причастных к данному делу. Я так думаю, это насколько же ученики должны не любить учителя, чтобы замутить такое? Это же просто повезло, что по видео сразу видно, что это фуфло, а если бы нет? Прям вот настолько решили испоганить человеку жизнь? Получается, что сейчас никто не в безопасности вообще ни разу. И меня могут обвинить в том, что я из горящего дома Яйца Фаберже вынес, и видео это даже подтвердит, и еще куча всего. А с учителями такие истории возникали уже не раз по всему миру. И далеко не всегда все обходилось малой кровью. Тут есть, над чем поразмыслить. 4 мая в 10:16
13 |
|
Al Sah Him Онлайн
|
|
|
Nita
Времена меняются, технологии развиваются и все становится страшнее. Сейчас возможностей для этого куда больше. У меня есть подруга, которую шантажировали. Не буду вдаваться в подробности, но в качестве подтверждения своих намерений шантажисты отправили ее маме видео, собранное нейронкой. На этом видео якобы она трахается с тремя мужиками одновременно. Вот такие твари бывают |
|
|
Al Sah Him Онлайн
|
|
|
Al Sah Him Онлайн
|
|
|
Алексей Выдумщик
Раньше обвинение человека в преступлении из-за нейро-видео — тема шуток. Сейчас: реальность... Страшно, на самом деле. Да, раньше это казалось чем-то фантастическим. Самое раннее упоминание этого, что я встречал, это Звездный Путь TOS. Там компьютер перепрограммировали, и он запись с камер подкорректировал, в результате на видео было абсолютно не то, что на самом деле. И пересмотрев эту серию сейчас, ты понимаешь, что вот оно: будущее наступило 3 |
|
|
yzman Онлайн
|
|
|
В Казахстане вон уже будущее наступило, когда приняли закон о запрете скрывать лицо на улице. При том, что система распознавания лиц сейчас используется для того, чтобы искать сбежавших преступников. И бремя доказывания, что ты не верблюд, лежит на самом человеке. У нас в РФ история с ложным срабатыванием нейросетки и мариновке уважаемого препода тоже не так давно была.
2 |
|
|
Al Sah Him Онлайн
|
|
|
yzman
Это как со штрафами, когда тень машины пересекла сплошную. В новостях не раз, не два показывали сюжеты, когда долги приходили полному тезке должника, а он вообще другой человек. Или там что-то было про обвинение в убийстве много лет спустя. Или вывод нейронки использовали в качестве решающего аргумента в суде. Трэш творится, на самом деле.Если отдадут все в руки ИИ, это будет жопа 3 |
|
|
yzman Онлайн
|
|
|
Если отдадут все в руки ИИ, это будет жопа Работать никто не хочет. А потому будут отдавать, конечно. Я уже забыл, когда я в последний раз на stack overflow заходил, дипсики с гемини время экономят на поиски решения проблемы, с которой кто-то сталкивался уже, прилично.Но и в другую сторону если сделать, повесить ответственность за косяки на разработчиков ПО, то никто это ПО разрабатывать не станет. Весь расцвет ИИ произошёл потому, что сфера никак не регулировалась и можно было ставить любые эксперименты. 2 |
|
|
Al Sah Him Онлайн
|
|
|
yzman
Ну а на кого вешать косяки? Был же недавно случай, когда нейроассистенту ЖКХ дали для обучения записи разговоров с пользователями, и через месяц нейронка стала людей нахуй слать. Там косяк организации, но какие то алгоритмы то там должны быть. А ИИ просто все подряд фразы глотал |
|
|
Al Sah Him
Алиби строится на том, где в минуты/час преступления был подозреваемый. Думаю, тот же подход можно переложить на нейронки. То есть, если доказано, что в такое-то время человека не было на месте преступления, значит он не виновен. Более того, что если наложат бремя доказательства на того, кто прислал видео? С одной стороны, клеветники будут 7 раз думать, обвинять ли кого-то с помощью фальшивых видео. С другой стороны, а если видео не фальшивое, то эта процедура затянет процесс следствия. 1 |
|
|
Al Sah Him Онлайн
|
|
|
Алексей Выдумщик
Алиби имеет вес только если его можно подтвердить показаниями свидетелей или иными доказательствами. Если оного нет, тут будут вопросы. Система противодействия нейронкам еще сырая и по большей части базируется на внимательном осматривании видео на предмет косяков в картинке, вроде шести пальцев или двух левых рук. Загвоздка в том, что неиронки развиваются, этих косяков становится все меньше 1 |
|
|
Al Sah Him
Тогда система алиби останется такой же, но с проверкйо нейро-видео. Конечно показания свидетелей необходимы и без них алиби будет слабым, что с нейро-видео, что с фальшивыми рукописными письмами и взломанные аккаунтами в соцсетях. 1 |
|
|
Al Sah Him Онлайн
|
|
|
Алексей Выдумщик
Al Sah Him Тогда система алиби останется такой же, но с проверкйо нейро-видео. Конечно показания свидетелей необходимы и без них алиби будет слабым, что с нейро-видео, что с фальшивыми рукописными письмами и взломанные аккаунтами в соцсетях. Там все зависит от масштабов мистификации. К счастью, пока что создание грамотного фуфла требует вложения массы сил и времени, мало кто готов настолько этим заморачиваться 2 |
|
|
Al Sah Him
ЕМНИП, самый простой способ - обязать вообще все нейронки писать в видео (не в инфораздел, а конкретно вшивать в каждый кадр) "ЭТО НЕЙРОНКА". Вроде даже поднималась такая тема за рубежом, причем включаться такое должно вообще во все модели, даже фриварные. Т.е. видео разбирается, извлекается кадр и проверяется - нейронка или нет. Если да - видео идет лесом. 1 |
|
|
yzman Онлайн
|
|
|
Serryta
Ви таки в курсе, что "нейронки" можно запускать и на своём железе? И что исходники как правило открыты, а оттого можно будет найти вариант без ватермарки? |
|
|
yzman
Ви таки читали до конца написанное? :) Речь шла о том, чтобы во ВСЕ модели, ВКЛЮЧАЯ ФРИВАРНЫЕ, вшить эту настройку прямо на уровне "невырезаемо". Не как отключение NSFW у SD, а прямо вот "нет, не отключу, иди нафиг". Не вотермарку, а кодирование текста в изображение. |
|
|
непонятно, что можно сделать, чтобы защитить себя Не выкладывать никакие видео в инет, чтобы не было основы для генерации.1 |
|
|
trionix
Блокировка нового видео контента не поможет, так как в сети существуют сотни тысяч видео, на которых нейронов могут обучаться. Даже если возможность публикации видеоматериалов останется у телеканалов, всë равно можно будет скачивать материалы с телевидения и тренировать на них нейронки. |
|
|
trionix
Не выкладывать никакие видео в инет, чтобы не было основы для генерации. "Запретить интернет и нет проблем!" - Ваш РКН :))) |
|
|
yzman Онлайн
|
|
|
Serryta
А ви таки знаете, что такое open source (и что по сути любой продукт, доступ к исполняемым файлам которого есть, можно при большом желании модифицировать так, как нужно)? Нет, маркировать нейроконтент можно, но вырастет лишь цена вопроса и порог вхождения. Т.е. малолетки вряд ли смогут опорочить учителя, а вот скажем рейдер может сделать из бизнесмена какого-нибудь любителя малолеток или клептомана с целью отжать его контору. В целом, проблема не нова. Азиаты вот прочухали тему первыми и стали генерировать порноролики с известными людьми. После чего за это ввели нехилую уголовку то ли в Корее, то ли в Японии. |
|
|
yzman
Переобучать всю модель с ноля ради видяхи? Так проще людей нанять и сыграть сценку, дешевле выйдет. Или, может, вы считаете, что модель, работающая с достаточно хорошим результатом, пишется и обучается в одну харю с ноля за пять минут и любая жопа может туда залезть и корректировать?))) |
|
|
Warro
Не выкладывтаь видео с собой. Без исходника, файк достоверным не сделать - телосложение, походка, приметы. |
|