Скрыть
Надоела реклама на фанфиксе?
 ↓
 ↑
Заяц
24 января в 02:24
Aa Aa
Картинки ссылками
Однако, в области безопасности у нейронных сетей потенциальные дыры размером со Spectre.

http://nicholas.carlini.com/code/audio_adversarial_examples/

Если вкратце: легкой манипуляцией в виде наложения специальным образом синтезированного звука можно превратить команду, произнесенную вслух, в совершенно другую команду. Причем для человека это будет звучать похоже на старую команду, а вот компьютер будет стабильно ошибаться.

А что если это услышит умная колонка? И это пока еще такие колонки не управляют ничем серьезным. Хорошо если по команде с такой колонки домашний комптьютер только откроет зараженный сайт и запустит внутрь червя, который потом стащит деньги. Но если представить, что колонка может быстро опустить тяжелую дверь гаража, под которой регулярно проходят люди, то вот уже и сценарий для убийства.

Пока что это потенциальная дыра. Демонстраций на практике, а не на искусственных примерах, еще не было.
24 января в 02:24
2 комментария

Аналогичная атака на распознавание изображения:
https://geektimes.ru/post/295127/

Исследователи предполагают, что атака подействует на многие модели, обученные на данном конкретном наборе данных — включая разные архитектуры свёрточных сетей и даже линейные классификаторы. Так что для успешной атаки достаточно гипотезы, на основе каких данных могла обучаться модель.
24 января в 02:43

> Так что для успешной атаки достаточно гипотезы, на основе каких данных могла обучаться модель.

предсказали еще в начале ажиотажа :)
как увлекательно жить, каких только атак не насмотришься
24 января в 09:21
Имя:
Пароль:
 
Войти при помощи:

ПОИСК
ФАНФИКОВ


Активные конкурсы








Поддержи проект рублёмЧтобы Фанфикс рос большим

бесплатный фотохостинг создан специально для пользователей Fanfics.me

Книги жанра ЛитРПГ
Опубликуй свою книгу!

Следи за любыми произведениями с СИ в автоматическом режиме и удобном дизайне

Старейший в рунете архив фанфиков





Закрыть
Закрыть
Закрыть