1.Надежность моделей глубокой кластеризации: состязательные атаки и защита(arXiv)
Автор: Аншуман Чхабра, Ашвин Сехари, Прасант Мохапатра
Аннотация .Модели кластеризации представляют собой класс неконтролируемых методов машинного обучения, которые используются в ряде конвейеров приложений и играют жизненно важную роль в современной науке о данных. Благодаря недавним достижениям в области глубокого обучения модели глубокой кластеризации стали более современными по сравнению с традиционными подходами к кластеризации, особенно для наборов данных изображений высокой размерности. В то время как традиционные подходы к кластеризации были проанализированы с точки зрения надежности, ни одна из предыдущих работ не исследовала атаки злоумышленников и надежность для моделей глубокой кластеризации принципиальным образом. Чтобы восполнить этот пробел, мы предлагаем атаку «черный ящик» с использованием генеративно-состязательных сетей (GAN), где злоумышленник не знает, какая модель глубокой кластеризации используется, но может запросить у нее выходные данные. Мы анализируем нашу атаку на несколько современных моделей глубокой кластеризации и наборы данных из реального мира и обнаруживаем, что она очень успешна. Затем мы используем некоторые естественные способы защиты без присмотра, но обнаруживаем, что они не могут смягчить нашу атаку. Наконец, мы атакуем Face++, API-сервис кластеризации лиц производственного уровня, и обнаруживаем, что можем также значительно снизить его производительность. Таким образом, посредством этой работы мы стремимся мотивировать потребность в действительно надежных моделях глубокой кластеризации.
2.Изучение динамических систем в условиях состязательных атак — перспектива свойств нулевого пространства(arXiv)
Автор:Хан Фэн, Батуралп Ялчин, Джавад Лаваей
Аннотация: мы изучаем идентификацию линейной стационарной динамической системы, на которую воздействуют большие и разреженные возмущения, моделирующие атаки или сбои со стороны противника. В предположении, что состояния измеримы, мы разрабатываем необходимые и достаточные условия для восстановления матриц системы, решая задачу оптимизации типа лассо с ограничениями. Кроме того, мы обеспечиваем верхнюю границу ошибки оценки всякий раз, когда последовательность помех представляет собой комбинацию малых значений шума и больших враждебных значений. Наши результаты зависят от свойства нулевого пространства, которое широко используется в литературе по лассо, и мы исследуем, при каких условиях это свойство выполняется для линейных стационарных динамических систем. Наконец, мы дополнительно изучаем условия для конкретной вероятностной модели и подтверждаем результаты численными экспериментами.
