軸屋敬介 | Keisuke Jikuya

Home Blog Note Post

Using Anomaly Feature Vectors for Detecting, Classifying and Warning of Outlier Adversarial Examples

https://arxiv.org/abs/2107.00561

Sep 16, 2021

Anomaly Detection, Pretrained,

ICML (2021)

1. どんなもの?

• 敵対的入力を検出、分類、警告するシステム（DeClaW）
• 異常（攻撃）検知

2. 先行研究と比べてどこがすごい？

• 先行研究では攻撃の検出のみに焦点を当てており、分類は未解決の問題
• 潜在特徴が16Kから176に削減

3. 技術や手法の”キモ”はどこ？

学習

• 事前学習済み分類機の出力を使って特徴ベクトルを抽出
  
• 2つ目のネットワークで分類を学習
  

4. どうやって有効だと検証した？

• 検出精度 93~96%
  
• 分類精度 90~99%