[20′ ICLR] CLASSIFICATION-BASED ANOMALY DETECTION FOR GENERAL DATA (GEOD) 핵심 리뷰

This entry is part 28 of 40 in the series Anomaly Detection

내용 요약

Normal Image에 대해 k개의 Transformation Image Feature가 각각의 Center에 모이도록 학습하는 Anomaly Detection 방법론을 제안합니다. 이때 Center Triplet Loss를 사용합니다.

1. 들어가며

이번 글에서는 2020년 ICLR에 발표된 CLASSIFICATION-BASED ANOMALY DETECTION FOR GENERAL DATA 논문을 리뷰합니다. 이 논문은 GEOD라고 불리며, 이번 글에서도 GEOD라고 지칭하겠습니다. Anomaly Detection에 관한 기본적인 내용은 Anomaly Detection에 관한 모든 것 글을 참고해주세요.

2. 제안 방법

바로 제안 방법을 살펴보겠습니다.

그림1. GEOD 제안 방법
그림1. GEOD 제안 방법

2-1. 큰 그림

먼저 저자들의 큰 그림을 살펴보겠습니다.

우선 N개의 normal image data에 대해 k개의 transformation을 수행하여 k개의 image를 만들어냅니다. 이렇게 생성된 N*k개의 이미지에 대해 네트워크를 통과한 feature들이 각 transformation 별 center로 모이도록 학습합니다. 즉 k개의 center가 존재하고 각 center에는 N개의 feature들이 모이도록 학습합니다. 이렇게 학습이 완료되면 test 이미지에 대해서도 마찬가지로 동일한 k개의 transformation을 수행합니다.

이제 k개의 이미지가 네트워크를 통과해 나온 k개의 feature들은 normal image였다면 각 transformation center에 가깝게 분포할 것이고, unnormal image였다면 멀게 분포할 것입니다. 따라서 center와의 거리가 멀수록 unnormal로 판단할 수 있습니다. 

2-2. Train process

이제 train process를 살펴보겠습니다.

위에서 설명한 대로 N개의 normal image에 대해 각각 k개의 transformation을 수행하여 N*k개의 train image dataset을 만듭니다. 이제 각각의 image는 transformation별로 나뉘어 k개의 center에 모이도록 학습합니다. 이때 학습 loss로는 center triplet loss를 사용합니다.

center-triplet-loss
그림2. Center Triplet Loss

2-3. Test process

Test단계를 살펴보겠습니다.

학습 단계와 마찬가지로 이미지마다 동일한 k개의 transformation을 수행합니다. Test 이미지가 normal이었다면 네트워크를 통해 나온 k개의 feature는 학습 때와 마찬가지로 각각의 center를 잘 찾아갔을 것이고, 반대로 unnormal이었다면 잘 찾아가지 못해 center로부터 멀리 떨어져 분포할 것입니다. 따라서 각 transformation의 center로부터의 거리를 anomal score로 사용합니다.

anomaly-score
그림3. Anomaly Score

이때의 P는 다음과 같습니다.

probability
그림4. Probability

3. 실험 결과

다음은 이렇게 제안한 방법의 실험 결과를 살펴보겠습니다.

3-1. CIFAR10

먼저 CIFAR10 데이터셋의 Anomaly Detection 결과입니다.

cifar10-결과
그림5. Cifar10 실험 결과

비교 방법론은 다음과 같습니다.

  • Deep SVDD : normal data가 center에 모이도록 hypersphere를 학습한 뒤 center와의 거리를 anomal score로 활용
  • GEOM : k개의 transformation을 맞추는 classifier를 학습한 뒤 softmax값을 normality score로 활용

결과를 보면 가장 좋은 성능을 보입니다.

3-2. Fashion-MNIST

다음은 Fashion-MNIST 데이터셋의 Anomaly Detection 결과입니다.

fashion-mnist-결과
그림6. Fashion MNIST 실험 결과

비교 방법론은 다음과 같습니다.

  • Deep SVDD : normal data가 center에 모이도록 hypersphere를 학습한 뒤 center와의 거리를 anomal score로 활용
  • GEOM : k개의 transformation을 맞추는 classifier를 학습한 뒤 softmax값을 normality score로 활용

결과를 보면 가장 좋은 성능을 보입니다.

Series Navigation<< [19′ NIPS] SSL-AD : Using Self-Supervised Learning Can Improve Model Robustness and Uncertainty 핵심 리뷰[20′ NIPS] CSI: Novelty Detection via Contrastive Learning on Distributionally Shifted Instances >>
0 0 votes
Article Rating
Subscribe
Notify of
guest
0 Comments
Inline Feedbacks
View all comments
0
Would love your thoughts, please comment.x
()
x
Scroll to Top