본문 바로가기

AI/논문리뷰

[논문리뷰]An Effective Baseline for Robustness to Distributional Shift

논문 링크 : https://arxiv.org/abs/2105.07107

 

An Effective Baseline for Robustness to Distributional Shift

Refraining from confidently predicting when faced with categories of inputs different from those seen during training is an important requirement for the safe deployment of deep learning systems. While simple to state, this has been a particularly challeng

arxiv.org

해당 논문은 OOD detection 방법 중 사전의 OOD data를 노출시켜 학습을 수행하는 Outlier Exposure data 학습 방법에 대한 논문이며, 기존의 Outlier Exposure 논문에서 사용하는 학습 방법보다, 본 논문에서 제안하는 학습 방법을 사용하는것이 효과가 더 좋았다는 논문이다. 기존의 OE는 OOD data가 uniform distribution이 출력되도록 학습을 수행하는데, 해당 논문에서는 OE class node를 추가하여 학습을 수행한다.

 

 

논문에서는 classfier class에 abstention class를 추가하여 OE데이터는 해당 class를 레이블로 가지도록 학습을 수행한다. Loss term은 위의 슬라이드와 같고, Inference 단계에서 data가 classifier를 통과했을때 abstention class의 probability가 특정 threshold 이상이면 이를 ood data로 detect한다.

 

슬라이드의 테이블과 같이 기존의 OE 방법과 비교하였을때 약간의 성능개선이 이루어 졌으며, 본 논문에서는 OE에 대한 새로운 baseline으로 해당 방법을 제안한다.

 

이상 논문 리뷰였습니다.