'Evading Adversarial Example Detection Defenses with Orthogonal Projected Gradient Descent' 논문을 공부하고 발표하였다. 본 논문에서는 직교 성분을 이용하여 적대적 샘플 방어 기법을 우회하여 공격하는 방법을 제시하였다.
아래 첨부 링크는 원본 논문이다.
Evading Adversarial Example Detection Defenses with Orthogonal Projected Gradient Descent
Evading adversarial example detection defenses requires finding adversarial examples that must simultaneously (a) be misclassified by the model and (b) be detected as non-adversarial. We find that existing attacks that attempt to satisfy multiple simultane
arxiv.org
아래 첨부 파일은 발표 자료이다.
그리고 이 노션 링크는 공부한 것을 요약 정리한 것이다.
Evading Adversarial Example Detection Defenses with Orthogonal Projected Gradient Descent
적대적 예시란? 원래 인풋에 노이즈를 약간 더해서 실제로 맞는 아웃풋이 나와야되는데 오분류를 일으키는 예시. 적대적 예시에 대한 손실함수를 최적화 시키면 정상적인 인풋에 대한 손실이
eskim-o.notion.site
