인간은 감지할 수 없는 미묘한 가공으로 AI를 교란시켜 얼굴 사진이 멋대로 이용되는 것을 방지하는 기술 'Fawkes'

SNS나 블로그에 올린 얼굴 사진이 제삼자에게 멋대로 수집되어 개인정보와 함께 프로파일링 되는 것을 방지하는 기술 'Fawkes'가 발표되었습니다. 익명 시위의 상징적 존재인 가이 폭스의 이름을 딴 이 기술을 사용하면 얼굴 사진에 인간은 모를 정도로 미세한 가공을 실시하여, 얼굴인증 시스템의 AI를 혼란시켜 인식 불능이 되도록 할 수 있다는 것입니다.

Fawkes
http://sandlab.cs.uchicago.edu/fawkes/

Fawkes

This Tool Could Protect Your Photos From Facial Recognition - The New York Times
https://www.nytimes.com/2020/08/03/technology/fawkes-tool -protects-photos-from-facial-recognition.html

인터넷에 사진을 게재하면 전 세계 누구나 그 사진에 액세스 할 수 있으므로 SNS에 얼굴 사진을 업로드 할 때는 명심해 둘 필요가 있습니다. 최근에는 신흥 AI기업이 인터넷에서 30억 장 이상의 얼굴 사진을 수집하여 개인정보 등과 함께 경찰에 인계했다는 사례도 보고되고 있으므로, AI의 발달로 예상도 못 한 방식으로 얼굴 사진이 사용되어 버리는 케이스의 증가가 예상되고 있습니다.

그래서 시카고 대학에서 보안을 연구하고 있는 SAND Lab은 개인도 AI에 의한 얼굴 사진 수집을 방지할 수 있는 PC · Mac용 소프트웨어 'Fawkes'을 개발했습니다.

다음은 실제로 Fawkes를 사용하여 배우 제시카 심슨 (왼쪽), 귀네스 팰트로 (중앙), 배우 패트릭 뎀프시 (오른쪽)의 얼굴 사진을 가공한 것입니다.

by SAND Lab, University of Chicago

사람의 눈으로는 차이가 몰라도, AI는 사진에 찍혀있는 것이 누구안지 전혀 모르게 되어버리는 것. SAND Lab이 실제로 Microsoft의 Azure Face API와 Amazon의 Rekognition, 중국 공안 당국도 사용하는 Face ++ 등으로 최첨단 얼굴인식 기술 Fawkes의 효과를 검증한 결과 100%의 확률로 정확한 인식을 할 수 없게 되어버린 것이 확인되었습니다.

SAND Lab은 Fawkes의 구조에 대해 "딥러닝은 입력 데이터에 약간의 변화만 있어도 데이터를 분류하는 과정이 크게 바뀌어 버리는 '적대적 샘플' 현상이 있습니다. Fawkes의 기본적인 구조는 적대적 샘플이 발생하는 것과 같은 메커니즘으로 구현한 것입니다"라고 설명하고 있습니다.

또한, Fawkes는 언급했듯이 개인도 PC를 통해 이용할 수 있는 것이 특징. SAND Lab은 GitHub에 기술자를 위한 소스코드를 공개하고 있으며, Fawkes 공식사이트에서 Window와 macOS를 위한 실행 파일을 공개하고 있습니다.