얼굴인증의 40% 이상을 단 9가지의 얼굴로 돌파하는 마스터키와 같은 '마스터 페이스'를 만드는 AI가 등장

얼굴인증 시스템은 스마트폰과 PC의 잠금해제 등 일상생활의 다양한 장소에 침투해 있습니다. 그런데 이스라엘의 텔아비브대학 연구팀은 마스터키와 같은 '마스터 페이스'를 생성하는 AI를 개발했다고 발표했습니다. 단 9가지의 얼굴로 전체의 40% 이상에 해당하는 얼굴로 위장하여 얼굴인식을 돌파 가능하다고 합니다.

[2108.01077] Generating Master Faces for Dictionary Attacks with a Network-Assisted Latent Space Evolution
https://arxiv.org/abs/2108.01077

‘Master Faces’ That Can Bypass Over 40% Of Facial ID Authentication Systems - Unite.AI
https://www.unite.ai/master-faces-that-can-bypass-over-40-of-facial-id-authentication-systems/

‘Master Faces’ That Can Bypass Over 40% Of Facial ID Authentication Systems - Unite.AI

이번에 개발된 AI는 NVIDIA가 2018년 12월에 발표한 적대적 생성 네트워크 'StyleGAN'을 사용하여 다양한 얼굴인증을 돌파할 수 있는 '마스터 페이스'를 생성한다는 것. StyleGAN에 더해 고차원의 블랙박스를 최적화하기 위한 접근인 Limited-Memory Matrix Adaptation(LM-MA-ES)도 활용하고 있다고 합니다.

연구팀은 개발한 AI를 매사추세츠대학이 오픈소스로 공개하고 얼굴이미지 데이터세트인 Labeled Faces in the Wild(LFW)를 사용하여 합성곱 신경망(CNN) 기반의 얼굴인식 알고리즘인 SphereFace · FaceNet · Dlib에서 테스트했습니다.

AI는 먼저 다양한 얼굴데이터에 포함된 '가장 일반화된 특징'을 찾아 최대한 많은 얼굴로 위장 가능한 얼굴을 생성합니다. 그 다음 먼저 생성한 얼굴로 돌파하지 못한 얼굴데이터로 재차 같은 방식으로 새로운 얼굴을 생성합니다. 이 과정을 반복하면 소수의 얼굴로 수많은 얼굴인증을 돌파할 수 있게 되는 원리입니다.

다음 그림은 다양한 방법으로 AI의 정밀도를 변경하면서 SphereFace(a · d · g), FaceNet(b · e · h), Dlib(c · f · i)에서 테스트를 한 결과입니다. 생성되는 얼굴은 다르지만 전체적으로 '처음에 생성되는(가장 많은 얼굴인증을 돌파할 수 있는 얼굴) 얼굴은 백인 노인 남성이었고 그 다음이 아시아계 남성과 백인 노인 여성이 많았으며 5번째 이후에는 흑인의 얼굴이 등장하는 경향이 보입니다. 이러한 경향은 LFW에 포함된 얼굴의 종류를 반영하고 있을 가능성이 있습니다.

AI의 정확성 및 테스트 얼굴인식 알고리즘에 따라 차이가 있었지만, 연구팀은 9가지의 얼굴사진만으로 40~60%의 얼굴인증을 돌파할 수 있다고 보고 있습니다. 또 AI는 초기단계에서 가장 일반화된 특징을 제대로 파악해 얼굴이미지를 생성할 수 있었으며 그 후 훈련하는 양을 늘려도 시스템의 정밀도는 그다지 향상되지 않았다고 합니다.

연구팀은 논문에서 "우리의 연구결과는 얼굴인증이 대상의 신원정보가 없는 경우에도 매우 취약하다는 것을 보여줍니다. 이것은 3가지의 얼굴인증 기술 모두에 해당되지만, 얻어지는 성공률은 약간의 차이가 있다"고 밝혔습니다.