Microsoft가 딥페이크 대책 툴 'Video Authenticator'을 발표

Microsoft는 인공지능(AI)으로 영상을 합성하여 위화감 없는 영상을 만들어내는 기술 '딥페이크'의 대책 툴인 "Microsoft Video Authenticator'를 발표했습니다.

New Steps to Combat Disinformation - Microsoft on the Issues
https://blogs.microsoft.com/on-the-issues/2020/09/01/disinformation-deepfakes-newsguard-video-authenticator/

New Steps to Combat Disinformation - Microsoft on the Issues

Microsoft creates a new tool to spot 'deepfake' videos and images - SiliconANGLE
https://siliconangle.com/2020/09/01/microsoft-created-new-tool-spot-deepfakes/

Microsoft creates a new tool to spot 'deepfake' videos and images - SiliconANGLE

AI가 영상을 합성하는 딥페이크 기술은 발전을 거듭해 '진짜 영상과 분별할 수 없게 되는 것은 아닌가?'라는 우려도 나오고 있습니다. 딥페이크를 활용하면 유명인이 실제로 말한 적이 없는 발언을 하는 동영상을 쉽게 만들어 낼 수 있습니다.

2020년 11월에는 미국대통령 선거가 다가오고 있어 딥페이크를 이용한 정치적 인상 조작이 다발할 것으로 예상됩니다. 이 딥페이크에 대항하기 위해 Microsoft는 정부기관과 협력하여 가짜 뉴스와 온라인 선거에 대한 해킹에 대항하는 프로젝트인 Defending Democracy Program을 추진. 그 일환으로 딥페이크 대책 툴인 'Microsoft Video Authenticator'을 발표했습니다.

Microsoft Video Authenticator는 동영상과 사진을 분석하여 딥페이크에 의해 발생하는 인간의 눈으로는 알 수 없는 수준의 퇴색 및 그레이 스케일 등을 감지하고, 딥페이크 의한 편집이 행해졌는지 여부를 판정하여 '신뢰 점수'를 산출. 딥페이크가 사용되었는지 여부를 한눈에 알 수 있도록 표시하여 줍니다.

Microsoft Video Authenticator를 사용하여 실제로 영상을 판정하는 데모도 공개되어 있습니다. 다음은 왼쪽이 무편집 동영상, 오른쪽이 딥페이크로 편집된 동영상입니다. Microsoft Video Authenticator는 발언하고 있는 여성의 얼굴에 테두리와 '신뢰 점수'를 표시하고 있습니다. 이 프레임이 녹색이면 딥페이크가 사용되지 않았을 확률이 높다는 것을 의미하고, 빨간색일 경우에는 딥페이크가 사용되었을 확률이 높다는 것을 의미합니다.

또한, Microsoft Video Authenticator에는 제작자가 디지털 해시와 인증서를 이미지와 동영상에 추가할 수 있는 기능도 탑재되어 있습니다. 이 디지털 해시와 인증서를 확인하여, 이미지와 동영상 편집되지 않았다는 것이, 높은 확률로 보장된다고 Microsoft는 적고 있습니다.

Microsoft Video Authenticator는 Microsoft의 클라우드 플랫폼 Microsoft Azure에서 실행된다고 합니다.