딥페이크에 의해 만들어지는 '가짜 위성사진'의 위협

source : https://cdn.vox-cdn.com/

AI 기술을 사용하여 유명인사의 얼굴사진이나 음성을 쉽게 합성하여 만들어 낼 수 있는 기술 '딥페이크'는 가짜뉴스를 만들어내어 경제와 정치 등 다양한 분야에 영향을 미칠 수 있다며 그 위험성이 지적되고 있습니다. 워싱턴대학의 지리학 교수인 Bo Zhao 씨가 주로 군사적 영향을 미치는 'AI가 생성하는 위성사진'의 위험에 대해 설명합니다.

Full article: Deep fake geography? When geospatial data encounter Artificial Intelligence
https://www.tandfonline.com/doi/full/10.1080/15230406.2021.1910075

Deep fake geography? When geospatial data encounter Artificial Intelligence

Deepfake satellite imagery poses a not-so-distant threat, warn geographers - The Verge
https://www.theverge.com/2021/4/27/22403741/deepfake-geography-satellite-imagery-ai-generated-fakes-threat

Deepfake satellite imagery poses a not-so-distant threat, warn geographers

AI에 의해 생성된 가짜 위성사진은 산불과 홍수 등의 자연재해에 대한 루머를 퍼트리거나 실제 위성사진의 신뢰성을 떨어트리기 위해 사용되기도 합니다. 미국국가지리정보국의 토드 마이어스 씨는 "가짜 위성사진에 군사계획 소프트웨어가 속아 실제로는 없는 루트로 부대를 인도해버릴 가능성이 있다"며, 가짜 정보가 진짜 정보와 섞여 버려 구별할 수 없게 되어버리는 상황의 위험성을 경고합니다.

지도에 잘못된 정보를 포함시킨다는 전략은 오래전부터 사용되어 왔는데, 기원전 2000년경 고대 바빌로니아 시대에 만들어진 신화의 지도에까지 거슬러 올라갑니다. 그 외에도 전시의 선전에 사용되는 지도 및 지도의 무단 복사를 식별하는 '트랩 스트리트' 등에 사용됩니다.

Zhao 씨는 위성사진의 진위가 불분명해지는 문제를 해결하기 위한 첫 번째 단계로 '본래 문제가 있음을 사람들에게 인식시키는 것'을 제시합니다. 많은 지리학자는 딥러닝 등의 AI기술에 대한 장점을 말하고 있지만, Zhao 씨는 "딥페이크의 잠재적인 위협을 대중 앞에서 말하는 사람은 거의 없다"며 "위성사진의 영향에 대해 국민의식을 높이는 것이 중요하다"고 말합니다.

Zhaos 씨는 "인간의 딥페이크 영상보다 가짜 위성사진을 만드는 것이 훨씬 쉽습니다. 대부분의 위성사진은 정부와 전문가에 의해 생성되기 때문에 사람들은 위성사진의 신빙성을 의심하지 않습니다"라고 말합니다.

Zhao 교수는 적대적 생성 네트워크를 사용하여 가짜 위성사진을 만들어내는 소프트웨어를 만들어 이미지의 질감과 명암, 색상 등의 특성으로 가짜를 분별하는 소프트웨어도 작성했지만, 딥페이크를 생성하는 기술도 나날이 발전하고 있기 때문에 다람쥐 쳇바퀴 같은 상황이 계속되고 있다는 것.

Zhao 씨는 "딥페이크에 대한 소프트웨어면에서의 기능도 중요하지만 가장 중요한 것은 가짜정보를 식별하는 능력을 높여 두는 것"이라고 말합니다.