'엄청난 자릿수의 소인수분해가 가능한 알고리즘'을 개발하면 정부기관에 의해 살해당한다?

대표적인 공개키 암호화 중 하나인 RSA 암호는 '자릿수가 큰 합성수의 소인수분해는 곤란하다'는 점을 근거로 한 암호화 방식입니다. 따라서 '엄청난 자릿수의 소인수분해를 가능하게 하는 알고리즘'이 개발되어 버리면 그 안전성은 흔들려 버립니다. 만약 '엄청난 자릿수의 소인수분해를 가능하게 하는 알고리즘'을 개발한 경우에 무슨 일이 일어나는지에 대해 실명제 Q&A사이트인 Quora에서 다양한 사람들이 자신의 견해를 나타냈습니다.

If I solve integer factorization, will I get killed because I would have broken cryptography? - Quora
https://www.quora.com/If-I-solve-integer-factorization-will-I-get-killed-because-I-would-have-broken-cryptography

If I solve integer factorization, will I get killed because I would have broken cryptography?

Quora에 게시된 '만약 내가 소인수분해 문제를 해결해 버리면 암호화 시스템이 파괴되어 버리므로 살해당하나?'라는 질문에 대해 텍사스대학의 달라스교에서 수학 및 컴퓨터과학 교수를 맡고 있는 팀 화라지 씨는 '1024비트의 소수의 곱인 2048비트의 수를 1시간만에 소인수분해 하는 알고리즘을 발견했다'는 가정으로 답변했습니다. 실제로 이러한 획기적인 소인수분해 알고리즘이 발견될 가능성은 낮지만, 그것은 이번 질문과 관계없다고 치부합니다.

화라지 씨는 "당신이 미국 시민이라고 가정하고, 당신은 무엇을 해야 할까요? 뛰어난 변호사와 상담한 후 국가안보국(NSA)에 연락이 가능한 변호사 또는 변호사 그룹을 안내받읍시다. 당신의 변호사는 당신이 무엇을 할 수 있는지를 NSA에 전달하고 당신은 애국자이며 알고리즘을 외국에 팔지 않을 것이라는 의향도 변호사를 통해 전해야 한다"며 우선 변호사와의 상담을 강조합니다.

물론 NSA가 처음부터 알고리즘의 존재를 믿을 것이라고는 생각하기 어렵지만, 발견자가 알고리즘의 효과를 입증한다면 NSA요원들은 놀란 나머지 10~15분 정도 기절할 것이라고 화라지 씨는 예측합니다. 그들이 눈을 뜨면 "우리는 정말, 정말, 정말 이 알고리즘을 좋아하고, 암호화 알고리즘을 변경할 때까지 부디 비밀로 해달라"고 요구받을 것이라고 합니다.

그 후 변호사와 NSA 사이에서 협상이 이루어져 알고리즘에 대한 대가로 1억 달러(약 1100억 원)가량의 보상을 얻을 수 있을 것으로 예상합니다. "당신은 백만장자가 되는 동시에 애국자가 되는 것도 가능합니다. 중요한 것은, 당신은 부자가 되고, NSA도 당신에게 만족할 것입니다. 당신이 본 영화가 무엇이든 간에, 그들이 배신자가 아니라면 미국 정부는 특정 지식을 가진 미국 시민을 죽이려 특수작전 요원을 파견하지 않는다"고 화라지 씨는 주장합니다.

마지막으로 화라지 씨는 미국의 원자폭탄 개발프로젝트인 맨해튼 계획 등에 관여한 수학자 존 폰 노이만의 죽음에 얽힌 일화를 소개합니다. 노이만은 죽기 직전까지 정부를 위해 적극적으로 활동했고 암으로 죽기 직전에 고통을 완화하기 위해 진통제가 투여되었습니다. 정부는 노이만이 헛소리로 기밀사항을 중얼거리는 상황을 우려했기 때문에 병실을 경비하기 위해 군대를 파견했다고 합니다.

화라지 씨 이외에도 아마추어 수학자인 Ross Rheingans-Yoo 씨는 "당신이 자신의 결과를 공표하면 당신을 죽여서 얻을 수 있는 것은 없다"며 선수를 쳐 공개하라고 주장합니다.

또 다른 익명의 사용자는 "물론 효율적인 소인수분해 알고리즘이 개발되면 RSA 암호가 깨지지만, RSA 암호는 유일한 공개키 암호방식이 아니므로 암호화 방식을 전환하여 대응할 수 있다"고 지적합니다. 사실 데이터 전송 프로토콜인 TLS의 최신판 'TLS 1.3'에서는, 키교환에 RSA 암호를 사용할 수 없게 되는 등 RSA 암호를 대체하려는 움직임도 진행 중이라고 합니다.

사업가 Alon Amit 씨는 이 질문에 대해 새로운 발견을 은폐하려고 하는 시도는 해악을 끼칠 가능성이 높을 것이라며 발견자는 그 결과를 논문으로 완성해 합법적인 절차에 따라 저명한 저널에 투고하는 것이 가장 합리적이고 책임있는 행동이라고 답변합니다.