어떤 규칙도 찾을 수 없는 고독한 '소수'에 대한 이야기

수학에서 '정수론'은 '수학의 여왕'이라고 불린다. 그 '정수론'에서 가장 중요한 것이 '소수'라는 것이다. '소수'는 '자명한 양의 약수(1과 자신) 이외의 약수를 갖지 않는 자연수'이다. 더 간결하게 표현하면 '양의 약수의 개수가 2인 자연수'가 된다. 구체적으로 쓰면, '2, 3, 5, 7, 11, 13 ...'이 된다. '1'은 소수가 아니다. 이것에는 '소인수분해의 유일성'에 관계하고 있다. 수학을 싫어하는 사람은 '인수분해'라는 말에 알레르기를 일으키는 사람이 많을지도 모르지만, '소인수분해'라는 것은 어떤 숫자를 소수의 곱셈으로 표현하는 것이다. '9 = 3 × 3', '28 = 2 × 2 × 7'과 같은 것이 '소인수분해'이다.

'유일성'이라는 것은 '하나로 결정된다'는 뜻이다. 여기서 '1'이 소수인 경우 어떻게 곤란해지는지를 설명하면, '9 = 3 × 3'으로 예를 들면 '1'이 소수인 경우 '9 = 1 × 3 × 3' 또는 '9 = 1 × 1 × 3 × 3'으로도 표기되어 버린다. 유일성이 성립되지 않는, 즉 하나로 결정되지 않게 되어 버린다. 이대로는 수학을 취급하는데 매우 불편하기 때문에 '1'은 소수가 아닌 것으로 정했다.

Michael Coghlan. https://www.flickr.com/photos/mikecogh/9509728372

그런 '소수'가 왜 수학에서 중요한 것인가. 그 이유는 소수가 사용하여 무수한 수를 만들어 낼 수 있기 때문이다. 소수를 곱하는 조합을 무수히 바꾸면 무수한 수를 만들 수 있다. 소수의 표는 화학의 원소주기율표 같은 것이다. 그러나 이 수학의 근본을 이루는 소수라고 하는 것은 매우 다루기가 어렵다. 왜냐하면 수학이라는 학문에서는 패턴과 질서를 찾는 것이 중요하지만, 소수가 어떤 규칙에 의해 나타날지는 아직 아무도 모르기 때문이다. 어떤 규칙도 소수의 열에서 찾는 것은 어렵다. 모든 수학자가 2000년 이상의 기간동안 노력을 계속해 왔음에도 불구하고 찾지 못했다. 또한 '쌍둥이 소수 예상'이나 '골드바흐의 추측' 등 소수에 관련된 미해결 문제도 많이 존재한다.

소수는 수학이라는 밀폐된 공간에만 중요한 것이 아니다. 예를 들어, 외계생명체와 의사소통을 할 때, 소수가 사용될 것으로 간주하고 있다. 지능이 있는 생명체라면 언어체계와 관계없이 소수를 이해할 수 있을 것이라는 가정에 근거한 것이다. 실제로 1974년에 지구에서 약 25,000광년 거리에 있는 허큘리스자리의 구상성단 M13을 향해 송신된 '아레시보 메시지'는 외계생명체가 '소인수분해'를 이해할 수 있다는 전제로 만들어져 있다. 또한 우리의 생활에 가까운 곳에서도 소수가 중요하게 사용되고 있다. 신용카드 정보 등을 암호화하는 RSA 암호화라는 구조는 '거대한 수를 소인수분해하는 데 엄청난 시간이 걸린다'는 사실에 기반하고 있으며, 여기에서도 소수가 매우 중요한 요소로 등장한다.

그런 소수에서 어떤 질서를 발견했던 리만이라는 수학자와 그가 남긴 '리만 가설'은 현재까지 미해결 상태이고, 수학 사상 가장 중요한 미해결 문제로 간주되고 있다. 힐베르트라는 대수학자가 현대 수학의 지평을 넓히기 위해 제시한 '힐베르트의 23가지 문제'에도 포함되어 있으며, 클레이수학연구소가 발표한 해결하면 100만 달러의 상금을 받을 수 있는 '밀레니엄 문제' 중 하나이다.

'리만 가설'의 이야기를 하기 전에 먼저 '가우스'와 '제타함수'의 이야기를 해야 한다. 가우스도 소수의 규칙성을 찾는 방법에 대해 연구했는데, 어느 날 그는 이렇게 생각했다. "다음 소수가 언제 나타날지 정확히 알 수는 없더라도 1에서 어느 수(N)까지에 포함하는 소수의 개수이라면 어느 정도 예측할 수 있는 것은 아닐까?"

그렇게 하여 그는 대수라는 방법을 사용하여 '어느 수 N까지에 포함하는 소수의 개수를 대략적으로 도출하는 공식(소수정리)'을 만들어 냈다. 이것은 수학자들에게 새로운 시각을 제공했다. 그 전까지는 소수 하나하나에 주목하고 있었지만, '대략적인 소수의 개수'에 일정한 규칙성이 발견되면서 소수라는 것의 전체에 주목하게 된 것이다.

 

 
'제타함수'는 매우 설명하기 어렵기 때문에 대강 설명하자면 '규칙적으로 늘어선 분수를 무한히 서로 더한 것'이라는 느낌이다. 음악을 계기로 발견된 이 무한합은 당초 소수의 분석에 관련될 것으로 생각하지 않았지만, 오일러가 '오일러의 곱셈 공식'이라는 형식으로 제타함수를 변환한 것을 계기로, 소수를 취급할 때의 강력한 무기로 변해 갔다. 여기에 드디어 리만이 등장한다. 오일러는 '정수의 범위'에서 제타함수를 생각했지만 리만은 그것을 복소수의 범위까지 확대했다. 복소수라고 하는 것은 'a + bi'(a, b는 실수 i는 허수)로 표현되는 것이다. 그리고 리만은 어느 발견을 한다. 그것은 '영점'에 관한 것이다. 제타함수의 '영점'은 제타함수가 0이 되는 복소수를 말한다. 예를 들어, 'f(x) = x + 1'함수(이것은 제타함수가 아닌 일반 함수)의 경우 x에 '-1'을 대입하면 함수 f(x)는 0가 된다. 마찬가지로 어떤 복소수 s (= a + bi)를 넣으면 제타함수가 0이 되는 s를 '영점'이라고 부른다.

리만은 이 '영점'과 소수와의 관계를 발견했다. 리만은 가우스의 소수정리를 제타함수를 사용하여 확장했고, 그 수식에 '영점'의 정보를 가미함으로써 '소수의 개수'를 보다 정확하게 예측할 수 있다고 이해한 것이다. 그래서 리만은 더욱 이 '영점'에 대해 분석을 해 보았다. 그러자 일부 계산한 '영점'의 실수부(a + bi의 경우 a를 실수부라고 부른다) 모두가 '1/2'인 것으로 밝혀졌다. 그래서 그는 '비자명한 영점'이라는 것의 실수부 모두가 1/2인 것으로 예상했다. 이것이 '리만 가설'이다. 쟁쟁한 수학자들이 도전하였으나 여전히 해결되지 않은 난제이다.

 
출처 참조 번역
· Wikipedia
· どんな規則も見つからない孤独な「素数」の話
https://news.yahoo.co.jp/articles/b03e2cfd767150153d616d1f7e4b577d895a8da5