‘수학 난제’ 리만가설, 드디어 증명?…리만가설이란

(톱스타뉴스 한수지 기자) 7대 수학난제로 알려진 ‘리만가설’을 마이클 아티야 박사가 증명 주장해 화제인 가운데 리만가설이 무엇인지 이목이 집중되고 있다.

리만가설은 숫자 가운데 1과 자신으로만 나누어지는 수인 소수의 성질에 관한 것으로 리만가설을 만든 사람은 독일의 수학자 리만(Georg Friedrich Bernhard Riemann, 1826 ~ 1866)이다. 

리만은 계산을 거쳐 제타함수의 자명하지 않은 해를 몇 개 구하였는데, 이 해들의 실수부는 모두 1/2이었다. (실수부가 1/2인 직선을 임계선이라 부른다.) 이로부터 리만은 다음과 같은 예상을 했다.

리만 제타함수의 자명하지 않은 해는 모두 실수부가 1/2이다.

리만은 사실 이 가설을 별로 중요하게 여기지는 않았지만, 어쨌든 이 가설이 성립할 경우 위의 많은 항 중에서 로그적분 Li(x)가 전체를 좌우하는 ‘주요항’임을 보일 수 있으므로, ‘소수정리’를 증명할 수 있다는 것이 리만의 주장이었다.

사실 세월이 흐르며 리만의 아이디어를 이해하고 분석하면서, 리만 가설보다 훨씬 약한 가정인 ‘제타 함수의 자명하지 않은 근의 실수부가 1이 아니다’는 사실만 증명해도 소수정리를 증명하는 데는 충분하다는 것을 알게 됐다. 이 사실은 비교적 어렵지 않게 증명할 수 있으므로 소수정리는 증명되었다. 따라서 리만이 원래 의도했던 꿈은 성취한 셈이다. 한편 현재는 리만의 아이디어인 복소수를 쓰지 않은 소수정리의 증명도 나와 있고 이를 초등적인 증명이라 부르는데, 이름은 초등적인 증명이로되 증명은 훨씬 복잡하고 길다.

리만 가설보다 더 약한 가설을 증명해서 소수정리를 증명할 수 있었으니, 리만 가설은 필요 없는 것일까? 사실 소수정리가 예견하는 소수의 개수에 대한 근삿값은 오차가 많다. 하지만 리만의 아이디어에서 나온 공식은 ‘정확한 값’을 주기 때문에 리만 가설은 여전히 중요한 문제다. 예를 들어 현재 1024 보다 작은 소수의 개수는 다음과 같다는 것을 정확히 알고 있다.

18,435,599,767,349,200,867,866

하지만 이는 1024 이하의 소수를 모두 찾아서 센 것이 아니다. 2010년까지만 해도 저 값은 리만 가설을 가정한 상태에서 예상한 값이었고, 지금은 리만 공식을 이용하여 컴퓨터 및 부단한 계산을 통해 리만 가설을 가정하지 않아도 옳다는 것을 겨우 알아낸 정도다.

리만 가설은 소수 세기 함수와만 관련이 있는 게 아니다. 수론에서 알고 싶어하는 상당히 많은 함수가 리만 가설과 관련돼 있어서, 리만 가설의 진위 여부에 따라 이 함수들에 대한 수많은 예측이 한꺼번에 다 해결되거나, 모두 휴지 조각이 될 수 있다.

리만 가설이 소수에 대한 정보를 많이 담고 있는 건 사실이지만, 일각에서 말하는 것처럼 리만 가설을 풀면 현대의 암호가 모두 무용지물이 된다는 괴담은 사실이 아니다. 단적으로 리만 가설을 가정한 상태에서도 아직까지 1025 이하, 즉, 자리수가 25자리 이하인 소수의 개수조차 알지 못한다. 하지만 현대의 암호에 보통 사용하는 소수는 100자리를 넘는다. 물론 리만 가설을 증명, 혹은 반증하는 방법론이 무엇이냐에 따라 다를 가능성은 있지만, 적어도 리만 가설 자체는 큰 수를 소인수 분해하는 방법을 제공하지 못한다는 것이 정설이다.