독일 하이델베르크 수상자 포럼(HLF 2018)은 21일 트위터를 통해 "오는 24일 마이클 아티야 박사가 강연을 통해 리만가설 증명에 관해 설명할 예정"이라고 밝혔다.

리만가설은 숫자 가운데 1과 자신으로만 나누어지는 수인 소수의 성질에 관한 것으로, 독일 수학자 베른하르트 리만(1826~1866)이 1859년에 내놓은 가설이다.

이 가설은 '리만제타(ζ) 함수'로 불리는 복소함수의 특별한 성질에 관한 것으로 수학계에서 아직 풀리지 않은 가장 중요한 난제 중 하나다.

베른하르트 리만과 소수의 비밀

1859년 8월, 당시 32세 청년 베른하르트 리만은 수학자의 영예인 베를린학술원 회원이 됐다. 리만은 관례대로 자신의 연구 주제로 논문을 작성, 학술원에 제출했다. 일상적인 대수학 관련 내용을 담은 논문 제목은 '주어진 수 이내에 존재하는 소수의 개수에 관한 연구'였다. 논문에서 리만은 주제를 부각시키기 위해 다음과 같은 질문을 던졌다.

 "20 미만의 숫자들 중 소수는 몇 개인가?" 답은 2, 3, 5, 7, 11, 13, 17, 19, 즉 8개다. 그렇다면 1000 미만의 숫자들 중에는 소수가 몇 개나 있을까. 100만 보다 작은 소수는 몇 개일까. 소수를 일일이 세는 중노동에서 우리를 구제해줄 일반적인 규칙은 과연 존재할 것인가."

 리만은 이 문제와 씨름하던 중 매우 강력하면서도 미묘한 수학적 객체 하나를 만들어냈다. 그리고 논문의 중반부에서 이 객체와 관련된 하나의 추측을 언급하고는 아래와 같이 마무리했다.

 "나는 이 추측이 옳다는 것을 증명하고자 몇 차례 시도해 봤지만 결국 실패했다. 물론 이것은 엄밀한 증명을 거쳐야 하겠으나 지금 당장은 논문의 주제와 직접적인 관련이 없으므로 생략하겠다."

 이후 10여년 동안 리만의 추측은 관심을 끌지 못하다 서서히 중요성이 부각되면서 수학자들의 마음을 완전히 사로잡기에 이른다. 리만이 논문에서 짤막하게 언급했던 추측은 훗날 '리만의 가설'로 통하면서 20세기의 수학자들을 괴롭혔다. 아직도 사실여부는 증명되지 않은 채로 남아있다. '페르마의 마지막 정리'는 1637년에 제기돼 1994년에 풀렸다. '4색 문제'도 1852년에 제기돼 1976년에 풀렸다. 리만의 가설은 최근 해결된 역사 깊은 이런 수학문제들보다 중독성이 훨씬 심하다.

 미국의 부유한 수학애호가들은 지난 몇해 동안 기금을 모아 수학연구재단을 여럿 설립했다. 98년의 클레이수학연구소, 94년의 미국수학연구소 등이 대표적이다. 리만의 가설을 증명하려는 목적으로 세워진 연구소들이다. 클레이수학연구소는 리만의 가설이 참 또는 거짓임을 증명하는 이에게 상금 100만달러를 걸어놓고 있다.

그동안 수많은 수학자가 리만가설 증명에 도전해 왔으며 저명한 수학자들도 여러 차례 증명했다는 주장을 펴기도 했으나 학계의 검증을 통과하는 데는 실패했다.

연합뉴스는 "특히 리만가설은 이것이 증명될 경우 소수를 근간으로 한 컴퓨터 공개키 암호 체계가 무용지물이 될 수도 있다는 우려가 따라다녀 더욱 관심을 집중시킨다"고  전했다.

그러나 학계 반응은 신중하다. 아티야 박사가 실제로 리만가설을 증명한 것인지는 그의 발표 내용을 보고 엄격한 검증과정을 거쳐야 알 수 있다는 것이다.

한편 영화 ‘뷰티풀 마인드’는 1994년 노벨 경제학상을 받은 존 내시를 다룬 영화로 유명하다. 실존 인물 중 가장 유명한 조현병 환자로 꼽히는 내시는 2015년 교통사고로 사망했다.

존 내시는 ‘세상에서 제일 어려운 수학 문제’라는 리만 가설에 도전했다가 스트레스를 견디지 못했다. 결국, 망상형 조현병 판정을 받았다.

7대 수학 난제에는 P-NP 문제를 비롯해 리만 가설, 양-밀스 이론과 질량 간극 가설, 푸앵카레 추측, 호지 추측 등이 포함된다.