파인만의 페르마 마지막 정리에 대한 추정

해커뉴스[1]에서 파인만 선생이 과거에 했다는 흥미로운 계산을 소개[2]하고 있다. 이 글을 읽는 사람 중에 파인만 선생을 모르는 사람은 아마 없을 것이라 생각한다. 일전에 그의 자서전[3]을 읽은 바 있지만, 한 분야의 정점에 이르면서도 동시에 다방면의 다재다능함을 이룩한 역사상 몇 안 되는 사람 중의 하나일 것이다.

그가 와일즈-테일러 정리(a.k.a 페르마의 마지막 정리)와 관련된 계산을 했는 줄은 이번에 처음 알았는데, 이 계산을 소개한 블로거 Luis Batalha씨는 자신의 소개[4]에 의하면 포르투칼 출신의 입자물리학을 연구하는 사람이라고 한다. 일전에 Fermat’s Library를 소개한 적[5]이 있는데, 이 사이트를 만든 사람이라고 한다. ㅎㅎ

Luis Batalha씨의 글[2] 따르면 Silvan S. Schweber가 쓴 책[6]에 날짜를 확인할 수 없는 파인만의 manuscript를 소개하고 있는데, 파인만은 1988년에 별세했고, 와일즈와 테일러의 정리는 1994년에 발표되었으므로 어쨌든 그의 계산은 당대에 아직 미해결인 상태에서 이루어진 것이다.

아래 계산은 마지막 본인의 계산을 제외하면 모두 위 소개한 블로그 [2]에 나와 있는 내용이므로 부족하면 원문을 참고하기 바란다.

 


먼저, 어떤 큰 자연수 N에 대하여 n-거듭제곱 수 일 “확률”을 계산해 보자. 해커뉴스[1]의 댓글 중에 사실 n-거듭제곱수는 이미 결정되어 있는데 여기서 “확률”의 의미가 뭐냐고 묻는 사람이 있는데, N 이하의 모든 자연수가 균일하게 선택 가능성이 있다는 가정하에 n-거듭제곱수가 선택될 가능성을 뜻한다고 봐야 하지 않을까 싶다.

그 “확률”을 계산하기 위해, 두 개의 세제곱근의 거리인 \sqrt[n]{N+1}-\sqrt[n]{N}을 이용한다.

\displaystyle \begin{aligned}d & = \sqrt[n]{N+1}-\sqrt[n]{N} \\ & =\sqrt[n]{N}\left(\sqrt[n]{1+ \frac{1}{N}} -1 \right) \\ & =\sqrt[n]{N}\left( \left( 1+ \frac{1}{n}\frac{1}{N}+ \frac{\frac{1}{n}\left(\frac{1}{n}-1\right)}{2}\frac{1}{N^2}+\cdots\right)-1\right) \end{aligned}

물론 위 계산에서 taylor expansion (1+x)^k = 1+ kx +\cdots를 이용했다. 어쨌든 N이 충분히 크다면, 쿨하게 뒤쪽 항을 날려버리고 ㅋㅋ 위 결과는 근사적으로

\displaystyle d \approx \frac{\sqrt[n]{N}}{nN}

이 됨을 확인할 수 있다. 여기서 파인만은 아무 설명없이 N이 n-거듭제곱수가 될 확률은 \frac{\sqrt[n]{N}}{nN}이라고 써 놓았다고 한다. 그 이유에 대해 Luis Batalha씨가 설명[2]을 해 놓고 있다. 만약 N이 n-거듭제곱수가 되려면 구간 \sqrt[n]{N}, \sqrt[n]{N+1}에 적어도 한 개의 정수 (즉, \sqrt[n]{N})이 있게 된다. 임의의 두 연속한 정수의 간격은 1이므로 구하고자 하는 확률은 \frac{d}{1}이 되는 것이다.

이제 와일즈-테일러 정리로 돌아가서 N= x^n +y^n이 n-거듭제곱수가 될 확률은 \frac{\sqrt[n]{x^n + y^n }}{n(x^n +y^n )}이 된다. 물론 특정 x, y가 성립할 확률이므로 모든 x > x_0y > y_0에 대해 이 확률의 총합을 구해야 한다. 그러므로 실제로는 이중 무한급수의 합을 계산해야 하는데, 여기서 파인만은 무한급수 대신 다루기 쉬운 적분으로 대략 합의를 본다. ㅋ 또 파인만은 x_0 = y_0라고 두는데 즉,

\displaystyle \int_{x_0}^{\infty}\int_{x_0}^{\infty}\frac{1}{n}(x^n + y^n )^{-1+\frac{1}{n}}dx dy = \frac{1}{nx_0^{n-3}}c_n
여기서, \displaystyle c_n = \int_{0}^{\infty}\int_{0}^{\infty}(u^n +v^n )^{-1+\frac{1}{n}}du dv

라고 쓴다. 이 결과는 Luis Batalha씨가 계산[2]했듯이 Jacobian을 계산하여 변수치환하면 얻을 수 있는 결과인데, 실제로는

\displaystyle c_n = \int_{1}^{\infty}\int_{1}^{\infty}(u^n +v^n )^{-1+\frac{1}{n}}du dv

이 된다고 한다. 여기서 Luis Batalha씨는 파인만이 계산실수를 한 것이 아닌가 하고 생각하는 듯. 뭐 본인은 귀찮아서 검산 안 해봤다-_-

여하간 이 대목에서 우리는 2 이상의 모든 자연수에 대해 x^n +y^n이 n-거듭제곱수인지 확인해야 하므로 x_0 =2를 대입한다. 그러면 확률 \frac{1}{n2^{n-3}}\int_{1}^{\infty}\int_{1}^{\infty}(u^n +v^n )^{-1+\frac{1}{n}}du dv은 n=4 정도만 돼도 0.1근방으로 낮게 형성되는데, n이 커질 수록 급속히 떨어져서 n=10정도 되면 거의 남지 않게 된다.

모든 자연수 n에 대해 와일즈-테일러 정리의 반례가 나올 확률은 어느 정도일까? 파인만은 이미 소피 제르맹의 결과를 알고 있었다고 한다. 그 결과인 즉슨, 소피 제르맹이 100이하의 지수에 대해 와일즈-테일러 정리의 반례가 없음을 얻은 결과라고 하는데, 해커뉴스의 댓글[1]에 누군가가 왜 하필 100이냐? 100에 무슨 특징이 있는거냐? 하고 묻길래 본인이 찾아보니 Harold Edwards 선생의 책[7]에 설명이 잘 돼 있다. 몇몇 트리키한 lemma를 이용해서 n=100까지 노가다를 한 것 같다-_-

이 대목에서 Luis Batalha씨는 독자의 연습문제로 충분히 큰 n에 대해 c_n \approx \frac{1}{n}을 제시하는데, 이게 어떻게 나온건지 본인의 짧은 머리로 통밥을 좀 굴려봤다. ㅋㅋㅋ

n이 크면 지수인 -1+ \frac{1}{n}은 어쨌건 음수이므로 AM-GM inequality를 이용하여

\displaystyle \begin{aligned} c_n & \le \int_{1}^{\infty}\int_{1}^{\infty}(2(uv)^{\frac{n}{2}})^{-1+\frac{1}{n}}du dv \\ & = 2^{-1+\frac{1}{n}} \int_{1}^{\infty}\int_{1}^{\infty} (uv)^{\frac{1-n}{2}}du dv \\ & = 2^{-1+\frac{1}{n}} \left(\frac{2}{n-3}\right)^2\end{aligned}

가 되어, Luis Batalha씨는 어떻게 계산했는지 모르겠지만, 그가 제시한 근사보다 더 영에 가까운 좋은 근사가 되는 것 같다-_-

여하간 이 결과를 가지고 100이후로 모든 지수에 대한 무한급수를 계산해야 하지만 여기서 다시 파인만 선생은 적분을 선택하여 확률의 총합을 구하면

\displaystyle \int_{100}^{\infty}\frac{1}{n^2 2^{n-3}}dn \approx 8.85 \times 10^{-34}

가 된다. 이것은 무지막지하게 낮은 확률이므로 파인만 선생은 “내 생각에는(for my money) 페르마의 마지막 정리는 참이다”라고 말했다고 한다. for my money라는 숙어는 처음 알았다-_-

전반적으로 수학적 엄밀성과는 상당히 거리가 먼 계산이지만, 역시 물리학자답게 간명하면서도 실용적 결론이라 할 수 있겠다. 일전에 Heath-Brown 선생의 density에 대한 계산[8]도 소개를 했지만, 와일즈-테일러 정리의 발표 이전에도 반례는 아마 없을 것이라는 간접적 증거가 쌓여 있었다. 와일즈-테일러 정리의 반례가 발견되었더라면, 수학계에 그보다 더 큰 놀라움은 없었을 터일 것이었다.

 


[1] https://news.ycombinator.com/item?id=12018221
[2] Feynman on Fermat’s Last Theorem by Luis Batalha
[3] 내 백과사전 [서평] 파인만! : 파인만 서거 20주년 기념 특별판 2010년 12월 16일
[4] http://www.lbatalha.com/about/
[5] 내 백과사전 새로 생긴 수학 사이트 두 개 2015년 9월 16일
[6] Silvan S. Schweber, QED and the Men Who Made It, Princeton University Press, 1994
[7] Harold M. Edwards, Fermat’s Last Theorem: A Genetic Introduction to Algebraic Number Theory, 3rd edition. Graduate Texts in Mathematics (Book 50), Springer, 2000
[8] 내 백과사전 “거의 모든” 지수에 관한 페르마의 마지막 정리 2010년 12월 27일

답글 남기기

아래 항목을 채우거나 오른쪽 아이콘 중 하나를 클릭하여 로그 인 하세요:

WordPress.com 로고

WordPress.com의 계정을 사용하여 댓글을 남깁니다. 로그아웃 / 변경 )

Twitter 사진

Twitter의 계정을 사용하여 댓글을 남깁니다. 로그아웃 / 변경 )

Facebook 사진

Facebook의 계정을 사용하여 댓글을 남깁니다. 로그아웃 / 변경 )

Google+ photo

Google+의 계정을 사용하여 댓글을 남깁니다. 로그아웃 / 변경 )

%s에 연결하는 중