사이먼 싱, <페르마의 마지막 정리> - 완전한 집중 뒤의 휴식 - 이때가 가장 중요한 순간

1. 확률의 법칙? 

버틀란드 러셀은 확률이론을 다음과 같은 모순적인 문장으로 표현하였다. "확률"과 "법칙"은 분명히 반대의 뜻을 가진말이다.  그런데 우리가 무슨 수로 '확률의 법칙'을 찾을 수 있단 말인가?

2. 하디의 귀류법에 대한 설명 

영국의 수학자 하디는 자신의 저서 <수학자의 변명>에서 모순에 의한 증명법(귀류법, proof by contradiction)을 다음과 같이 설명했다. "유클리드가 그토록 좋아했던 귀류법은 수학자들이 갖고 있는 가장 훌륭한 무기이다. 그것은 체스보다 훨씬 대담한 경기라고 볼 수 있다. 체스를 두는 사람은 졸이나 마 따위를 희생시키면서 경기를 풀어나가지만, 귀류법의 논리를 펴는 수학자는 게임 자체를 담보로 잡힌 채 경기를 하고 있기 때문이다." 

3. 수의 역사 p.116

4. 약간의 진보를 보이다. 모든 소수 n에 대하여 <페르마의 정리>를 증명하기만 한다면 그것으로 모든 증명은 끝나게 된다. p.126, 

5. 불규칙 소수(irregular primes) <페르마의 정리>가 증명되기 어려운 소수 p.155

6. 로이드의 퍼즐과 무질서 계수 샘 로이드의 '14-15' 퍼즐 p.166

무질서 계수 disorder parameter Dp - 임의의 타일 배열 상태에 대한 무질서 계수란, 정상적인 배열 순서에 어긋나 있는 타일 쌍의 개수를 말한다. 모든 타일들이 정상적으로 배열되어 있는 경우 무질서 계수 Dp=0 이다.

불변성 invariant - 어떠한 변형을 가해도 항상 성립하는 성질. 수학자들은 하나의 수학적 대상이 다른 형태로 변형될 수 없음을 증명할 때 불변성의 개념을 자주 이용했는데, 매듭이론이 그 일례라고 할 수 있다.

로이드가 시중에 배포시켰던 퍼즐, 즉 14번 타일과 15번 타일만 서로 뒤바뀌어 있는 배열의 경우에는 Dp=1 이 되어 무질서 계수가 홀수값을 갖는다. 앞서 말한 것과 같이 모든 타일이 순서대로 배열된 상태에서 출발한다면 아무리 변형을 가해도 무질서 계수는 항상 짝수이다. 그러므로 로이드가 배포시키 퍼즐은 제대로 배열된 퍼즐로부터 시작한다면 결코 얻어낼 수 없는 배열이며, 따라서 로이드의 '14-15' 퍼즐은 전체 타일으 순서대로 재배열시킬 수 없다.

7. 우리가 '3'이라고 말할 때 그것의 진정한 의미는 무엇인가?

프레게의 이론에 따르면 3을 정의할 때 그보다 앞서 '3성 threeness'을 먼저 정의해야 한다. '3성'이란 세 개로 이루어진 임의 대상물의 집합을 나타내며, 구체적으로 표현될 수 없는 추상적인 양이다. 예를 들어 3성의 개념은 삼각형을 이루는 변의 집합이나, 엄마가 외출한 뒤 빈 집을 지키는 아기돼지 형제들의 집합을 나타내는 데 사용될 수 있다. 프레게는 3성을 표현할 수 있는 집합의 개수가 무한히 많다는 사실을 알았으며 '3' 자체를 정의하는데 이런 집합의 개념을 사용하였다. 그는 새로운 집합을 하나 만들어낸 뒤 3성을 가진 모든 대상들을 그 안에 포함시켜 '3의 집합'이라고 불렀다.

러셀은 자신의 젓 <나의 철학적 성장>에서 프레게의 책을 읽고 떠올렸던 의문점에 대해 다음과 같이 기록하였다. "임의의 집합은 자기 자신의 원소가 될 수 있으며 그렇지 않을 수도 있다. 예를 들어 티스푼의 집합 자체는 하나의 티스푼이 될 수 없으므로 후자의 경우에 속하지만 '티스푼이 아닌 모든 물건들의 집합'은 티스푼이 아닌 하나의 대상물이 될 수 있으므로 전자의 경우에 해당한다."

8. 결정불가능성

스텐퍼드 대학의 수학자였던 29세의 폴 코헨Paul Cohen은 특정한 질문이 결정 불가능한지의 여부를 판별할 수 있는 방법을 개발했다. 코헨은 과거에 힐베르트가 제기했던 23개의 중요한 문제들 중 하나, 즉 '연속성 가설 continuum hypothesis'이 결정불가능하다는 것을 증명했다. 괴델의 업적에 코헨의 발견이 더해지자 <페르마의 마지막 정리>와 사투를 벌이고 있던 전세계의 수학자들과 아마추어 수학자들 사이에 끔찍한 소문이 돌기 시작했다. <페르마의 마지막 정리> 역시 결정 불가능할 수도 있지 않은가?

<페르마의 마지막 정리>가 거짓이라면 증명은 매우 쉽다. 방정식을 만족하는 정수 (x, y, z)의 해를 하나만 찾아내면 그만이다. 이 경우 <페르마의 정리>는 결정 가능하다. 하나의 정리가 거짓이라고 판명되면, 그것은 더 이상 결정 불가능하지 않기 때문이다. 그러나 만일 <페르마의 정리>가 참이라면 그것을 간단하게 증명할 수 있는 방법이 존재하지 않을 수도 있다. 즉 결정 불가능할 수도 있다는 뜻이다. 결론적으로 말하자면, <페르마의 마지막 정리>는 참일 수도 있지만, 이 경우 그것을 증명할 방법이 없을 수도 있다.

9. 3인 결투 문제 p.197

10. 오일러의 추론 Euler's conjecture

수학자들이 컴퓨터로 얻어진 증거를 믿지 않는 이유는 <오일러의 추론 Euler's conjecture>을 봐서도 알 수 있다. 오일러는 페르마의 방정식에서 n = 4 인 경우, 하나의 항을 추가시킨 다음과 같은 방정식에도 정수해가 존재하지 않는다고 주장했다. 

그로부터 200년이 지나도록 어느 누구도 <오일러의 추론>을 증명하지 못했으며, 반대로 <오일러의 추론>이 틀렸음을 입증하는 단 하나의 예도 발견되지 않았다. 과거에는 모든 계산을 손으로 했기 때문에 충분한 증거를 얻지 못했을 것이다. 그러던 중 컴퓨터가 등장하여 <오일러의 추론>을 검증해나가기 시작했다. 1부터 시작하여 점차 큰 수를 대입해나가면서 위의 방정식을 만족시키는 4개의 정수가 정말로 하나도 없는지를 확인하고자 했던 것이다. 오랜 시간 동안의 문제의 정수가 발견되지 않자 사람들은 "<오일러의 추론>이 과연 사실이었구나."하면서 또 하나의 새로운 수학 정리의 탄생을 기대했다. 그러던 중 1998년 어느 날 하버드 대학의 노암 엘스키Noam Elkies가 드디어 다음과 같은 정수들을 찾아내고야 말았다.

엘키스는 이외에도 위의 방정식을 만족하는 네 개의 정수는 무수히 존재한다는 사실을 수학적 논리로 증명했다. '1부터 1,000,000까지의 모든 숫자들에 대해 성립한다고 그것이 곧 모든 수에 대해 성립한다는 뜻은 아니다.' --<오일러의 추론>으로부터 우리가 얻은 교훈은 바로 이것이었다.

11. <과대 평가된 소수의 추론 overestimated prime conjecture>, 스큐어스의 수 p.211

12. 타원곡선

타원곡선이라는 명칭은 어떤 면에서 볼 때 매우 잘못 붙여진 이름이다. 왜냐하면 이 분야에서 중요하게 취급되는 개념은 타원도 아니고 곡선도 아니기 때문이다. 타원 곡선 분야에서 주로 연구되는 대상은 다음과 같은 형태의 방정식이다. 

 (a, b, c는 임의의 정수)

이 분야에 타원곡선이라는 이름이 붙은 이유는 과거에 타원의 둘레나 행성 궤도의 길이를 계산할 때 이 방정식을 사용했기 때문이다. 

<페르마의 마지막 정리>와 마찬가지로 타원 방정식을 푼다는 것은 준방정식을 만족하는 정수해의 존재 여부와 정수해의 개수를 알아내는 것이다. 

타원방정식이 수학자들의 특별한 관심을 끄는 이유는 그것이 단순한 대수 방정식보다 복잡하면서도 아예 해를 구할 수 없는 방정식보다는 단순하여 수학에서 독특한 분야를 점유하고 있기 때문이다. 타원방정식은 상수 a, b, c를 변화시킴으로써 무한히 많고 다양한 방정식들을 도출해낼 수 있으며 각각의 방정식은 나름대로의 흥미로운 특성들을 갖고 있다. 뿐만 아니라 모든 종류의 타원 방정식은 항상 풀이가 가능하기 때문에 수학자의 기를 꺾어놓는 일도 없다. 

예를 들어 다음과 같은 형태의 타원 방정식을 직접 푸는 것은 거의 불가능한 일이다.

무한히 많은 정수들 중에서 이 특별한 방정식을 만족시키는 모든 정수해를 주먹구구식으로 찾을 수는 없는 노릇이다. 그렇다고 포기할 수도 없기에 수학자들은 한정된 범위 안에서 정수해를 구하는 차선책을 강구하였다. 이것이 바로 소위 '시계 대수학 clock arithmetic'이라는 것이다.

13. 대칭성 symmetry p.230

14. <타니야마-시무라의 추론>이라는 로제타 석

로제타 석은 하나의 언어로부터 다른 언어를 이해할 수 있는 가교 역할을 한 셈이다. 그러나 <타니야마-시무라의 추론>은 로제타 석의 기능을 훨씬 초월하는 마술적 힘을 갖고 있었습니다. 이 추론에 의하면 모듈 세계에 대한 직관적인 이해로부터 타원 세계의 깊은 진리를 유추해 낼 수 있으며, 또 그 반대의 경우도 가능해집니다. 게다가 타원 세계의 심오한 문제들은 타니야마-시무라의 로제타 석을 이용하여 모듈 세계의 언어로 바꾸어놓을 수 있는데, 이렇게 번역된 문제는 모듈 세계에서 통용되는 수학으로 쉽게 해결되는 수도 있습니다. 타원 세계의 언어로는 풀 수 없었던 문제가 모듈 세계의 언어로는 의외로 쉽게 풀릴 수도 있다는 말이지요. 

페르마의 방정식을 타원 방정식의 형태로 변환시킴으로써, 프레이는 <페르마의 마지막 정리>와 <타니야마-시무라의 추론>을 연관시킨 것이다. 그리고 프레이는 페르마의 방정식으로부터 유도된 타원 방정식이 정상에서 벗어난 기형적인 방정식임을 지적했다. 자신이 만들어낸 타원 방정식이 정말로 존재한다면 <타니야마-시무라의 추론>은 틀린 것이어야 한다는 주장이었다. 

프레이는 자신의 주장을 더욱 분명하게 표현하기 위해 논리의 순서를 다음과 같이 바꾸어보았다.

(1) 만일 <타니야마-시무라의 추론>이 사실로 판명된다면 모든 타원 방정식은 모듈적 성질을 가져야 한다.

(2) 만일 모든 타원 방정식이 모듈적 성질을 가져야 한다면 프레이의 타원 방정식은 존재할 수 없다.

(3) 만일 프레이의 타원 방정식이 존재하지 않는다면 페르마의 방정식에 정수해란 있을 수 없다.

(4) 따라서 <페르마의 마지막 정리>는 맞는 것이다. 

게르하르트 프레이의 결론은 실로 대단한 것이었다. 그의 논리에 따르면 <타니야마-시무라의 추론>이 증명되기만 한다면 <페르마의 정리>는 자동으로 증명되는 셈이었다. 

만일 어떤 정수론 학자가 프레이의 타원 방정식을 서술할 수 있는 모종의 불변량을 발견한다면 이로부터 프레이의 타원 방정식이 모듈 형태로 변환되지 못한다는 것을 수학적으로 증명할 수 있을 것이다. 

능숙한 문제 해결사는 두 가지 자질을 동시에 가지고 있어야 한다.

끊임없는 상상력과 불굴의 의지가 바로 그것이다. 

- 하워드 이브스 Howard W. Eves

15. 완전한 집중 뒤의 휴식 - 이때가 가장 중요한 순간입니다.

한 바탕 벌어질 전쟁에 대비하여 필요한 무기들을 모두 준비한 뒤에, 와일즈는 타원 방정식과 모듈 형태에 관련된 모든 수학들을 섭렵하면서 18개월의 시간을 보냈다. 그러나 그 정도는 시작에 불과했다. 그는 완전한 증명을 끝내기 위해서는 오로지 한 가지 생각만으로 10년 이상의 세월을 인내해야 한다고 생각했다.

"사람들은 머릿속에 떠오른 생각을 구체화시키기 위해 흔히 종이 위에 무언가를 끄적거려 보지만, 이것은 반드시 필요한 행위가 아니라고 생각합니다. 특히 막다른 길과 마주치거나 도저히 극복할 수 없는 문제에 직면했을 때, 지루한 수학적 사고는 별 도움이 되지 않습니다. 무언가 새로운 아이디어가 떠오르려면 한 문제에 완전히 집중한 채로 엄청난 시간을 인내해야만 합니다. 한마디로 완전한 집중, 그 자체지요. 그런 다음에 생각을 멈추고 잠시 휴식을 취하면 무의식이 서서히 작동하기 시작합니다. 바로 이때 새로운 영감이 떠오르게 되죠. 완전한 집중 뒤의 휴식 - 이때가 가장 중요한 순간입니다."

Modular elliptic curves and Fermat's Last Theorem

페르마의 마지막 정리 국내도서 저자 : 사이먼 싱(SIMON SINGH) / 박병철역 출판 : 영림카디널 2014.07.01 상세보기