페르마의 마지막 정리, 세계 최대의 수학 난제를 풀다.

페르마의 마지막 정리 - 출처: Yes24

여백이 너무 좁았던 페르마의 정리

페르마의 정리란 x의 n제곱 더하기 y의 n제곱은 z의 n제곱이라는 식에서 3 이상의 지수를 가진 정수는 이와 동일한 지수를 가진 다른 두 정수의 합으로 표현할 수 없다입니다. 페르마는 아리스메키카 2권을 공부하면서 여백에 이렇게 적었다고 합니다. 그리고 나는 경이로운 방법으로 이 정리를 증명했지만 이 책의 여백이 너무 좁아서 여기에 옮기지는 않겠다는 이렇게 장난기 어린 주석을 여백에 달아놓았습니다. 진실일지 아닐지는 모르겠지만 단지 귀찮다는 이유로 세상에 발표하지 않은 그 말은 전 세계 많은 사람들의 약을 올렸습니다. 이 정리는 훗날 페르마의 마지막 정리라는 이름으로 세상에 알려지면서 전 세계 수학자들 사이에서 가장 유명하고 가장 증명하기 어려운 정리로 자리를 굳혔습니다.

오일러의 도전과 파울의 재산 기부

책에는 여러 명의 역사적 수학적으로 유명한 수학자들이 등장합니다. 첫 번째 타자는 오일러입니다. 오일러의 정리 아십니까? 오일러는 n이 3인 경우 정수해는 없다는 사실을 증명하고 n이 4인 경우에는 허수의 개념을 도입해서 증명을 했습니다. 그다음 등장한 수학자는 소피 제르멩입니다. 여자 수학자인 소피 제르맹은 1700년대 프랑스에서 태어나서 여성임을 숨기고 파리 기술 대학교를 다니면서 공부한 수학 천재입니다. 당시는 여성 수학자들을 거의 용납하지 않은 분위기였습니다. 그래서 그녀는 혼자 힘으로 우뚝 선 그런 수학자입니다. 수학자 가우스와 편지를 주고받으면서 논리를 전개한 그녀는 특별한 성질을 갖는 소수에 대해서 x의 n제곱 더하기 y의 n제곱은 z의 n제곱을 만족하는 정수가 존재하지 않을 것이라는 논리를 전개했습니다. 소피 제르맹 이후 프랑스 과학학술원은 페르마의 마지막 정리를 완벽하게 증명한 사람에게 금메달과 3천 프랑을 주겠다고 했습니다. 그래서 페르마의 정리를 증명하던 중인 가브리엘 라메와 오귀스탱 루이 코시가 페르마의 마지막 정리를 증명을 했습니다. 그러나 독일의 수학자 에르스트 쿰머가 이의 모순을 발견합니다. 코시와 라메의 증명은 소인수 분해에 기초를 두고 있습니다. 불규칙 소수에 대해서 소인수 분해로 해결할 수 없다는 오류가 있었던 것입니다. 쿰머 이후에 페르마의 정의가 증명될 희망은 희미해져 가고 있었습니다. 이때 독일의 실업가 파울 볼프스켈이 페르마의 정리에 다시 불을 붙였습니다. 그는 실연의 아픔으로 자살을 결심을 했습니다. 유서를 쓰다가 직장에서 쿠마의 논문을 보게 됩니다. 쿠마의 논문을 읽다가 논리 허점을 발견하게 됩니다. 이 오류를 수정하면서 그는 이 논리를 더욱 완벽하게 만들었다는 사실에 자부심을 느끼게 되고 수학으로 인해서 새로운 삶의 의미를 찾게 되었습니다. 그는 유서를 모두 찢어버린 다음에 페르마의 정리를 증명한 사람에게 자신의 재산을 기부하겠다고 합니다.

세계 최대의 수학 난제를 풀다

이제 일본이 배경이 됩니다. 1950년대 일본 도쿄 대학에서 고로 시무라와 유타카 타니아마가 만나게 됩니다. 이 둘은 모듈 형태로는 함께 연구하게 되고 몇 개의 타운 방정식이 특정한 모듈 형태와 일정한 관계가 있다는 것을 계산으로 증명합니다. 이 이론은 타니야마 시무라의 추론이라고 불립니다. 다시 독일로 갑니다. 1984년 독일의 수학자 게르하르트 프레인은 페르마의 정의를 타원의 방정식으로 변환시킴으로써 페르마의 마지막 정리와 타니아마 시무라의 추론을 연관시킵니다. 그의 논리에 따르면 타니아마 신문화의 추론이 증명이 되기만 하면 페르마의 정리는 자동으로 증명이 되는 셈입니다. 이제 영국으로 갑니다. 페르마의 마지막 정리를 최종적으로 증명하게 되는 사람은 영국의 수학자 앤드류 와일즈입니다. 1986년 앤드류 와일즈는 타니아마 시메라의 추론과 페르마의 마지막 정리 하나의 문제로 통합되는 것을 인식합니다. 그는 대수학에서 특정한 체의 확장에 대응하는 갈루아의 군을 타원 방정식에 도입해서 타원 방정식을 무한히 많은 조각으로 분해하고 그리고 콜리바긴 플라우의 방법이라는 아이디어를 사용해서 모든 패턴의 타원 방정식을 격파하기로 마음을 먹었습니다. 이 방식에 익숙하지 않았기 때문에 프린스턴 대학교 동료인 닉 카츠에게 연구 결과 검증을 부탁합니다. 그리고 1993년 와일즈는 자신의 결과에 대한 충분한 확신을 얻을 수 있었습니다. 자신의 연구 결과를 발표합니다. 불완전한 타원 곡선에 대한 타니아마 시무라의 출원 증명을 제시하고 타원 방정식의 출원에 대한 리벳의 증명을 함께 도입해서 마지막 정리를 증명을 했습니다. 그런데 이 증명을 검증하는 과정에서 오류가 발생합니다. 다시 또 1년 동안 이 오류를 수정을 하기 시작합니다. 그래서 1994년 9월 19일 와일즈는 예전 콜리바긴 방법을 도입하면서 포기했던 자신의 수평 이와사와 이론 접근법을 상호보완적으로 적용해서 헤르마의 마지막 정리를 완벽하게 진행을 했었습니다.

이쯤에서 끝내는 것이 좋겠습니다

오늘은 페르마의 마지막 정리라는 책을 가지고 왔습니다. 솔직히 저도 이 책을 펴기까지 많은 걱정과 고민이 있었습니다. 어려운 내용만 있거나 수학 공식만 있으면 어떡하나라는 생각을 하고 책을 펼치니 의외로 엄청 재밌어서 앉은자리에서 끝까지 다 읽었습니다. 결코 딱딱한 수학 내용만 있는 것이 아니었고 긴장을 자아내는 경쟁과 대결, 수학자들의 피땀 눈물이 담긴 책입니다. 수학 세계에는 리만 가설과 같은 밀레니엄 7대 난제와 같은 오랜 시간 많은 사람이 해결하지 못한 난제들이 있습니다. 수학 역사에 존재했던 여러 난제 중에 가장 유명한 것은 페르마의 정리입니다. 이 책은 페르마의 정리를 풀기 위한 대장정과 수학자들의 재밌는 이야기가 담긴 책입니다. 수학에 흥미가 없더라도 끝까지 긴장을 놓지 못하는 감동의 드라마를 즐길 수 있어서 모두에게 강력히 추천하는 책입니다. 앤드류 와일즈가 페르마의 마지막 정리 증명을 마치면서 이쯤에서 끝내는 것이 좋겠습니다라고 했을 때 현장에서는 우레와 같은 박수가 터지며 감동의 도가니였다고 합니다. 400년 동안 수학자들의 피땀 눈물이 결실을 맺는 순간이었습니다. 이 책은 그런 수학의 역사에 대해 배우고 수학에 대한 흥미를 가질 수 있는 책이고 꿈을 향해 노력하는 수학적인 의지 또한 배울 수 있는 책입니다. 수학에 친숙하지 않더라도 끝까지 재밌게 읽을 수 있는 책이기도 합니다. 페르마의 마지막 정리 리뷰는 저도 이쯤에서 끝내는 것이 좋겠습니다. 저도 리만 가설을 경이로운 방법으로 증명했지만 방문자 수가 너무 적어서 여기에 옮기지 않겠습니다.