수학자들이 새로운 세계를 만들 때, 그 세계가 성공하기 위한 몇 가지 조건이 있습니다. 그 중 몇 가지를 언급한다면
1. 세계관의 확장이 기존 시스템에 문제를 만들지 않을 것
2. 새로운 세계에서도 기존의 규칙은 잘 맞을 것
3. 확장을 하더라도 단순할 것
4. 확장을 통해 파생되는 결과가 많을 것
정도가 되겠습니다. 기준 자체는 정치적으로 보입니다. 사실, 새로 발표된 이론이나 시스템이 성공을 하려면 운도 많이 따라야 하는 것 같습니다.
실수가 복소수로 확장이 될 때는 이러한 규칙이 훌륭하게 적용이 되었습니다. 실수의 기존 연산법칙과 해석학적 성질에 전혀 문제를 일으키지 않았고, 재미있는 기하학적 해석이 가능해지게 되었으며, 기존에 불편했던 함수도 복소수를 정의역으로 확장했을 때 재미있는 결과들이 많이 나왔습니다. 얼마전 이슈가 되었던 리만가설도 그 중 하나입니다.
이 글에서는 복소수 확장을 처음 시도했던 해밀턴이 왜 3차원을 포기해야 했었는지(말은 해밀턴이라고 했지만, 당시 수학자들은 다들 생각해봤던 문제일 것입니다.)를 하나의 팩트체크를 통해 생각해보기로 하겠습니다.
우선, 실수/복소수까지 확장하면서 유지되었던 성질을 살펴보기로 하겠습니다. 두 수체계는 다음 성질을 가집니다.
- 덧셈에 대해 결합법칙, 교환법칙을 만족하고 0이라는 항등원이 있으며, 모든 수는 덧셈에 대한 역원이 있습니다.
- 곱셈에 대해 결합법칙, 교환법칙을 만족하고 좀전의 0과는 다른 1이라는 곱셈의 항등원이 있으며, 0을 제외한 모든 수는 곱셈에 대한 역원을 가집니다.
- 덧셈, 곱셈 사이에 다음과 같은 분배법칙이 성립합니다. $$a(b+c) = (ab)+(ac), \quad (b+c)a = (ba)+(ca)$$
해석학적으로는 모든 코시수열이 수체계 내에서 수렴한다는 완비성도 두 시스템에서 모두 성립합니다. 그럼 여기에다가 성분을 하나 더 추가해서 3차원에서 사용할 수 있는 숫자를 왜 못만들었을까요?
확장하기 전에 우리는 어떤 성질을 최대한 유지해야 하는지를 생각해 볼 필요가 있습니다. 그리고, 대체로 인정하게 될 것은 앞서 말한 실수/복소수의 연산법칙을 다는 아니더라도 대부분 잘 따라야 한다는 것일 겁니다.
그럼, 이제 시험삼아 확장을 해 봅시다. 우선 $0$과 $1$은 있어야 하겠고요, 복소수에서 확장을 추가로 하는 것이므로 허수단위 $i$와 비슷한 성질을 가지는 수를 하나 추가합시다. 이것을 $j$로 쓰겠습니다. 그러면 확장하려는 시스템의 원소는 다음과 같은 꼴이라고 설정할 수 있겠습니다: $$a+bi+cj, \quad a, b, c \in \mathbb R, \quad i^2 = j^2 = -1$$
덧셈은 복소수에처럼 정의하면 무리가 없겠고요, 곱셈을 하려니 $i$와 $j$의 곱 $ij$가 정의되어있지 않네요. 어떻게 정의해야 할 지 고민해 보기 위해서 $$ji = p+qi+rj,\quad p,q,r \in \mathbb R$$ 이라고 합시다. 이제 적당한 $p$, $q$, $r$만 정해주면 원하는 시스템의 초기설정이 끝납니다. 물론, 가능하다면 말이죠. 위 식의 양변에 $i$를 한 번 곱해보겠습니다. 그러면 $$(ji)i = pi+qi^2 +rji$$ 곱셈에 대한 결합법칙과 분배법칙은 계산의 편의를 위해 인정해두기로 합니다. 그리고, 실수와 $i$, 실수와 $j$ 사이의 곱은 복소수의 관례대로 교환법칙을 유지하기로 해봅시다. 이제, 계산 가능한 부분을 처리하면 위 식은 다음과 같아집니다. \begin{align*} -j &= pi-q+rji = pi-q+r(p+qi+rj) \\ &= (rp-q)+(p+rq)i + r^2 j \end{align*} 이므로 양변을 비교하면 $r^2 = -1$이 되어야 합니다. 이것은 $r$이 실수라는 가정에 모순됩니다.
위에서 살펴본 것은 아주 단순한 논리와 직관을 사용한 설명입니다. 사실, 3차원 확장이 불가능하다는 것을 증명하는 일은 간단한 것이 아니라서 한동안 수학자들이 연구를 했었습니다. 지금 봐서 알 수 있듯이 만약 가능했다면 정말 이상한 계산을 해야 했을 것입니다.